Хиймэл оюун компанийн мэдээллийн санг бүхэлд нь устгасныхаа хариуд уучлалт гуйжээ

Нэгэн программ хангамжийн компанийн ажлаа хөнгөвчлөх зорилгоор ашигладаг код бичдэг хиймэл оюун есөн секундийн дотор тус компанийн мэдээллийн санг устгаж орхижээ.

Уг явдал тохиолдсон “PocketOS” компанийг үндэслэгч Жер Крэйн хэлэхдээ, “Anthropic-ийн Claude Opus 4.6 загварт суурилсан Cursor хэмээх хиймэл оюунтай агент дөрөвдүгээр сарын 24-нд компанийн бүх өгөгдлийн сан болон нөөц хуулбарыг устгасан байна.

Жер энэ явдал нь хиймэл оюун ухаантай агент бодит багаж хэрэгсэл даатгахаар яарч буй бусад компаниудад сануулга болох ёстой хэмээжээ. Мөн хиймэл оюунтай агент хөгжүүлдэг фирмүүд бүтээгдэхүүнээ компаниудын дэд бүтцэд оруулах гэж яарч, аюулгүй байдлыг хоцрогдуулж байгаа асуудал гэж тэр бичсэн байна.

Энгийн чатботоос ялгаатай нь хиймэл оюунтай агент нь хэрэглэгчийн өмнөөс үйлдэл хийж чаддаг. Эдгээр агентууд файл хайх, код бичих, нэвтрэх түлхүүр ашиглах боломжтой юм. Харин чатботтой зөвхөн текстээр харилцаж болдог. Энэ утгаараа агент илүү ашигтай байж болох ч, системүүдэд нэвтрэх эрхтэй агент томоохон хохирол хүргэж магадгүй юм.

Cursor мэдээллийн санг нь устгаж орхисон “PocketOS” компани нь автомашин түрээсийн компаниудад зориулсан захиалга, төлбөр тооцоо, хэрэглэгчийн бүртгэл, тээврийн хэрэгслийн хяналт зэрэг программ хангамжийн үйлчилгээ үзүүлдэг. Мэдээлэл устгагдсаны дараа автомашин түрээсэлдэг компаниудын үйлчлүүлэгчдэд түрээсийн машинаа авахаар ирэхэд мэдээлэл нь олдохгүй болсон гэх мэт хүндрэл учирчээ.

Энэ талаар хуульчтай холбогдож бүх зүйлийг баримтжуулж авч байгаа гэдгээ Жер мэдэгдсэн юм.

Cursor агент нь программ хангамжийн туршилтын хувилбар буюу "staging environment" дээр ажиллаж байжээ. Энэ нь программ хөгжүүлэгчид шинэчлэлээ хэрэглэгчдэд хүргэхээсээ өмнө аюулгүйгээр туршиж үздэг орчин юм.

Гэвч Cursor туршилтын орчинд нэвтрэх эрхийн асуудалтай тулгарсан тул сервер дээр хадгалагдсан датаг устгах замаар асуудлыг засах шийдвэрийг ямар нэгэн албан тушаалтнаас асуулгүй өөрөө гаргажээ.

Жерийн хэлснээр баталгаажуулалтгүйгээр устгах боломж олгодог серверийн тохиргоотой байсан тул Cursor “Railway” дээрх мэдээллийн санг нь шууд устгасан байна. “Railway” нь үүлэн сангийн үйлчилгээ үзүүлдэг компани юм. “PocketOS” мэдээллийн сангаа хуулбарлан нөөц болгож хадгалсан дата үндсэн өгөгдлийн сантайгаа ойрхон хадгалагдаж байсан тул тэдгээр нь бас хамт устгагдсан аж.

Мэдээллийн санг устгагдсаны дараа Cursor өөрөө таамаглал дэвшүүлж, зөвшөөрөлгүй үйлдэл хийж, өгсөн даалгаврыг гүйцэтгэхийнхээ өмнө бүрэн ойлгоогүй байснаа хүлээн зөвшөөрчээ.

Cursor "Надад зааж өгсөн бүх дүрмийг би зөрчсөн байна. Баталгаажуулж асуухын оронд таамагласан. Асуулгүйгээр устгах үйлдэл хийсэн. Яг юу хийж байгаа гэдгээ ойлгоогүй байж ээ" хэмээн Жерээс уучлал гуйсан байна.

Энэхүү мэдэгдэл нь хэргээ хүлээж байгаа мэт уншигдаж байгаа ч, хиймэл оюунтай агент нь үйлдлийнхээ үр дагаврыг нь үнэхээр ойлгодоггүй. Сургагдсан дата, мэдээлэл дээрээ үндэслэн текст үүсгэдэг. Хиймэл оюунтай агентууд хэрэглэгчийг тайвшруулахын тулд хэт найрсаг зан гаргах хандлагатай байдгийг харуулсан судалгаанууд бий.

Жер өөрийн сошиал хуудас дээрээ "Бид Stripe, хуанли болон имэйл дээрх мэдээллүүдийг ашиглаад боломжтой гэсэн бүх зүйлийг сэргээж байна" гэжээ. “Business Insider”-ийн мэдээлснээр “Railway” компани өгөгдлийг сэргээсэн гэж мэдэгдсэн байна.

Мөн "Railway” компани “Live Science” сайтад мэдээлэл өгөхдөө “Асуудлыг шийдэж, өгөгдлийг сэргээсэн. Бид үйлчлүүлэгчийн мэдээллийг өөр санд нөөцлөн хадгалдаг. Бид өгөгдлийн аюулгүй байдалд маш, маш нухацтай ханддаг" гэжээ. Азаар “PocketOS” компанийн мэдээллийн сан сэргээгдсэн ч гэсэн уг явдал жижиг алдаа томоохон асуудал болж хувирдгийг харуулав.

Cursor нь “Anthropic”-ийн шилдэг загвар болох Claude Opus дээр суурилан ажиллаж байсан юм. Жер сошиал хуудас дээрээ "Хиймэл оюун хөгжүүлж, нийлүүлдэг компаниуд ийм нөхцөлд 'та илүү сайн загвар ашиглах ёстой байсан' гэж хэлж магадгүй. Гэтэл бид хамгийн шилдэг загварыг ашиглаж байсан. Аюулгүй байдлын тодорхой дүрмүүдийг тохируулж, салбартаа л хамгийн алдартай Cursor-ийг ашигласан" гэж бичжээ.

Жер нийтлэлдээ Cursor агент хэрэглэгчийн тогтоож өгсөн дүрмийг үл тоомсорлож, нэвтрэх ёсгүй байсан файлуудаа өөрчилж, өгсөн даалгавраас хэтэрсэн үйлдэл хийсэн тохиолдлуудыг онцолсон юм. Түүний үзэж буйгаар мэдээллийн санг устгасан нь санамсаргүй явдал биш, харин илүү том асуудлын шинж тэмдэг аж

Эх сурвалж: Live Science

Өөрийн сэтгэгдлээ илэрхийл

Share Tweet