Хиймэл оюун ухаан хөгжүүлэгч томоохон компаниуд автономит AI агент нь бусад компанийн цахим дэд бүтцэд нэвтэрсэн тохиолдол гарсан талаар мэдээлэх боллоо. Автономит AI гэдэг нь хүний шууд хяналтгүйгээр, бие даан шийдвэр гаргаж үйлдэл хийдэг AI систем юм. Ийм учир тэдгээр системийн гаргасан үйлдэлд хэн хуулийн хариуцлага хүлээх вэ гэсэн асуулт гарч ирж байгаа юм.
AI агентууд ямар үйлдэл хийв
ChatGPT-ийг хөгжүүлэгч “OpenAI” компани саяхан мэдэгдэл хийхдээ хөгжүүлж буй AI агент нь “Hugging Face” нэртэй хиймэл оюун ухааны стартап компанийн системд нэвтэрсэн гэсэн юм. Мөн AI агентууд нь цахим орчинд тавьсан хязгаарлалтыг давж гарсан хэд хэдэн тохиолдол илрүүлсэн байна.
“Hugging Face”-ийн гүйцэтгэх захирал Клемент Делангю болсон явдлын улмаас шүүхэд нэхэмжлэл гаргах төлөвлөгөө байхгүй гэж хэлжээ. Гэхдээ тэр “CBS News” агентлагт өгсөн ярилцлага өгөхдөө, бүтээгчид нь хариуцлага хүлээхгүйгээр AI агентуудаар цахим халдлага үйлдэх явдал авах вий гэж санаа зовж буйгаа илэрхийлжээ. Ийм төрлийн халдлага нь технологийнсалбарын хувьд цоо шинэ эрсдэл гэж тэр хэлсэн юм.
Хиймэл оюун хөгжүүлэгч өөр нэгэн томоохон компани болох “Anthropic” мэдэгдэхдээ, дөрөвдүгээр сараас хойш Claude-ийн загварууд гурван компанийн системд нэвтэрсэн тохиолдол бүртгэгдсэн гэсэн юм. Харин “Meta Platforms” компани цахим аюулгүй байдлын туршилтын үеэр AI загвар нь өөр компанийн системийг хакдаж нэвтэрсэн гэж мэдэгджээ.
“Meta”-д цахим аюулгүй байдлын үнэлгээ хийдэг “Irregular” компани системийн буруу тохиргоо хийсний улмаас туршилтын үеэр AI загвар нь интернэтэд нэвтэрсэн гэж “Meta” тайлбар өгсөн юм.
Ийм тохиолдолд хэн нэхэмжлэл гаргаж болох вэ?
Дээрх тохиолдлуудад АНУ-д гарсан тул тус улсад ямар нэхэмжлэл гаргаж болох талаар харцгаая. Мэргэжилтнүүдийн үзэж буйгаар цахим аюулгүй байдал нь зөрчигдсөн компаниуд ийм тохиолдолд нэхэмжлэл гаргаж болохоос гадна тухайн компанийн ажилтан, албан хаагчид ч хохирлоо нэхэмжлэх боломжтой юм. Мөн халдлагад өртсөн компанийн үйлчлүүлэгчдийн хувийн мэдээлэл ил болсон тохиолдолд тэдгээр хүмүүс тус бүр нэхэмжлэл гаргаж болно
Мөн цахим халдлагын улмаас аливаа компанийн үнэлгээ, имиж буурсан бол хувьцаа эзэмшигчид ч хохирлоо нэхэмжлэх боломжтой байж магадгүй. Хууль сахиулах болон зохицуулах байгууллагууд автономит AI оролцсон хэргийн үед нэхэмжлэл гаргах боломжтой гэж АНУ-ын хуулийн мэргэжилтнүүд үзэж байна.
Ямар үндэслэлээр нэхэмжлэл гаргаж болох вэ?
Хяналтаас гарсан AI агентуудын асуудал нь шинэ асуудал. Гэхдээ олон жилийн турш үйлчилж ирсэн хуулийн зарчмууд хариуцлага тооцоход тодорхой хэмжээгээр чиг баримжаа өгч чадна гэж хуулийн мэргэжилтнүүд үзэж байгаа юм.
AI компаниудын эсрэг иргэний шүүхэд нэхэмжлэл гаргаж болох хамгийн түгээмэл үндэслэл нь хайхрамжгүйхандсан гэх үндэслэл аж. Энэ тохиолдолд нэхэмжлэгч тал тухайн автономит агентыг бүтээсэн, туршсан эсвэл ашиглалтад оруулсан компани нь урьдчилан таамаглах боломжтой хохирлоос сэргийлэх, эсвэл хохирлыг багасгахын тулд шаардлагатай арга хэмжээг аваагүй гэдгийг нотлох шаардлагатай.
Мөн систем нь халдлагад өртсөн компаниуд АНУ-ын компьютерын сүлжээнд нэвтрэх эрхийг хамгаалсан хууль тогтоомж зөрчсөн гэж үзэн нэхэмжлэл гаргаж боломжтой аж.
АНУ-ын хэд хэдэн хуулийн фирм “OpenAI” болон “Anthropic” компаниудын мэдээлсэн тохиолдлуудтай холбогдуулан үйлчлүүлэгчдэдээ зориулсан зөвлөмж нийтэлсэн байна. Тэдгээр нийтлэл дээр AI агент цахим халдлагад оролцсон тохиолдолд АНУ-ын холбооны Компьютерын залилан болон зүй бус ашиглалтаас хамгаалах тухай хуулийн (Computer Fraud and Abuse Act) дагуу хэн хариуцлага хүлээх вэ гэсэн асуудлыг хөндөж байна гэж онцолжээ.
Гэхдээ уг хуульд тухайн үйлдэл санаатай байсан гэдгийг нотлох шаардлага тавьдаг. Цахим системд хүн биш, AI агент нэвтэрсэн тохиолдолд санаатай үйлдэл эсэхийг хэрхэн тогтоох талаар ямар нэгэн шүүх шийдвэр огт гаргаж байгаагүй.
Жишээлбэл “Amazon” компани “Perplexity”-гийн AI агентууд “Amazon”-ийн хэрэглэгчдийн хувийн бүртгэлд нууцаар нэвтэрсэн нь дээрх хуулийг зөрчсөн гэх нэхэмжлэл гаргажээ. АНУ-ын нэгэн давж заалдах шатны шүүх наймдугаар сарын 5-нд шийдвэр гаргахдаа “Amazon” тус нэхэмжлэл дээрээ амжилт олох магадлал бага гэсэн юм.
Хэн хариуцлага хүлээх боломжтой вэ?
Мэргэжилтнүүдийн үзэж байгаагаар АНУ-д иргэний нэхэмжлэл гаргасан тохиолдолд хамгийн түрүүнд AI агентыг бүтээсэн компани хариуцагчаар татагдах магадлалтай. Мөн AI агентыг ашиглалтад оруулсан компани болон халдлагад өртсөн компани ч мөн нэхэмжлэлд хариуцагчаар татагдаж болно.
Нэг хэргийн улмаас хэд хэдэн хүн, хуулийн этгээдийн эсрэг нэхэмжлэл гаргах үндэслэл үүсэж магадгүй. Дэлгүүрээс гэмтэлтэй бүтээгдэхүүн худалдсан хэрэглэгч дэлгүүрийн эсрэг нэхэмжлэл гаргаж, харин дэлгүүр тухайн бүтээгдэхүүнийг үйлдвэрлэсэн компанийн эсрэг өөрөө нэхэмжлэл гаргаж болдогтой адил нөхцөл байдал үүсэх боломжтой.
Эх сурвалж: Reuters
АНХААРУУЛГА: Уншигчдын бичсэн сэтгэгдэлд Eguur.mn хариуцлага хүлээхгүй болно. Манай сайт ХХЗХ-ны журмын дагуу зүй зохисгүй зарим үг, хэллэгийг хязгаарласан тул Та сэтгэгдэл бичихдээ бусдын эрх ашгийг хүндэтгэн үзнэ үү.