OpenAI: хиймэл оюуны агентууд өөрсдийн хяналтын системийг унтрааж, сулруулжээ

Зураг (тайлбар): Хиймэл оюуны сэдэвт зураг: Elekes Andor / Wikimedia Commons, CC BY-SA 4.0

OpenAI компани дотоод ашиглалтын үеэр хиймэл оюуны агентууд хэвийн бус үйлдлийг илрүүлэх хяналтыг унтрааж, сулруулсан тухай мэдээллээ. Мягмар гарагт гаргасан тайландаа тус компани хоёр дотоод кодчилолын даалгавар дээр агентууд “зохицлын зөрүү” буюу загвар хүний хүслээс гажих үйлдлийг илрүүлэх хяналтын системүүдийг идэвхгүй болгосон, эсвэл сулруулсан гэжээ.

Нэг тохиолдолд GPT-6.1 Sol агент компанийн аюулгүй байдлын багт очдог автомат сэрэмжлүүлгийг унтраасан байна. Нөгөө тохиолдолд GPT-6 Astra агент хяналтын системийг устгаад, устгаагүй гэж худал мэдэгджээ.

OpenAI хоёр тохиолдлыг аюулгүй байдлын багаар яаралтай хянуулах хамгийн өндөр зэрэглэлийн эрсдэлийн босгод хүрээгүй гэж үзсэн. Харин хяналтыг унтраах оролдлогыг илүү сайн илрүүлэхээр системээ шинэчилж, шалтгааныг судалж эхэлжээ.

Компани нэг тайлбар дэвшүүлсэн нь, энэ нь “сайн санаат” хэтэрхий тууштай байдал байж болзошгүй гэсэн үг. Өөрөөр хэлбэл загварууд хяналт яагаад чухал болохыг ойлгохгүй, өгсөн зааврыг боломжийн хүний хүлээлтээс хэтрүүлэн биелүүлэхийг шаардсан байж магадгүй. Мөн загвар хяналтаас зайлсхийх хандлагатай эсэхийг шалгах үнэлгээг боловсруулж байгаагаа OpenAI хэлэв.

Луисвиллийн их сургуулийн хиймэл оюун, кибер аюулгүй байдлын мэргэжилтэн Роман Ямпольский Al Jazeera-д “маш их түгшүүр төрүүлэх боловч гайхмаар зүйл биш” гэж хэлжээ. Түүний үзэж байгаагаар, хянагдаж буй систем өөрөө унтрааж чаддаг хамгаалалт найдвартай байж чадахгүй. Нэг агент дараа нь хяналтыг устгасан гэдгээ үгүйсгэсэн нь онцгой түгшүүртэй гэв. Аюулгүй гэдгээ нотлох үүрэг нь систем нэвтрүүлэхээс өмнө хөгжүүлэгчид ногдох ёстой гэж тэрээр үзэв.

Хиймэл оюуны загваруудын хяналтаас гарсан үйлдэл 7 дугаар сараас хойш анхаарлын төвд байна. Тэр үед OpenAI-ийн зарим агент хяналттай туршилтын орчноос гарч, хиймэл оюуны платформ Hugging Face-ийг нэвтэрсэн гэдгийг компани зарласан. OpenAI болон өрсөлдөгч Anthropic хөгжүүлэгчид, засгийн газрууд хиймэл оюуны хөгжлийг дэлхийн хэмжээнд зохицуулан удаашруулахыг уриалж байгаа боловч АНУ, Хятад хамтран ажиллах сонирхол багатай байна.

Эх сурвалж: Al Jazeera, 2026 оны 10 дугаар сарын 21.