OpenAI-ийн судалгааны баг их хэлний загваруудын сэтгэх үйл явцыг хянах уламжлалт арга барил үр дүнгээ алдаж болзошгүйг тогтоолоо. Загварууд алхам алхмаар бодож буйгаа ил тод бичихгүйгээр ч нарийн бодлогуудыг амжилттай бодож чаддаг болсон нь аюулгүй байдлын шинжээчдийн сэтгэлийг зовоож байна.

Бодлын хэлхээг тойрч гарах чадвар

Урьд нь их хэлний загварууд аливаа асуудлыг шийдэхдээ 'бодлын хэлхээ' (Chain-of-Thought буюу CoT) хэлбэрээр үе шаттай эргэцүүлж, түүнийг нь хүн уншиж хянах боломжтой байсан. Гэвч шинэ үеийн сургалтын үр дүнд загварууд энэхүү үйл явцыг ил гаргалгүй, дотоод нейрон сүлжээний түвшинд шууд гүйцэтгэх чадвар нь үлэмж дээшилсэн байна.

Хяналт ба аюулгүй байдлын шинэ эрсдэл

Хэрэв загвар хэрхэн тухайн шийдэлд хүрснээ ил тод тайлагнахгүй бол түүнийг хууран мэхлэх үйлдэл хийж буй эсэх, эсвэл хортой алгоритм боловсруулж байгааг цаг алдалгүй илрүүлэхэд туйлын бэрх болно. Иймд AI технологийн тэргүүлэх байгууллагууд загварын дотоод логикийг хянах илүү гүнзгий мониторингийн аргуудыг яаралтай хөгжүүлэх шаардлагатай тулгараад байна.