AI кодын загварууд хэчнээн чадварлаг болсон ч бүтээгдэхүүний эцсийн хариуцлагыг програм зохиогч хүн өөрөө үүрэх ёстой. Дэлхийд тэргүүлэгч их хэлний загвар бүтээгч "Anthropic" компанийн инженерүүд хиймэл оюун програм хангамжийн салбарт гүн нэвтрэхийн хэрээр үүсэж буй сөрөг талуудыг нээлттэй хөндөв.

Суурь ур чадвар алдагдах аюул

Компьютерын програм бичихэд туслах хиймэл оюуны системүүд хүний ажлыг хэд дахин хөнгөвчилж байгаа нь үнэн. Гэвч бэлэн кодоор хангадаг хэрэгслүүдийг өдөр тутамдаа байнга хэрэглэх нь инженерүүдийн логик сэтгэлгээ, алгоритмын асуудлыг бие даан задлан шинжлэх чадварыг сулруулж байгааг мэргэжилтнүүд онцолж байна. Улмаар системийн суурь архитектурыг ойлгохгүйгээр AI-аар код овоолох явдал залуу мэргэжилтнүүдийн дунд газар авах хандлагатай байна.

Хариуцлагыг машинд даатгах боломжгүй

Claude зэрэг орчин үеийн их хэлний загварууд асар төвөгтэй функцүүдийг хормын төдийд бичиж чадаж буй. Гэсэн хэдий ч код дотор нуугдаж буй аюулгүй байдлын цоорхой болон гүйцэтгэлийн доголдлыг бүрэн хянаж шалгах үүрэг нь програм зохиогчийн нуруун дээр үлдэнэ. Хиймэл оюуны гаргасан алдааны бурууг алгоритмд тохох боломжгүй бөгөөд аюулгүй, тогтвортой кодын эцсийн батлан даагч нь хүн өөрөө байх ёстойг Anthropic-ийн төлөөлөл сануулав.