2015 оны арванхоёрдугаар сард San Francisco хотод Илон Маск, Сэм Альтман, Илья Суцкевер, Грег Брокман нар OpenAI-ийг үүсгэн байгуулахдаа дэлхий дахинд нэгэн ариун тангараг өргөсөн билээ. Тэдний зорилго бол ямар ч хувийн ашиг хонжоо хайхгүйгээр, ашгийн бус судалгааны лабораторийн хэлбэрээр хүн төрөлхтөнд бүхэлд нь үйлчлэх, хүнээс илүү ухаалаг аюулгүй хиймэл ерөнхий оюуныг (AGI) бүтээх явдал байв. Гэвч арван жилийн дараа тус байгууллага 150 гаруй тэрбум долларын үнэлгээтэй, ашгийн төлөөх аварга корпорац болон хувирч, анхлан тунхаглаж байсан аюулгүй байдлын үнэт зүйлс нь арилжааны хурд, зах зээлийн өрсөлдөөний хөлд үрэгдэн үгүй болсныг гэрчлэх дуулиан дараалан дэгдэв. Энэхүү гүн ан цав 2024 оны дөрөвдүгээр сард ил гарч, OpenAI-ийн Супер Алайнмент (Superalignment) багийн цөмийн гишүүн, 21-хэн настай Колумбийн их сургуулийн гоц төгсөгч Леопольд Ашенбреннер болон судлаач Павел Измайлов нарыг удирдлагаас мэдээлэл гадагш алдагдуулсан хэмээх шалтгаанаар гэнэт ажлаас нь халсан юм. Гэвч хэдхэн сарын дараа Ашенбреннер алдарт Dwarkesh Patel-ийн подкастад өгсөн дөрвөн цагийн ярилцлагадаа бодит үнэнийг дэлгэж, Цахиурын хөндийг донсолгосон билээ.
Сэм Альтман ба Илья Суцкевер
OpenAI-ийн удирдагчид Сэм Альтман ба Илья Суцкевер нар. 2023 оны эцсээр ТУЗ-ийн түвшинд үүссэн аюулгүй байдал ба арилжааны зөрчил нь 2024 онд судалгааны багийн бүрэн задралаар төгссөн юм. Эх сурвалж: Wikimedia Commons
Ашенбреннерийн дэлгэснээр тэрээр гаднын этгээдэд ямар ч нууц мэдээлэл задруулаагүй, харин OpenAI-ийн Төлөөлөн удирдах зөвлөлд (ТУЗ) хандан компанийн дотоод кибер аюулгүй байдлын ноцтой цоорхой, загварын жингийн хамгаалалт туйлын хангалтгүй байгааг анхааруулсан нууц санамж бичиг бичсэнийхээ төлөө шийтгэгдсэн байв. Тэрээр санамж бичигтээ OpenAI-ийн сүлжээний хамгаалалт нь энгийн гарааны бизнесийн түвшинд байгаа бөгөөд Хятад болон бусад өрсөлдөгч гүрнүүдийн төрийн дэмжлэгтэй хакерууд хамгийн сүүлийн үеийн супер загваруудын алгоритм, кодын санг түвэггүй хулгайлах эрсдэлтэйг анхааруулсан байжээ. Гэвч удирдлага энэхүү анхааруулгыг хүлээн авахын оронд асуудлыг сөхсөн залуу эрдэмтнийг гүтгэн хөөж явуулсан байна. Энэхүү халалтын дараахан 2024 оны тавдугаар сард OpenAI-ийн сүнс болсон хамтран үүсгэгч, Ахлах эрдэмтэн Илья Суцкевер албан ёсоор ажлаа өгч буйгаа зарлав. Түүнээс хэдхэн цагийн дараа Ильятай хамт хүнээс илүү ухаалаг системийг удирдах зорилготой Супер Алайнмент багийг удирдаж байсан Ян Лейке огцорч, нийгмийн сүлжээнд түүхэн мэдэгдэл нийтлэв. Лейке мэдэгдэлдээ: "Хүнээс илүү ухаалаг машин бүтээх нь үндсээрээ аюултай үйл явц. Гэвч сүүлийн жилүүдэд OpenAI-д аюулгүй байдлын соёл, судалгааны үйл явц нь гялалзсан арилжааны бүтээгдэхүүнүүдийн сүүдэрт дарагдаж арчигдлаа. Компанийн нөөц, тооцоолох хүчин чадлын амлалтууд биелсэнгүй. OpenAI цаашид аюулгүй байдлыг тэргүүнд тавьсан байгууллага болж чадахгүй" хэмээн шулуухан бичжээ.
OpenAI-ийн төв байр Pioneer Building
San Francisco хотын Мишн дүүрэгт байрлах OpenAI-ийн анхны төв байр Pioneer Building. Энэхүү түүхэн барилгад хиймэл оюуны хамгийн дэвшилтэт ололтууд төрсөн ч аюулгүй байдлын эрдэмтдийн бослого мөн эндээс эхэлсэн билээ. Эх сурвалж: Wikimedia Commons
Улмаар OpenAI тус Супер Алайнмент багийг бүрэн татан буулгаж, үлдсэн судлаачдыг бусад бүтээгдэхүүний багууд руу тараан байршуулав. Гэвч дуулиан үүгээр дууссангүй. Vox хэвлэлийн эрэн сурвалжлах сэтгүүлч Келси Пайпер OpenAI-аас гарч буй ажилтнуудтай байгуулдаг хатуу нууцлалын гэрээний (NDA) заалтыг илчлэв. Гэрээнд зааснаар ажлаас гарсан ажилтан OpenAI болон Сэм Альтманы талаар насан туршдаа ямар нэгэн шүүмжлэлтэй үг хэлэхгүй байх үүрэг хүлээдэг бөгөөд хэрэв энэ гэрээг зөрчвөл эсвэл гарын үсэг зурахаас татгалзвал өөрийн олон жил ажиллаж олж авсан, олон сая доллароор үнэлэгдэх хувьцааны эрхээ бүрэн хураалгах хатуу дарамтад ордог байжээ. Энэхүү хэрцгий бодлого олон нийтэд ил болж, хүчтэй шүүмжлэл дагуулсны дараа Сэм Альтман "би ийм заалт байдгийг мэдээгүй байсан" хэмээн мэлзсэн ч өмнөх ажилтнууд гүйцэтгэх удирдлагуудын гарын үсэгтэй албан баримтуудыг дэлгэж, удирдлагын худал хуурмагийг илчилсэн юм. Олон нийтийн болон конгрессын гишүүдийн шахалтаар Альтман аргагүйн эрхэнд уг хувьцаа хураах заалтыг хүчингүй болгосон билээ. Үүний дараа OpenAI, Google DeepMind, Anthropic-ийн одоогийн болон хуучин 13 ажилтан нэгдэн "Дэвшилтэт хиймэл оюуны тухай анхааруулах эрх" нэртэй нээлттэй захидалд гарын үсэг зурав. Даниел Кокотайло, Уильям Сондерс зэрэг OpenAI-аас гарсан судлаачид компаниуд асар их ашиг олох шуналдаа хөтлөгдөн хүн төрөлхтний оршин тогтнолд заналхийлж буй эрсдэлийг төрийн хяналт болон олон нийтээс санаатайгаар нуун дарагдуулж байгааг зарласан юм. Ажлаас халагдсан Леопольд Ашенбреннер 2024 оны дундуур "Нөхцөл байдлын ухамсар: Ирэх арван жил" нэртэй 165 хуудас бүхий аналитик баримт бичгийг олон нийтэд цацав. Тэрээр GPT-2-оос GPT-4 хүртэл дөрөвхөн жилийн дотор цэцэрлэгийн хүүхдээс ахлах ангийн сурагчийн түвшинд хүрсэн үсрэлтийг загварчилж, 2027 он гэхэд хиймэл ерөнхий оюун бий болох магадлал 80 хувьтайг нотолсон юм. Түүний дүгнэлтээр AGI гарсны дараа хиймэл оюун өөрөө өөрийнхөө дараагийн үеийг сургах оюун ухааны тэсрэлт болж, хэдхэн жилийн дотор хүн төрөлхтний хамгийн шилдэг эрдэмтдээс сая дахин илүү хүчирхэг супер оюун бий болох болно. Түүнчлэн АНУ-ын Калифорни мужид батлагдах шахсан SB 1047 буюу "Тэргүүлэх түвшний хиймэл оюуны аюулгүй байдал, хариуцлагын тухай хууль"-ийг OpenAI болон томоохон хөрөнгө оруулагчид лоббидож, Мужийн захирагч Гэвин Ньюсомоор хориг тавиулсан нь Цахиурын хөндийд ёс зүйгээс илүү мөнгө ба зах зээлийн ноёрхол ялсныг харуулав. Тус хууль нь супер загваруудад гамшгийн эрсдэлийн үнэлгээ хийх, ослын үед шуурхай унтраах товчлуур байршуулахыг шаардаж байсан юм. Гэвч энэхүү асар хүчирхэг технологийн төлөөх өрсөлдөөнд аюулгүй байдлын тоормосыг бүрэн салгаж хаясан компаниуд манлайлж байгаа нь хүн төрөлхтнийг урьд өмнө үзэгдээгүй оршин тогтнолын эрсдэл рүү түлхэж байна. Илья Суцкевер ажлаа өгснийхөө дараа зөвхөн аюулгүй байдалд суурилсан Safe Superintelligence (SSI) компанийг үүсгэн байгуулж, Ян Лейке, Жон Шульман зэрэг шилдэг эрдэмтэд Anthropic руу дүрвэсэн нь Цахиурын хөндийн түүхэн дэх оюуны хамгийн том задрал байв. Хиймэл оюуны хувь тавилан хэдхэн хариуцлагагүй технологийн тэрбумтнуудын гарт хяналтгүй төвлөрөх аюул бодит болоод байна. Компанийн засаглалын энэхүү мухардал нь хиймэл оюуны аюулгүй байдлыг зөвхөн хувийн корпорацуудын сайн дурын ёс зүйд даатган үлдээж хэзээ ч болохгүй гэдгийг дэлхий дахинд нотолж өглөө. Ашгийн төлөөх өрсөлдөөн ширүүсэх тусам судалгааны лабораториуд аюулгүй байдлын сорилуудыг алгасч, зах зээлд бүтээгдэхүүнээ түрүүлж гаргахыг урьтал болгодог нь тодорхой болов. Энэхүү хямралын дараа дэлхийн олон улсын засгийн газрууд хиймэл оюуны аюулгүй байдлын хүрээлэнгүүдийг (AI Safety Institute) тусгайлан байгуулж, супер загваруудыг олон нийтэд цацахаас өмнө бие даасан хөндлөнгийн шалгалт хийлгэх шаардлага тавьж эхэллээ. Хиймэл ерөнхий оюунд хүрэх замнал нь зөвхөн Цахиурын хөндийн цөөн хэдэн удирдагчдын шийдвэр бус, нийт хүн төрөлхтний аюулгүй байдалтай холбоотой дэлхий нийтийн хяналт дор явагдах ёстой гэдэг зарчим ийнхүү шинэ хүчээ авч байна.

Энэхүү хямралын суурь уг үндэс нь 2023 оны арваннэгдүгээр сард болсон OpenAI-ийн ТУЗ-ийн түүхэн эргэлтээс эхтэй билээ. Тухайн үед ТУЗ-ийн гишүүн Хелен Тонер, Таша Макколи, Адам Д'Анжело болон Илья Суцкевер нар Сэм Альтманыг компанийн аюулгүй байдлын үйл явцыг алгасч, арилжааны бүтээгдэхүүнийг яаран зах зээлд гаргасан хэмээн үзэж албан тушаалаас нь гэнэт халсан юм. Гэвч Microsoft корпорацын удирдлага болон 700 гаруй ажилтны шахалтаар Сэм Альтман тавхан хоногийн дотор эргэн ирж, харин түүнийг шүүмжилсэн ТУЗ-ийн хараат бус гишүүд бүрэн чөлөөлөгдсөн билээ.

Үүний дараа OpenAI-ийн ТУЗ-д АНУ-ын Сангийн сайд асан Ларри Саммерс зэрэг Уолл Стрит болон улс төрийн нөлөө бүхий эрхмүүд орж ирснээр тус байгууллага ашгийн бус судалгааны лаборатори байхаа больж, бүрэн арилжааны корпорац болон хувирах замдаа шуударсан юм. Энэ нь аюулгүй байдлыг хамгийн түрүүнд тавьдаг эрдэмтдийн хувьд тэвчихийн аргагүй орчин болж, хамгийн авьяаслаг судлаачид компаниа олноор орхин явахад хүргэв.

Леопольд Ашенбреннер өөрийн шинжилгээндээ 2027 он гэхэд АНУ-ын Засгийн газар болон үндэсний аюулгүй байдлын агентлагууд хиймэл оюуны тэргүүлэх лабораториудыг өөрийн хамгаалалтад авч, "Манхэттен төсөл"-ийн нэгэн адил төрийн хяналтын дор супер кластеруудыг барьж байгуулах шаардлагатайг онцолсон байна. Түүний үзэж буйгаар хэрэв АНУ энэхүү дэд бүтцийг яаралтай байгуулж чадахгүй бол Хятадын тагнуулын албад AGI-ийн алгоритмын нууцыг хулгайлж, дэлхийн геополитикийн тэнцвэр бүрэн алдагдах аюултай юм.

Өнөөдөр хиймэл оюуны аюулгүй байдлын тэмцэл Цахиурын хөндийн хүрээнээс хальж, дэлхийн засгийн газрууд, олон улсын шүгэл үлээгчид болон бие даасан эрдэмтдийн нэгдсэн хөдөлгөөн болон өргөжиж байна. Хүнээс илүү ухаалаг технологийг хяналтгүй бүтээх нь бүх нийтийн аюулгүй байдалд заналхийлж буй энэ эгзэгтэй цаг үед аюулгүй байдлын эрдэмтдийн дуу хоолойг сонсох нь хүн төрөлхтний оршин тогтнолын хамгийн чухал баталгаа болж байна.

Цаашилбал, хиймэл оюуны судлаачид төрийн байгууллагуудад хандан аюулгүй байдлын асуудлыг илчилсэн ажилтнуудыг хамгаалах тусгай хууль батлахыг уриалж байна. Хэрэв судлаачид компанийнхаа нууцлалын гэрээнээс эмээн дуугүй өнгөрвөл ирээдүйд учрах гамшгийн үр дагаврыг урьдчилан таамаглах ямар ч боломжгүй болох юм. Энэ нь зөвхөн нэг компанийн дотоод асуудал биш, харин нийт хүн төрөлхтний ирээдүйтэй холбоотой эмзэг асуудал билээ.

Иймээс хиймэл ерөнхий оюун бүтээх өрсөлдөөн нь зөвхөн технологийн амжилт биш, харин ёс зүй, засаглал, хүн төрөлхтний үнэт зүйлийг хамгаалах агуу сорилт болон хувирлаа. Хэрэв бид хурдны төлөө аюулгүй байдлыг золиослох юм бол түүний төлөөсийг ирээдүй үе маань нөхөж баршгүй хүндээр төлөх болно гэдгийг эрдэмтэд нэгэн дуугаар сануулсаар байна.

Үүнтэй зэрэгцэн АНУ-ын Конгресс болон Сенатын хороодод хиймэл оюуны тэргүүлэх гүйцэтгэх захирлуудыг дуудан сонсгол хийх явдал улам бүр ойр ойрхон болох болов. Хууль тогтоогчид компаниудаас аюулгүй байдлын аудит, дотоод туршилтын үр дүн болон системийн эрсдэлийг хэрхэн үнэлж байгаа талаар тайлан шаардаж байна. Хэдийгээр компаниуд өөрсдийн хариуцлагатай байдлаа онцолдог ч олон нийтийн хяналтгүйгээр хувийн корпорацууд өөрсдийгөө зохицуулах боломжгүй гэдэг байр суурь улам бүр хүчээ авч байна.

Эцэст нь онцлоход, супер ухаалаг системийг удирдах сорилт бол манай соёл иргэншлийн өмнө тулгарсан хамгийн том шалгалт юм. Аюулгүй байдлын эрдэмтдийн тавьсан анхааруулгыг үл тоомсорлох нь хүн төрөлхтний хувь заяагаар дэнчин тавьж буй хэрэг бөгөөд ёс зүйтэй, хариуцлагатай хөгжлийг баталгаажуулах нь ирээдүйн өмнө хүлээсэн бидний хамгийн том үүрэг мөн.

Хиймэл ерөнхий оюунд хүрэх тэмцэлд аюулгүй байдлын эрдэмтдийн үүрэг урьд өмнөхөөсөө илүү чухал болж байна. Компанийн ашиг сонирхол ба нийт хүн төрөлхтний сайн сайхны тэнцвэрийг хадгалахын тулд хараат бус хяналтын механизмыг олон улсын түвшинд бүрдүүлж, технологийн салбарын хариуцлагыг нэмэгдүүлэх нь хамгийн чухал зорилт юм.

Технологийн түүхэнд хүн төрөлхтний хамтын аюулгүй байдал ямагт хувийн ашиг сонирхлоос дээгүүрт эрэмбэлэгдэх ёстой бөгөөд аюулгүй байдлын үнэнч эрдэмтдийн дуу хоолой цаашид ч салбарын хөгжлийн луужин болсоор байх болно.