Цахиурын хөндийн удирдагчид хиймэл оюуныг хүний оролцоогүйгээр өөрөө суралцаж, хүн төрөлхтнийг хөдөлмөрийн дарамтаас чөлөөлөх аугаа хувьсгал хэмээн магтан дуулдаг. Гэвч хэрэглэгчийн дэлгэц дээр эелдэг, ёс зүйтэй, алдаагүй хариулт өгч буй том хэлний загваруудын ард дэлхийн өмнөд хагасын ядуу буурай орнуудад төвлөрсөн, хямд хөлстэй олон зуун мянган хүний сэтгэл зүйн хүнд дарамт бүхий сүүдрийн хөдөлмөрийн зах зээл оршин тогтнож байна. Хүний оюун санаа, үнэлэмжийг хиймэл оюунд шингээх Хүний санал хүсэлтээр бататган сургах (RLHF) технологи нь өнөөдөр дижитал эрин зууны хамгийн том далд үйлдвэрлэл болон хувирлаа. Энэхүү сүүдрийн хөдөлмөрийн бодит нүүр царайг анх TIME сэтгүүлийн эрэн сурвалжлах сэтгүүлч Билли Перриго 2023 онд олон нийтэд дэлгэсэн юм. OpenAI компани ChatGPT загвараа олон нийтэд нээхээс өмнө тус системд хүчирхийлэл, бэлгийн дарамт, амиа хорлох заавар, арьс өнгөөр ялгаварлан гадуурхах хорт агуулгыг таних шүүлтүүр суулгах шаардлагатай болжээ. Үүний тулд San Francisco-д төвтэй Sama компаниар дамжуулан Кени улсын Найроби хотод олон зуун залуусыг ажилд авч, интернэтийн хамгийн харанхуй, бузар булай текстийн хэсгүүдийг өдөрт 8-9 цагийн турш тасралтгүй уншуулж, шошголуулсан байна.
Хиймэл оюуны өгөгдөл шошголох ажилчид
Хиймэл оюуны алгоритмуудад зориулан текст, зураг, видео өгөгдлийг гар аргаар ангилж, шошголж буй дата ажилтнууд. Тэдний хөдөлмөр үгүйгээр өнөөгийн нэг ч том хэлний загвар аюулгүй ажиллах боломжгүй. Эх сурвалж: Wikimedia Commons / Humans in the Loop
Кени залууст цагт ердөө 1.32-оос 2.00 долларын цалин олгож байсан бөгөөд ажилчид хүчирхийлэл, тамлалтын тухай олон мянган аймшигт өгүүлбэрийг уншсанаас болж сэтгэцийн гүн цочролд орж, хар дарж зүүдлэх, нойргүйдэх, сэтгэл гутралд нэрвэгдэж байв. Компани тэдэнд сэтгэл зүйчийн тусламж үзүүлсэн гэж мэдэгдсэн ч бодит байдал дээр ажлын норм биелүүлэхийг шаардсан хатуу хяналт дор ажиллаж байсан нь ил болсон билээ. Сэтгүүлчдийн мөрдлөг эхэлсний дараа OpenAI Sama-тай байгуулсан гэрээгээ цуцалсан боловч энэ нь асуудлын төгсгөл биш, харин дэлхийг хамарсан сүүдрийн экосистемийн зөвхөн орой нь байв. Өнөөдөр Scale AI, Remotasks, Outlier.ai, Appen зэрэг олон тэрбум долларын үнэлгээтэй платформууд Филиппин, Энэтхэг, Венесуэл, Пакистан, Колумб зэрэг орнуудад сая сая залуусыг гэрээт дата ажилтнаар ажиллуулж байна. Эдгээр ажилчид тогтмол цалингүй, хөдөлмөрийн гэрээгүй, нийгмийн даатгалгүйгээр хиймэл оюуны алгоритмын үнэлгээгээр шалгагдаж, шалгалтад өчүүхэн төдий алдаа гаргахад дансаа хаалган, өмнө нь хийсэн ажлынхаа хөлсийг авч чадалгүй хохирдог. Цахиурын хөндийн венчур хөрөнгө оруулагчид хиймэл оюуныг программ хангамжийн бизнес гэж сурталчилдаг ч түүний суурь нь гуравдагч ертөнцийн хямд ажиллах хүчний дижитал мөлжлөг дээр тогтож байна. Ажилчдын хийж буй ажил зөвхөн хорт текстийг шүүхээр хязгаарлагдахгүй. Тэд хиймэл оюуны хоёр өөр хариултыг харьцуулж аль нь илүү боловсон, дэлгэрэнгүй, үнэн болохыг эрэмбэлэх даалгаврыг өдөрт хэдэн зуун удаа гүйцэтгэдэг. Хэрэв ажилтны сонголт бусад олонхын дундаж үнэлгээнээс зөрсөн тохиолдолд систем түүний найдвартай байдлын оноог бууруулж, цаашид ажил авах эрхийг нь хасдаг. Энэ нь ажилчдыг өөрийн үнэн бодит бодол санааг илэрхийлэх бус, харин алгоритм ямар хариултыг таалах бол гэдгийг тааварлаж ажиллахад хүргэдэг гажуудлыг бий болгожээ.
Nature сэтгүүл: Синтетик өгөгдлөөс үүдэлтэй загварын сүйрэл
Nature сэтгүүлд нийтлэгдсэн Илья Шумайлов нарын судалгааны үр дүн. Загварууд хиймэл оюуны өөрийнх нь үүсгэсэн синтетик өгөгдлөөр давтан суралцах тусам магадлалын тархалтын захын утгууд алдагдаж, загвар бүхэлдээ сүйрдэг болохыг математикаар баталжээ. Эх сурвалж: Nature / Shumailov et al. 2024
Гэвч хямд ажиллах хүчний мөлжлөгөөс гадна хиймэл оюуны салбарт өөр нэг илүү том бат бөх хана тулгарч ирэв. Энэ бол хүний бүтээсэн өгөгдлийн хомсдол юм. Epoch AI судалгааны байгууллагын эрдэмтдийн хийсэн нарийвчилсан тооцоогоор олон нийтийн интернэт дэх ном, эрдэм шинжилгээний өгүүлэл, сонин сэтгүүл, Wikipedia зэрэг өндөр чанартай хүний бичсэн бүх текстийн өгөгдөл 2026-2028 оны хооронд бүрэн шавхагдана. Технологийн компаниуд Reddit-ийн сэтгэгдлүүд, YouTube-ийн аудио бичлэгийн хөрвүүлэлт болон зохиогчийн эрхтэй номын хууль бус сангуудыг хүртэл хуу хаман сургалтад ашиглаж дууссан нь The New York Times болон зохиолчдын холбооноос шүүхэд олон тэрбум долларын нэхэмжлэл гаргахад хүргэв. Хүний өгөгдөл дууссан тул Цахиурын хөндийн компаниуд "Синтетик өгөгдөл" буюу хиймэл оюунаар өөрөөр нь шинэ өгөгдөл үүсгүүлж, түүгээрээ дараагийн үеийн загваруудыг сургах шийдлийг цорын ганц гарц хэмээн зарласан юм. Гэвч 2024 оны долдугаар сард нэр хүндтэй Nature сэтгүүлд Оксфорд, Кембриж, Торонтогийн их сургуулийн судлаачдын хамтарсан дуулиант эрдэм шинжилгээний бүтээл нийтлэгдэж, Цахиурын хөндийн энэхүү төлөвлөгөөг үндсээр нь няцаав. Илья Шумайлов, Захар Шумайлов, Ярин Гал, Николас Папернот нарын эрдэмтэд "Хиймэл оюуны загварууд рекурсив үүсгэсэн өгөгдлөөр суралцах үедээ сүйрдэг" хэмээх судалгаагаар Загварын сүйрэл (Model Collapse) буюу Загварын өөрийгөө идэх эмгэгийг (Model Autophagy Disorder) математик загварчлалаар нотолжээ. Загварын сүйрэл нь хоёр үндсэн шатлалаар явагддаг. Эхний шатанд магадлалын тархалтын захын хэсгүүд бүрэн арчигдаж алга болдог. Өөрөөр хэлбэл, нийтлэг бус үгс, ховор тохиолдох гүн ухааны санаанууд, соёлын өвөрмөц онцлог, цөөнхийн үзэл бодлууд статистикийн дундажлалтад дарагдан арчигдаж, загвар зөвхөн хамгийн уйтгартай, нийтлэг текстийг үйлдвэрлэж эхэлдэг. Харин удаах шатанд загвар бүхэлдээ сүйрч, урд өмнө сурсан бүх ойлголтоо мартан, нэг үгээ олон дахин давтах эсвэл ямар ч утгагүй хиймэл холимог үгс цувуулдаг дижитал саажилтад нэрвэгддэг байна. Энэ нь генетикийн хувьд ойрын цус ойртолттой яг адил үзэгдэл юм. Хиймэл оюун өөрийнхөө гаргасан алдаатай, статистикийн хувьд ядуу өгөгдлийг дахин дахин залгих тусам төөрөгдөл нь геометрийн прогрессоор үржиж, эцэстээ бүрэн ашиглах боломжгүй хог хаягдал болон хувирдаг болохыг эрдэмтэд харуулжээ. Шинэ, шинэхэн, жинхэнэ хүний оюун санаанаас урган гарсан алдаа дутагдалтай ч бодит амьдралтай өгөгдөл байхгүй л бол синтетик өгөгдөл нь загваруудыг ухаанжуулах бус, харин мангууруулах хор болдог байна. Иймээс өнөөдөр хиймэл оюуны компаниуд энгийн дата шошгологчдоос хальж, хуульчид, эмч нар, математикчид, программ зохиогчдыг цагт 50-100 доллароор хөлслөн авч, өндөр түвшний хүний оюуны бүтээлийг худалдан авахаар улайрч эхэллээ. Гэвч энэ нь зардлыг асар ихээр өсгөж, цөөн хэдэн монопол компаниудын хувьд л боломжтой тансаглал болж хувирав. Харин олон нийтийн интернэт аль хэдийнээ хиймэл оюунаар үйлдвэрлэсэн чанаргүй, хог хаягдал мэдээллээр дүүрч, шинэ загваруудыг сургах цэвэр эх үүсвэр улам бүр ховордож байна. Цаашилбал, зохиогчийн эрхийн хуулийн дагуу дэлхийн томоохон хэвлэл мэдээллийн байгууллагууд, зохиолчид болон уран бүтээлчид өөрсдийн бүтээлийг зөвшөөрөлгүй сургалтад ашиглахыг хатуу эсэргүүцэж байна. OpenAI болон Google зэрэг компаниуд News Corp, Axel Springer, Reddit зэрэг платформуудад жилд хэдэн арван сая долларын төлбөр төлж, өгөгдлийг нь хууль ёсоор ашиглах гэрээ байгуулж байгаа ч энэ нь зөвхөн цөөн тооны санхүүгийн чадалтай аварга тоглогчдын өрсөлдөөнийг улам бүр явцууруулж байна. Энэхүү нөхцөл байдал нь технологийн ертөнцөд асар том парадокс буюу зөрчлийг илчиллээ. Цахиурын хөндий хүний хөдөлмөрийг хиймэл оюунаар бүрэн орлуулахыг эрмэлзэж байсан боловч хиймэл оюун өөрөө хүний жинхэнэ сэтгэлгээ, бичсэн ном зохиол, судалгааны ажил болон хямд хөлстэй дата шошгологчдын оролцоогүйгээр нэг ч алхам урагшилж чадахгүй гацаанд орлоо. Хиймэл оюуны ирээдүй олон зуун сая долларын график чипүүдэд бус, харин хүн төрөлхтний жинхэнэ мэдлэгийн үнэ цэн болон түүнийг хамгаалах ёс зүйд оршиж байна. Иймд ирээдүйн дижитал нийгэмд хүний бүтээлч сэтгэлгээ, шүүмжлэлт ухаан болон анхдагч эх сурвалжийн үнэн бодит байдал урьд өмнөхөөсөө илүү үнэ цэнтэй ховор баялаг болон хувирах нь тодорхой байна. Хиймэл оюун өөрөө өөрийгөө сүйрүүлэхгүйн тулд хүний оюун санаатай хамтран ажиллах шинэ ёс зүй, тэгш шударга хөдөлмөрийн үнэлэмжийг дэлхий даяар нэн даруй бий болгох шаардлагатай байна.

Хямд ажиллах хүчний мөлжлөгөөс гадна сүүлийн үед хиймэл оюуны сургалтын шинэ түвшний давалгаа өрнөж байна. Энгийн өгөгдөл шошголох ажил дуусаж, Turing, Mercor болон Scale AI зэрэг компаниуд Америк, Европын их сургуулиудыг төгссөн хуульчид, эдийн засагчид, эмч нар болон программ зохиогчдыг цагт 40-өөс 120 долларын өндөр хөлсөөр дайчлан ажиллуулах болов. Тэд загваруудын гаргасан хуулийн дүн шинжилгээ, эмнэлгийн оношилгооны алдааг шалгаж, хүний сэтгэлгээний хамгийн дээд түвшний алтан стандартыг тогтоож байна.

Гэвч дэлхийн өмнөд хагасын олон сая гэрээт ажилчдын хөдөлмөрийн нөхцөл байдал сайжирсангүй. Олон улсын хөдөлмөрийн байгууллагууд болон Fairwork сангийн судалгаагаар хиймэл оюуны сүүдрийн ажилчид өнөөдөр ямар ч үйлдвэрчний эвлэлгүй, эрүүл мэндийн даатгалгүй, ажлын баталгаагүй хэвээр үлдэж байна. Дэлхийн хамгийн баян технологийн корпорацууд тэдний хөдөлмөрөөр хэдэн зуун тэрбум долларын зах зээлийн үнэлгээ бий болгосон атлаа бодит хариуцлагаас бултсаар байгаа нь нийгмийн шударга ёсны хамгийн том сорилт болж хувирав.

Мөн түүнчлэн Nature сэтгүүлд нийтлэгдсэн судалгааны математик загварчлалаас харахад синтетик өгөгдлийг зөвхөн математикийн теорем батлах эсвэл компьютерын код шалгах зэрэг үр дүн нь тодорхой, автомат шүүлтүүрээр баталгаажих орчинд л амжилттай ашиглах боломжтой юм. Харин хүний уран зохиол, гүн ухаан, нийгмийн нарийн харилцааг тодорхойлсон текстийн хувьд хиймэл оюун өөрийнхөө үгээр өөрийгөө тэжээх нь түүнийг оюуны сүйрэл рүү хөтөлдөг болох нь нотлогдсоор байна.

Олон улсын хүний эрхийн байгууллагууд Цахиурын хөндийн компаниудад хандан хиймэл оюуны нийлүүлэлтийн сүлжээний ил тод байдлыг хангахыг уриалж байна. Хэрэглэгчид өөрсдийн ашиглаж буй програмын цаана хөгжиж буй орнуудын хэдэн арван мянган залуусын эрүүл мэнд, хүнд хүчир хөдөлмөр нуугдаж байгааг мэддэг байх ёстой бөгөөд дата шошгологчдын ажлын цаг, цалин хөлсний доод хэмжээ болон сэтгэл зүйн тусламж үйлчилгээг олон улсын хөдөлмөрийн конвенцоор хамгаалах цаг нэгэнт болжээ.

Түүнчлэн технологийн компаниуд өгөгдлийн хомсдолыг шийдвэрлэхийн тулд бодит ертөнцийн видео бичлэг, дуу авиа болон робот техникийн мэдрэгчийн өгөгдлийг цуглуулах шинэ аяныг дэлхий даяар эхлүүллээ. Хүний өдөр тутмын хөдөлгөөн, яриа, харцыг бичиж авах замаар биет ертөнцийг ойлгох шинэ үеийн суурь өгөгдлийг бэлтгэж байгаа нь хувийн нууцлал ба тандалтын цоо шинэ хууль эрх зүйн маргааныг үүсгэж байна.

Цаашилбал, өгөгдлийн ёс зүйн асуудал нь хөгжиж буй орнуудын дижитал тусгаар тогтнолтой шууд холбогдож байна. Африкийн олон орон өөрсдийн соёлын өв, уугуул хэлний өгөгдлийг гаднын хиймэл оюуны компаниудад үнэ төлбөргүй ашиглуулахгүй байх, өгөгдлийг тухайн улсын нутаг дэвсгэрт хадгалах хууль тогтоомжуудыг боловсруулж эхэллээ. Энэ нь дэлхийн өгөгдлийн зах зээлд шинэ дүрэм журам тогтоож, хүн төрөлхтний хамтын мэдлэгийг хамгаалах шинэ давалгааг үүсгэж байна.

Дэлхий нийтээрээ хиймэл оюуны ёс зүйн стандартыг хуульчлан батлах үйл явц эрчимжиж байна. Хүний эрхэм чанар, хөдөлмөрийн шударга үнэлэмж нь аливаа технологийн үр ашгаас үргэлж дээгүүр тавигдах учиртай бөгөөд дата ажилтнуудын эрхийг хамгаалах нь дижитал эрин үеийн зайлшгүй шаардлага болон хувирлаа.