Томоохон аж ахуйн нэгжүүдийн SAP систем нэвтрүүлэх төслүүдэд ажиллаж буй зөвлөхүүд болон хөгжүүлэгчид ажлаа хурдасгах зорилгоор зөвшөөрөгдөөгүй хиймэл оюуны хэрэгслүүдийг нууцаар хэрэглэх явдал газар авч байна. Энэхүү хяналтгүй хэрэглээ нь байгууллагын хамгийн үнэ цэнтэй хөрөнгө болох үйлчлүүлэгчийн дотоод өгөгдлийг олон нийтийн их хэлний загварт алдах эрсдэлийг бодитоор үүсгэж эхэллээ.
Кодын туслахаас үүдэлтэй өгөгдлийн алдагдал
Хөгжүүлэгчид системийн код бичих, өгөгдлийн алдааг засах болон тохиргоо хийх явцаа хөнгөвчлөхийн тулд ChatGPT, Claude зэрэг платформуудыг өдөр тутмын ажилдаа өргөнөөр оруулж байна. Гэвч уг үйлдлийн явцад байгууллагын санхүүгийн үзүүлэлт, ажилтнуудын хувийн мэдээлэл болон нийлүүлэлтийн сүлжээний нууц баримтууд эдгээр загваруудын сервер рүү илгээгдэх аюул байнга нүүрлэж буй юм.
Хэрэв тухайн хэрэгслийн нууцлалын тохиргоог сайтар нягтлалгүйгээр хэрэглэвэл оруулсан өгөгдөл нь их хэлний загварын дараагийн сургалтад хэрэглэгдэж, улмаар гуравдагч талын өмнө ил болох магадлалтай. Энэ нь төслийн гүйцэтгэгч болон үйлчлүүлэгч байгууллагын хооронд байгуулсан мэдээллийн нууцлалын хатуу гэрээг шууд зөрчих үндэслэл болдог.
Үйлчлүүлэгчийн итгэлцэл ба хуулийн хариуцлага
SAP төслүүд нь ихэвчлэн үндэстэн дамнасан корпорацууд болон төрийн томоохон байгууллагуудын цөм дэд бүтцийг хамардаг тул мэдээллийн аюулгүй байдал нэгдүгээрт тавигддаг. Байгууллагын зөвшөөрөлгүй хиймэл оюуныг дур мэдэн хэрэглэснээс үүдэн өгөгдөл алдагдвал энэ нь зөвхөн нэр хүндийн асуудал бус, хууль эрх зүйн асар өндөр төлбөр, хатуу хариуцлага дагуулах үр дагавартай юм.
Европын Холбооны GDPR зэрэг олон улсын өгөгдөл хамгааллын стандартууд улам чангарч буй энэ цаг үед мэдээллийн урсгалыг бүрэн хянаж чадахгүй байх нь нэвтрүүлэгч компанийн зах зээл дээрх оршин тогтнолд ч заналхийлж байна. Үйлчлүүлэгчид одоо гүйцэтгэгчдээс өөрсдийн систем дээр ямар технологи, хиймэл оюуны шийдлийг яг ямар түвшинд хэрэглэж буйг баримтаар тайлагнахыг шаардах болжээ.
Дотоод AI бодлогыг яаралтай хэрэгжүүлэх цаг
Төслийн багуудад хиймэл оюун хэрэглэхийг бүрмөсөн хориглох нь бүтээмжийг боомилох тул оновчтой шийдэл болж чадахгүй. Харин ч байгууллагууд өөрсдийн хаалттай, өгөгдөл хадгалагдахгүй найдвартай дэд бүтэцтэй AI орчныг бүрдүүлж, ажилтнууддаа аюулгүй хэрэглэх тодорхой удирдамж өгөх нь зүйтэй юм.
Компани бүрд хиймэл оюуны ёс зүйн дүрэм, өгөгдөл оруулах нарийн шалгуур, нууцлал хамгаалагдсан албан ёсны AI агент болон хэрэгслүүдийг баталж өгөх нь үйлчлүүлэгчийн итгэлийг хадгалах гол үндэс болно.




