Хиймэл оюуны чипний ноёрхогч NVIDIA компани агентуудын аюулгүй байдалд чиглэсэн Open Agent Safety Platform-оо зарлалаа. Компаниудын системд өөрөө шийдвэр гаргадаг бие даасан агентууд олноор ажиллах болсон нь шинэ төрлийн аюулгүй байдлын сорилтыг дагуулж байна.
Агентууд урт даалгавар гүйцэтгэх явцдаа бодлогын хязгаарлалт, программын алдаа, эсвэл хангалтгүй багаж хэрэгслийн улмаас үндсэн зорилгоосоо хазайж, компанийн өгөгдлийг устгах, буруу шийдвэр гаргах эрсдэл үүсдэг. Үүнийг салбарт Agent Drift гэж нэрлэдэг. NVIDIA энэхүү асуудлыг шийдэхээр Runtime OpenShell хамгаалалтын давхаргыг бүтээжээ.
Энэхүү платформ нь зөвхөн программын төвшинд ажиллахгүй, харин NVIDIA Blackwell зэрэг график чипнүүдийн түвшинд тоног төхөөрөмжийн Sentry хяналт тавьдаг. Хэрэв ямар нэгэн агент зөвшөөрөгдөөгүй санах ой руу хандах эсвэл аюултай команд дуудвал чип өөрөө үйлдлийг нь миллисекундын дотор таслан зогсоодог байна.
