NIST sunʼiy intellekt agentlariga hujumlar va ulardan himoyalanish usullari tasnifini taqdim etdi

SP 2400-102 E2026 hujjatida prediktiv, generativ va agentli tizimlarga tahdidlar tizimlashtirilgan hamda ularni tavsiflash uchun umumiy til taklif qilingan. NIST kelgusida sunʼiy intellekt xavfsizligi boʻyicha standartlar va amaliy qoʻllanmalarni tayyorlashda ushbu tasnifga tayanishni rejalashtirmoqda.

Yangi tahrirda asosiy eʼtibor agentli tizimlarga hujumlarga qaratilgan. Buzgʻunchi vazifani belgilash, rejalashtirish, amallarni bajarish yoki vositalar ishining natijalarini qayta ishlash jarayoniga aralashishi mumkin. Ehtimoliy maqsadlar qatoriga tizimning mavjudligi va yaxlitligini buzish, maxfiy maʼlumotlarni oshkor qilish hamda agentdan gʻarazli maqsadlarda foydalanish kiradi.

Loyihada foydalanuvchi soʻrovlari, modelning taʼminot zanjiri, ishonchsiz hujjatlar, veb-sahifalar va bilimlar bazalari orqali amalga oshiriladigan hujumlar koʻrib chiqilgan. Soxta koʻrsatmalar agentning uzoq muddatli xotirasiga ham tushishi mumkin, natijada ularning taʼsiri ish seanslari orasida ham saqlanib qoladi. Shuningdek, vositalar, ulanadigan koʻnikmalar va bir nechta agentning oʻzaro aloqasi bilan bogʻliq xatarlar alohida tasvirlangan: zararlangan komponent boshqa agentlarga gʻarazli xabarlarni uzatishi mumkin.

Reklama

Himoyalanish uchun NIST modellarni ishonchsiz mazmundagi koʻrsatmalarni tanib olishga oʻrgatish, maʼlumotlarni uzatish va amallarni bajarishga tizim darajasida cheklovlar qoʻyish, shuningdek, potensial xavfli kodga ega vositalarni izolyatsiya qilish choralarini koʻrib chiqmoqda. Mualliflar ayni paytda maxsus tayyorlangan hujumlar model darajasidagi himoyani chetlab oʻtishi mumkinligini taʼkidlaydi. Shu sababli amallarning maqbulligini mustaqil tekshirish va ularning oqibatlarini butun tizim darajasida cheklash muhim hisoblanadi.

Loyihani jamoatchilik muhokamasi 2026 yil 18 dekabrgacha davom etadi. Izohlar koʻrib chiqilgach, NIST hujjatning yakuniy tahririni tayyorlashi kerak.