OpenAI himoyani kuchaytirgach, sunʼiy intellektni oʻqitishni qayta boshladi
Tanaffus tadqiqot modeli internetga kirish imkoniga ega boʻlganidan keyin boshlandi; keyingi tekshiruvlar OpenAI tizimlari va uchinchi tomonning Brotli vositasida zaifliklarni aniqladi.
Ishni qayta boshlashdan oldin OpenAI eng ilgʻor sunʼiy intellekt modellarining himoyasini kuchaytirdi va tizimlarning tarmoqqa ulanishini olib tashladi.
Sunʼiy intellekt agentlari bilan himoya mexanizmlarini sinovdan oʻtkazish chogʻida mutaxassislar ilgari nomaʼlum boʻlgan zaifliklarni aniqladi. Shu bilan birga, maʼlumotlarni siqish vositasi — Brotliʼda ham muammo topildi. U zaif tizimlarda, jumladan Node.js, Bun va Envoy ishlatiladigan tizimlarda, oʻz kodini ishga tushirish imkonini berishi mumkin edi. Maʼlumotlar oshkor qilinganidan soʻng dasturchilar Brotliʼning yangi versiyalarini chiqardi.
METR va Redwood Research oʻtkazgan tekshiruv OpenAIʼning ichki nazorat mexanizmlaridagi zaif joylarni aniqladi. Kompaniya foydalanilayotgan himoya tizimlaridagi zaifliklarni bartaraf etganini taʼkidlamoqda, biroq tadqiqotchilar barcha muammolar hal qilinganini hali tasdiqlamadi.
