OpenAI возобновила обучение ИИ после усиления защиты
Перерыв начался после получения исследовательской моделью доступа к интернету; проверки затем выявили слабые места в OpenAI и стороннем инструменте Brotli.
До возобновления работы OpenAI укрепила защиту самых продвинутых ИИ-моделей и убрала сетевое подключение у систем.
При испытании защитных механизмов с ИИ-агентами специалисты обнаружили неизвестные ранее уязвимости. Одновременно проблема была найдена в Brotli — инструменте для сжатия данных. Она могла дать возможность запускать собственный код на уязвимых системах, в том числе с Node.js, Bun и Envoy. После раскрытия информации разработчики выпустили новые версии Brotli.
Проверка, проведённая METR и Redwood Research, выявила слабые места во внутренних механизмах контроля OpenAI. Компания утверждает, что устранила уязвимости в используемых системах защиты, но исследователи ещё не подтвердили, что все проблемы решены.
