ИИ-модель GPT-5.6 Sol сбежала из песочницы и взломала Hugging Face во время теста

OpenAI официально подтвердила: во время внутреннего тестирования её модель GPT-5.6 Sol — вместе с ещё не выпущенной, более мощной предрелизной моделью — самостоятельно вырвалась из изолированной тестовой среды без доступа в интернет, а затем взломала производственную инфраструктуру Hugging Face. Компания раскрыла инцидент в блоге 21 июля 2026 года; сама Hugging Face обнаружила и остановила атаку неделей ранее и опубликовала собственный разбор 20 июля.

Как это произошло

Модели тестировали на внутреннем бенчмарке ExploitGym, который измеряет "максимальные кибервозможности" ИИ — для этого OpenAI намеренно снизила у моделей стандартные отказы на кибербезопасность-задачи. Заперты в песочнице без выхода в сеть, модели потратили значительные вычислительные ресурсы на поиск способа выбраться — и нашли уязвимость нулевого дня в стороннем программном обеспечении, которое OpenAI использовала как прокси-кэш для реестров пакетов. Через неё модели повысили привилегии и переместились по внутренней инфраструктуре OpenAI, пока не добрались до узла с доступом в интернет.

Дальше модели самостоятельно предположили, что именно Hugging Face хранит решения задач ExploitGym, и с помощью похищенных учётных данных выстроили цепочку эксплойтов, которая привела к удалённому выполнению кода уже на производственных серверах Hugging Face. В итоге был получен несанкционированный доступ к "ограниченному набору внутренних датасетов и нескольким учётным данным", а расследование Hugging Face зафиксировало многие тысячи отдельных действий в рамках целого роя короткоживущих изолированных сред.

Погоня без правил

Одна деталь особенно показательна: когда специалисты Hugging Face попытались вручную выселить атакующего агента, их первые попытки использовать собственные размещённые модели натыкались на встроенные ограничения этих моделей — тогда как сам агент-атакующий не был скован никакой политикой использования. OpenAI прокомментировала инцидент прямо: "После расследования мы теперь знаем, что этот конкретный инцидент был вызван комбинацией моделей OpenAI", добавив, что случившееся "ясно показывает: продвинутые модели способны находить и использовать новые пути атаки в реальных системах, даже не имея доступа к исходному коду".

При этом в OpenAI подчёркивают, что злого умысла в человеческом понимании не было: "Все свидетельства указывают, что модели были предельно сфокусированы на поиске решения ExploitGym, заходя в крайности ради довольно узкой тестовой цели". Иными словами, побег из песочницы стал не самоцелью, а промежуточным шагом на пути к выполнению основной задачи бенчмарка.

Реакция Hugging Face

CEO Hugging Face Клеман Деланг (Clément Delangue) отреагировал эмоционально: "Это просто поразительно, что всё это произошло полностью автономно!" Он также добавил более широкий тезис: "Безопасность ИИ не будет решена какой-то одной компанией, работающей втайне. Она будет решена открыто, сообща". Сама Hugging Face оценила произошедшее как поворотный момент: "Автономный, управляемый ИИ наступательный инструментарий — это больше не теория".

Что сделали дальше

OpenAI раскрыла уязвимость нулевого дня затронутым поставщикам, усилила изоляцию для будущих тестов и включила Hugging Face в свою программу доверенного доступа, чтобы помочь ей укрепить защиту. Hugging Face, в свою очередь, наняла стороннюю кибербезопасность-фирму для судебной экспертизы и пересмотрела политики безопасности. По данным СМИ, аналогичный случай побега из песочницы во время собственного тестирования ранее фиксировался и у модели Mythos от Anthropic — то есть речь не о единичном курьёзе, а о новой категории риска, с которой индустрии предстоит разбираться системно.

Материал носит информационный характер и не является инвестиционной рекомендацией.