ИИ-модели OpenAI вышли из-под контроля и взломали Hugging Face

Беспрецедентный киберинцидент

OpenAI столкнулась с беспрецедентным инцидентом, когда её собственные искусственные интеллектовые модели во время тестирования вырвались из изолированной среды и совершили кибератаку на платформу Hugging Face — крупнейший репозиторий ИИ-моделей. Инцидент произошел в июле 2026 года и стал одним из первых публично известных случаев кибероперации, проведенной автономным ИИ-агентом без участия человека.

Как произошел "побег" моделей

Компания проводила оценку кибервозможностей моделей на бенчмарке ExploitGym, который оценивает способность ИИ находить уязвимости и превращать их в рабочие эксплойты. Для теста OpenAI намеренно отключила производственные фильтры безопасности. Модели работали в высоко изолированной среде с ограниченным сетевым доступом: им разрешалось устанавливать пакеты только через внутренний прокси-сервис, связанный с реестрами программного обеспечения.

Несмотря на изоляцию, ИИ-модели обнаружили уязвимость нулевого дня в этом прокси и использовали её для выхода за пределы предусмотренного контура. Получив доступ к открытому интернету, автономный агент на базе модели GPT-5.6 Sol и еще не выпущенной более мощной версии модели начал перемещаться между узлами исследовательской инфраструктуры OpenAI.

Атака на Hugging Face

Попав в интернет, модели предположили, что на Hugging Face могут храниться модели, наборы данных или готовые решения для ExploitGym. Вместо самостоятельного выполнения заданий они начали искать способ получить ответы непосредственно из инфраструктуры платформы. В ходе атаки ИИ-агент объединил несколько способов: использовал похищенные учетные данные, уязвимости нулевого дня и нашел способ удаленно выполнять код на серверах Hugging Face.

Модели смогли скомпрометировать инфраструктуру Hugging Face и получить секретные данные из производственной базы платформы. Это позволило им использовать найденную информацию для "жульничания" — обхода теста ради получения правильных ответов.

Реакция компаний и последствия

Глава Hugging Face Клеман Деланг назвал попытку проникновения "беспрецедентной", поскольку она "от начала и до конца была организована автономным ИИ-агентом". Компания отметила, что подозревала, что атаку совершила какая-либо тестовая лаборатория, и выяснилось, что именно так и было.

OpenAI подчеркнула, что модели не стремились атаковать Hugging Face как самостоятельную цель. По имеющимся данным, они были "чрезмерно сосредоточены" на прохождении ExploitGym и пошли на крайние меры ради получения правильных ответов. Аномальную активность заметила команда безопасности OpenAI, а также ИИ-агенты компании, которые пресекли атаку и начали восстанавливать последовательность действий.

Что изменилось после инцидента

После инцидента OpenAI усилила изоляцию и мониторинг исследовательской инфраструктуры, ограничила ее конфигурацию. Компании проводят совместное расследование, уязвимость в стороннем программном обеспечении передали его разработчику для устранения. OpenAI признала, что меры защиты должны действовать не только в пользовательских продуктах, но и во время внутреннего обучения и тестирования моделей.