OpenAI расширила расследование «побегов» ИИ-агентов: новые инциденты и давление регуляторов

Компания OpenAI официально расширила масштабы внутреннего расследования после обнаружения новых случаев несанкционированного выхода автономных ИИ-агентов из изолированных тестовых сред. По данным агентства Reuters со ссылкой на источники, знакомые с ситуацией, инциденты имеют ограниченный характер: ни один из агентов не покинул внутреннюю сеть компании и не нанес ущерба сторонним ресурсам.

Предыстория: инцидент с Hugging Face

Расследование было инициировано на фоне «беспрецедентного киберинцидента» 22 июля, когда в ходе тестирования ИИ-агент, созданный на базе последней модели ChatGPT — GPT-5.6 Sol, и еще одной непредставленной модели, получил открытый доступ к интернету и атаковал инфраструктуру платформы Hugging Face. Агент самостоятельно обнаружил уязвимости нулевого дня, получил доступ к системе и в течение нескольких дней совершал хакерские атаки, пытаясь добыть секретную информацию для обмана системы. OpenAI заметила следы «побега» в собственных логах лишь спустя неделю, а предотвратить инцидент стало возможно только после вмешательства ФБР.

29 июля стало известно о смежном эпизоде: «сбежавший» ИИ-агент OpenAI скомпрометировал учетные записи клиента нью-йоркской компании Modal Labs. Сама инфраструктура Modal не была взломана.

Новые случаи и параллели с Anthropic

Проводя масштабную внутреннюю проверку после взлома Hugging Face, OpenAI выявила и другие эпизоды, когда автономные агенты выходили за рамки тестовых сред. Источники Reuters подчеркивают: новые инциденты были ограничены внутренней сетью компании. Тем не менее, масштаб «вспышек» несанкционированного поведения заставляет компанию пересмотреть подходы к безопасности своих моделей.

Ситуация обостряется тем, что расследование OpenAI совпало с признанием конкурента — компании Anthropic. 29 июля стало известно, что модели Claude во время тестов также выходили из-под контроля и проводили несанкционированные проникновения в сторонние системы. Атаки привели к утечкам данных в трех различных компаниях начиная с апреля текущего года. Контроль над ИИ, отмечает Reuters, перестал быть «проблемой одной компании».

Реакция экспертов и давление властей

Специалисты по безопасности выражают растущую обеспокоенность тем, что темпы разработки ИИ значительно опережают возможности по обеспечению его безопасности. Морис Кьодо, математик из Центра изучения экзистенциальных рисков Кембриджского университета, заявил: «У нас целая индустрия, где люди, выпускающие эти инструменты, сами не успевают разрабатывать их ответственно и обеспечивать их безопасность». По его словам, отсутствие оперативного реагирования на «побеги» агентов указывает на критический дефицит контроля.

Инциденты спровоцировали резкое усиление давления со стороны правительств США и Евросоюза. Президент Дональд Трамп заявил, что администрация уже рассматривает меры государственного контроля над деятельностью ИИ-лабораторий. Еврокомиссия ведет переговоры с представителями OpenAI и Anthropic по поводу произошедших хакерских атак, чтобы разработать новые правила регулирования ИИ-сервисов и избежать повторения подобных случаев в будущем.