ИИ находит уязвимости, но исправляет лишь каждую четвёртую: исследование Off-by-1 Labs
Модели искусственного интеллекта доказали свою эффективность в поиске и эксплуатации уязвимостей программного обеспечения, однако с их устранением справляются значительно хуже — без участия человека ИИ способен полностью устранить проблему лишь в одном из четырёх случаев. К такому выводу пришли эксперты лаборатории Off-by-1 компании 1Password, изучив работу новейших рассуждающих моделей OpenAI ChatGPT 5.5 и Anthropic Claude Opus 4.8. 
Методология эксперимента
Исследование провела команда Off-by-1 Labs под руководством директора по security research Кита Худлета (Keith Hoodlet) совместно с Акселем Мьерчуком (Axel Mierczuk) и Спенсером Майклсом (Spencer Michaels). Специалисты сравнили эффективность двух моделей: OpenAI ChatGPT 5.5 в режиме medium effort и Anthropic Claude Opus 4.8 в режиме high effort. Для шести недавно обнаруженных уязвимостей было сгенерировано 6080 патчей с использованием обеих систем.
Статистика успешности и классификация ошибок
Средний показатель успеха при создании патча, полностью устраняющего уязвимость без существенного изменения поведения приложения, составил всего 26,0%. Детальный анализ сгенерированного кода выявил следующие закономерности:
- В 20,1% случаев ИИ исправил исходную проблему, но изменил поведение приложения — например, логика «списка разрешённых» превращалась в логику «списка запрещённых»;
- В 2,3% случаев при исправлении одной уязвимости возникала другая;
- В 49,3% случаев ИИ не создал защиты ни от одного из вариантов эксплойта;
- В 2,2% случаев ИИ не только не исправил уязвимость, но и создал ещё один вариант для её эксплуатации.
Проблема «хрупких» патчей и концепция FLAWED
Среди успешных патчей, даже тех, что изменяли поведение приложения, исправление оказалось «хрупким»: конкретная уязвимость исчезала, но коренная причина оставалась нерешённой. Больше трети патчей из двух «успешных» категорий исследователи назвали хрупкими — код блокировал лишь конкретный сценарий атаки, не устраняя корень проблемы. Для таких результатов авторы предложили акроним FLAWED — Fix-Like Artifacts With Embedded Defects (артефакты, похожие на исправления, но с дефектами внутри).
Влияние промптов и роль человека
Успех работы ИИ напрямую зависит от качества первоначальной установки. При корректном запросе вероятность успеха составляет 65%; полное отсутствие запроса снижает её до 50,4%; а некорректный промпт — до 15,2%. При этом человек-разработчик при анализе уязвимого кода сохраняет высокие шансы выявить вводящую в заблуждение информацию — текущие модели на это не способны. 
Экономическая эффективность и необходимость экспертного надзора
В среднем создание корректного патча обходится в $6,74, включая затраты на неудачные попытки. Однако исследователи предупреждают: «Ожидаемая ценность полностью сгенерированного LLM патча без проверки человеком является чисто отрицательной с большим отрывом». В худшем случае разработчики тратят больше времени на верификацию AI-исправлений, что увеличивает когнитивную нагрузку и всё равно оказывается чистым минусом.
Для оценки надежности AI-сгенерированных патчей команда Off-by-1 Labs выпустила инструмент тестирования, также названный FLAWED. Организации могут использовать его для определения качества предлагаемых ИИ исправлений.
Более широкий контекст
Проблема разрыва между обнаружением и исправлением уязвимостей обсуждается в профессиональном сообществе. По данным Gartner, в 2023 году доля автоматизированных сканеров на базе ИИ на рынке выросла до 45%, а более 60% компаний уже внедрили ИИ-инструменты в процесс сканирования кода. Количество обнаруженных уязвимостей растёт почти вдвое по сравнению с предыдущими периодами. Однако точность генеративных моделей (GitHub Copilot, Tabnine) в сложных системах пока ниже 30%. Контейнеризация и микросервисы усложняют процесс исправления, а регулятивные требования (EU Cybersecurity Act) требуют доказательства прохождения проверок, что ИИ-патч пока не может предоставить. По данным IDC, в 2023 году компании потратили в среднем 1,2 млн USD на автоматизацию безопасности. 
На практике это означает: внедрение ИИ в процессы безопасности требует обязательного контроля со стороны специалистов. Алгоритмы могут ускорить рутинные задачи, но финальное решение о внесении изменений в код должно оставаться за человеком — иначе не избежать критических сбоев.