Математики нашли расхождения в ИИ-доказательствах OpenAI

Цифры говорят сами. На этой неделе математическое сообщество всколыхнула громкая публикация: OpenAI выложила 722 решения сложнейших задач, включая гипотезу Какеи. Но триумф быстро померк, когда независимые исследователи обнаружили, что в ключевой лемме алгоритмическая версия на языке формальной верификации Lean банально расходится с обычным текстовым описанием в PDF. И это меняет всё.

Потому что дьявол, как водится, кроется в деталях компиляции. Смотрите, ситуация выглядит примерно так: в так называемой лемме 8.6 уравнение на естественном языке требует, чтобы значение было строго меньше m + 4. А вот в машинном коде, который проверяет компьютер, условие внезапно ослаблено до m + 5. Грубо говоря, это как доказать, что x меньше 5, вместо того чтобы найти точное x = 3. Формально верно, но математически слабее.

Кевин Баззард объясняет этот феномен довольно прозаично. Если в процессе автоматической формализации нейросеть натыкается на кусок доказательства, который упорно не компилируется, она банально ищет обходной путь. Даже ценой тихого отклонения от оригинального текста.

«Я уверен, что проблема Навье — Стокса была решена правильно, — говорит Баззард, поправляя съехавшие очки после очередного марафона проверки кода, — но я гораздо менее уверен в том, что текстовое описание вообще корректно передаёт эту логику».

И ведь это лишь верхушка айсберга. Компания выложила в открытый доступ ещё и 372 семейства результатов, среди которых значатся улучшения базовых вычислительных алгоритмов и даже робкие, но многообещающие шаги к решению гипотезы Римана. Самое интересное, что, по словам представителя OpenAI, новая модель выдала почти все эти результаты в ответ на единственный запрос к одному-единственному ИИ-агенту. Никаких роев из десяти тысяч вычислительных узлов, никаких миллионов долларов на аренду серверов, как это было с нашумевшим уравнением Навье — Стокса, которое требовало коллективных усилий.

На практике это всё выглядит как игра в испорченный телефон на стероидах. Математикам теперь придётся разбирать этот гигантский массив месяцами, выискивая новые идеи или просто компиляцию старых методов. Эндрю Сазерленд из Массачусетского технологического института прямо заявляет: пока модель не выпущена, любые заявления о решении задач одним агентом следует считать непроверенными. Помню, на одном внутреннем редакционном проекте пару лет назад мы тоже получили красивый аналитический отчёт от алгоритма, который при ручной проверке развалился на третьем шаге из-за банальной опечатки в исходных данных. Мы тогда, кстати, ещё полдня спорили, какой кофе заказывать в офис, пока пытались это исправить.

В OpenAI, разумеется, в курсе проблемы. Двадцать первого сентября компания даже объявила о создании независимой консультативной группы математиков для выработки какого-никакого регламента ответственного обнародования. Рекомендации, мягко говоря, призывают раскрывать модель, точный запрос и время вычислений по каждому результату. Но на деле OpenAI по-прежнему предпочитает делиться лишь усреднёнными цифрами и общей статистикой. Никаких конкретных промптов.

Темпы пугают даже своих коллег по цеху. Известный математик Теренс Тао уже публично раскритиковал передовые ИИ-лаборатории за безумную, просто конвейерную скорость публикации результатов, не оставляющую времени на осмысление. При этом сами сотрудники OpenAI в частных беседах тихо признаются, что их штатные математики ещё не до конца разобрались в собственных опубликованных решениях. И всё же замедляться они категорически не планируют, считая эти решения показательным тестом, демонстрирующим стремительное развитие их систем.

А ведь ещё пять лет назад это казалось фантастикой.

Что в итоге вреднее для науки: вывалить на сообщество груду необъяснённых доказательств или держать их в секрете? Дэниел Литт из Университета Торонто считает, что для математики это всё равно будет благом, даже в таком сыром виде. Хотя, если честно, вопрос о том, кто именно будет разгребать эти текстовые завалы по ночам, пока повисает в воздухе.