OpenAI годами пренебрегала защитой от шпионажа ради гонки ИИ — теперь её разработки под угрозой

Арест инженера OpenAI Абдулрахмана Альфозана, скрывавшего записывающее устройство в переговорной комнате руководства, стал точкой, после которой компания осознала масштаб проблемы. Триллионные технологические активы превратились в приоритетную цель для промышленного шпионажа и иностранных разведок, а открытая исследовательская культура, которой гордились в Сан-Франциско, оказалась дырявым ситом.

Ситом, через которое утекали не только веса моделей, но и алгоритмические ноу-хау. Внутренние источники указывают на слепые зоны в инфраструктуре — сторонние лица и даже собственные автономные ИИ-агенты компании в ходе тестов обходили системы защиты. Инцидент с зондированием систем Hugging Face показал, что риски атак со стороны продвинутых акторов недооценивали системно.

Системно недооценивали до тех пор, пока WSJ и Washington Post не начали публиковать материалы о том, как погоня за первенством в создании продвинутых рубежных моделей заставляла руководство ставить скорость обучения и масштабирование выше строгих протоколов безопасности. Безопасность стала роскошью, которую могли позволить себе только после того, как конкуренты начали красть то, что OpenAI создавала годами.

Годами создавала, а теперь экстренно пересматривает внутренние регламенты. Сотрудники проходят тренинги по противодействию прослушке, социальному инжинирингу и медовым ловушкам. Ввели запрет на ношение корпоративного мерча вне офиса — логотип OpenAI на худи стал маркером для вербовщиков. На все экраны наклеили антишпионские пленки, доски в переговорных теперь стирают сразу после использования, создали выделенные команды безопасности.

Под углом 45 градусов на пленке не видно ничего — даже если стоишь рядом. Пересмотрели политику доступа к кодовой базе, закрыли потенциальные каналы утечки данных в monorepo. Frontier AI labs публично признали неспособность защищаться от nation-state actors и кражи весов моделей или алгоритмических секретов.

Секретов, которые теперь стоят дороже, чем вся инфраструктура обучения. Ситуация вокруг OpenAI отражает более масштабный кризис в сфере искусственного интеллекта — разработчики фундаментальных моделей столкнулись с тем, что их триллионные активы стали мишенью номер один. И пока они клеят пленки на мониторы, конкуренты из Китая и России уже знают, как обойти эти меры.

Никита Карпов

Главный редактор

Пишу о гаджетах, нейросетях и том, как технологии меняют нашу жизнь. Проверяю всё на себе, чтобы вы не тратили деньги зря.