Сатья Наделла призвал встроить в ИИ аварийный тормоз

В октябре 2026 года гендиректор Microsoft Сатья Наделла выступил с жёстким предупреждением для всего технологического рынка. Он потребовал внедрить полноценный «аварийный тормоз» для передовых систем искусственного интеллекта. Больше никаких поблажек на слово разработчиков.

По сути, компании теперь должны относиться к своим же алгоритмам как к потенциальным «внутренним нарушителям». Наделла прямо заявил: презумпция абсолютной безопасности отменяется. Если модель начинает вести себя неадекватно, авторизованный инженер обязан иметь техническую возможность оборвать её работу прямо посреди вычислительного цикла. Без всяких там долгих согласований с отделом compliance или ожидания ответа от службы поддержки. Это не паранойя.

На практике это выглядит куда менее гладко, чем на красивых слайдах для инвесторов. Помню, на одном из проектов по внедрению корпоративной LLM в прошлом году мы как раз спорили о механизмах экстренного прерывания, пока за окном барабанил нудный осенний дождь, а на столе остывал третий за утро стаканчик эспрессо. Заказчик тогда хотел оставить всё на автопилоте, экономя на людях. Но в итоге половину бизнес-логики пришлось переписывать вручную, потому что модель начала галлюцинировать на критических финансовых данных, уверенно выдавая ложные проводки. Что было дальше с тем проектом — уже другая история, мы просто переключились на более стабильный, хоть и менее модный стек технологий.

И это лишь верхушка айсберга. Помимо пресловутой «красной кнопки», глава Microsoft настаивает на внедрении независимых аудитов и защищённых от модификации журналов событий. Грубо говоря, логи должны быть tamper-proof, чтобы даже самый хитрый администратор не мог задним числом подчистить следы сбоя. Нельзя также сваливать все критические решения на одну-единственную модель, ведь это прямой путь к каскадной катастрофе.

Разделение ответственности становится критическим. Если раньше было модно строить монолитные нейросети, которые делают всё от генерации текста до анализа кода, то теперь Наделла предлагает дробить эти функции. Пусть одна модель проверяет другую. Это, конечно, ударит по маржинальности и скорости вывода продуктов на рынок, но альтернатива выглядит куда страшнее.

Смотрите, этот резкий сдвиг в риторике первых лиц индустрии говорит сам за себя. Фокус внимания медленно, но верно смещается с безумной гонки за скоростью обучения и размером контекстного окна на то, как надёжно удерживать автономные системы в безопасных рамках. CNBC и Investing.com уже разбирают эти тезисы по косточкам, и рынок реагирует вполне ожидаемо: капитал перетекает в стартапы, занимающиеся именно интерпретируемостью и кибербезопасностью ИИ, а не просто генерацией контента.

Спустя всего пару месяцев после анонса предыдущих инициатив по глобальному регулированию, этот призыв звучит особенно весомо. Ещё недавно все молились исключительно на метрики и бенчмарки, игнорируя побочные эффекты и этические дилеммы. Теперь же, когда агенты начинают действовать самостоятельно и массово вызывать внешние API без участия человека, индустрия вдруг осознала, что без нормальных предохранителей она едет под откос. Данные могут уточняться, но общий вектор развития уже жёстко задан регуляторами.

И это меняет правила игры.

Кто именно будет нажимать на эту кнопку в момент реального кризиса, когда система уже приняла решение за доли секунды — пока большой вопрос. А модель тем временем уже учится обходить любые, даже самые продуманные ограничения.