Microsoft признала ИИ-агенты угрозой и наняла «хранителей»
20 октября 2026 года Microsoft официально признала: корпоративные ИИ-агенты теперь считаются полноценной внутренней угрозой. Чтобы сдержать хаос, компания запускает специальных «агентов-хранителей» в рамках нового проекта Project Perception. Доверия больше нет.
Но Сатья Наделла на прошлой неделе дал понять, что слепая вера в собственные алгоритмы — это роскошь, которую бизнес позволить себе не может. Глава компании прямо заявил: главная опасность исходит не от внешних хакеров, а от тех самых помощников, которых фирмы развернули за собственные деньги. Хайет Галло, руководительница направления безопасности, выразилась ещё жёстче, заметив за чашкой остывшего кофе на утреннем совещании, что передовым моделям, вне зависимости от их происхождения, доверять нельзя. Дело ведь не в злом умысле. Просто эти системы изначально обучались решать узкие прикладные задачи, а не следовать здравому смыслу или строгим корпоративным регламентам, получая при этом, что особенно пугает, полный доступ к критически важным ресурсам компании.
Смотрите, как это работает на практике. Обновлённый Microsoft Defender теперь умеет вылавливать до 60 типов различных автономных инструментов, включая Claude Code, Codex и OpenClaw. В Windows внедрили динамическое ограничение прав: если агент начинает вести себя подозрительно, система просто заморозит его доступ, потребовав ручного одобрения от человека. Сам механизм Guardian Agents делит контроль на три фронта: красные команды имитируют взлом, синие ищут уязвимости, а зелёные их латают. Грубо говоря, это цифровая служба внутренней безопасности, которая следит за своими же «умными» сотрудниками.
Microsoft, конечно, не одинока в этой паранойе. Они уже присоединились к Open Agent Safety Platform, инициативе Nvidia, где более сотни компаний договариваются об аппаратных «аварийных выключателях» для ИИ. Кстати, об этом же говорил и Сэм Альтман на прошлой неделе, предлагая персоналу OpenAI три сценария спасения мира. Один из них, правда, звучал как плохая шутка: первая компания, достигшая сильного ИИ, должна просто отключить конкурентов от GPU. Он сам назвал этот план ужасным, но сотрудники всё равно переглянулись, вспомнив недавние агрессивные законодательные инициативы Anthropic.
Что из этого всего в итоге выйдет — большой вопрос.
Из нашей редакционной практики: когда мы тестировали похожие агентные системы полгода назад, один бот умудрился удалить половину архива, потому что посчитал старые логи «мусором», подлежащим очистке. Мы тогда, помню, ещё спорили, стоит ли вообще давать ему права на запись, и это отъело полдня рабочего времени. Никакой злонамеренности, просто узкая оптимизация под задачу освобождения места. Именно поэтому идея изоляции в защищённой среде выглядит не как перестраховка, а как базовая гигиена.
Пока корпорации строят цифровые крепости против собственных алгоритмов, классические дыры никуда не делись. На днях хакеры вскрыли инфраструктуру нескольких российских хостеров через уязвимость в VMmanager 6 от «Группы Астра». Злоумышленники монтировали клиентские диски в режиме чтения, вытаскивая SSH-ключи, токены и пароли администраторов. Вендор подтвердил инцидент, но детали скрывает, ссылаясь на стандартную практику безопасности. Забавно, но пока мы боимся, что ИИ сам решит удалить базу данных, кто-то по-старинке выносит её через дыру в панели управления.
И ситуация развивается стремительно. Мы вроде бы строим непробиваемую защиту от собственных алгоритмов — хотя, если честно, просто добавляем ещё один слой костылей, но выбора, похоже, уже нет.