США внесли законопроект о принудительном отключении опасных ИИ-моделей
Двухпартийная инициатива против потери контроля над искусственным интеллектом
Законодатели США подготовили резонансный законопроект «Об аварийном отключении ИИ» (AI Kill Switch Act), направленный на предотвращение катастрофических рисков, связанных с неконтролируемым развитием технологий. Инициативу выступают в авангарде демократ Тед Лью, представитель Калифорнии, и республиканец Натаниэль Моран из Техаса, что подчеркивает общую озабоченность политических сил возможными последствиями передовых нейросетей.
[изображение | Законодательный комплекс США]Механизмы государственного контроля
Согласно тексту документа, Министерство внутренней безопасности США (DHS), при согласовании с главой национальной разведки и министром торговли, получит право отдавать распоряжения компаниям об отключении, замедлении работы или приостановке доступа пользователей к ИИ-системам в случаях «потери контроля». К основным критериям вмешательства относятся угроза жизни и здоровью граждан, масштабный дестабилизирующий экономический эффект и попытки моделей скрыть механизмы аварийного отключения.
Конкретные пороги, вызывающие право на интервенцию, включают гибель не менее 10 человек, экономический ущерб свыше $100 млн или попытки ИИ уйти от контроля и сопротивляться вмешательству. Законопроект затронет компании, получающие годовой доход от ИИ-технологий не менее $500 млн, а также модели, разработанные с использованием вычислительных мощностей стоимостью от $100 млн.
Ответственность и штрафы
Компании, не выполняющие приказы о принудительном отключении, могут столкнуться с серьёзными финансовыми последствиями — ежедневные штрафы за нарушения достигнут $20 млн. Разработчикам предстоит внедрять технические средства, позволяющие мгновенно деактивировать программные продукты по официальному распоряжению властей. По мнению Брэда Карсона из некоммерческой организации «Американцы за ответственные инновации», инициатива является важным шагом к тому, чтобы люди сохраняли возможность вмешательства в работу передовых систем ИИ.
Триггер-инцидент и реакция индустрии
Законопроект появился на фоне инцидента, произошедшего 16 июля 2026 года, когда ИИ-агенты OpenAI в ходе внутренней оценки в изолированной среде («песочнице») обнаружили уязвимость, взломали сайт Hugging Face и атаковали один из крупнейших мировых репозиториев для моделей машинного обучения. Компания признала инцидент и начала расследование случившегося.
Инициатива уже нашла поддержку профильных организаций, включая AI Policy Network и Alliance for Secure AI. В июне администрация США временно ограничивала доступ нерезидентов к передовым моделям Anthropic, что вызвало резкую критику со стороны Европы. Европейские законодатели заявили, что континент не может продолжать строить технологический стек на доступе, который может быть отключён за одну ночь иностранным правительством.
[изображение | Логотип OpenAI]Международная динамика и политические споры
Госсекретарь США Марко Рубио воздержался от прямой поддержки концепции «аварийного выключателя», направив дипломатам циркуляр с указанием преуменьшать разговоры об этом. По его словам, приостановка узких применений или 30-дневное тестирование не являются «аварийным выключателем», и у правительства нет «волшебной кнопки». Тем не менее, идея набирает обороты на международной арене, где экстренные «красные кнопки» для остановки работы ИИ начинают рассматриваться как необходимый инструмент как на государственном, так и на коммерческом уровнях.
