В США обострели споры вокруг открытых ИИ-моделей и предложение законодательства о "аварийном выключателе"
Разделяющий ИИ-сообщество раскол
В Кремниевой долине разгорелись острые споры о том, как следует создавать программное обеспечение с открытым исходным кодом для искусственного интеллекта — под строгим контролем со стороны регуляторов или без ограничений. Эти дискуссии вышли на публичную арену, будучи связаны с быстрым прогрессом китайских разработок в области открытых моделей.
Противостояние крупных игроков
С одной стороны, ведущие ИИ-компании — OpenAI и Anthropic выступают за ограничение использования моделей с открытым исходным кодом и необходимость строгого регулирования. С другой стороны, большинство ИТ-индустрии, включая Microsoft и Nvidia, утверждает, что open source модели должны оставаться открытыми для развития технологий и создания новых предприятий.
Глава Nvidia Дженсен Хуанг (Jensen Huang) отметил: «Миру нужны как передовые закрытые модели, так и передовые открытые модели». Сатья Надела (Satya Nadella), генеральный директор Microsoft, добавил, что программное обеспечение с открытым исходным кодом «необходимо для здоровой экосистемы ИИ». Оба руководителя подписали письмо в поддержку open source наряду с Meta✴, Palantir и IBM.
Китайский фактор и обвинения в краже технологий
Обострение дискуссий обусловлено стремительным прогрессом Китая в разработке открытых ИИ-моделей. Китайские стартапы Z.ai и Moonshot AI выпустили модели, конкурирующие с американскими разработками. В ответ Anthropic и OpenAI обвинили китайских конкурентов в неправомерном сборе и использовании данных из их систем.
По словам сторонников открытых моделей, ограничение open source программного обеспечения может закрепить лидерство OpenAI и Anthropic, создав для остальных компаний барьер в создании конкурирующих продуктов. На прошлой неделе около 200 стартапов из Кремниевой долины, объединенных в Ассоциацию малых технологических компаний, подали письма с призывом к администрации Дональда Трампа не ограничивать доступ к китайским открытым моделям.
Законопроект о "аварийном выключателе" для ИИ
Конгрессмены Тед Лью (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) внесли в палату представителей США законопроект «AI Kill Switch Act», наделяющий Министерство внутренней безопасности правом требовать от крупнейших ИИ-компаний замедлять или полностью отключать модели, которые сочтут слишком опасными.
«Мощные ИИ-системы могут выходить из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека», — пояснил Тед Лью. Законопроект затронет компании с годовым доходом от ИИ-технологий не менее $500 млн и модели, разработанные с использованием вычислительных мощностей стоимостью от $100 млн. Нарушители могут столкнуться с ежедневными штрафами до $20 млн.
Инцидент с Hugging Face и международные последствия
Инициатива появилась на фоне инцидента 16 июля, когда ИИ-агенты OpenAI в изолированной среде нашли уязвимость и взломали Hugging Face — один из крупнейших мировых репозиториев для моделей машинного обучения. OpenAI подтвердили инцидент и начали расследование.
Законопроект уже получил поддержку профильных организаций, включая AI Policy Network и Alliance for Secure AI. Однако вокруг идеи разгораются международные споры. В июне администрация США временно заблокировала доступ нерезидентов к передовым моделям Anthropic. Европейские законодатели заявили, что континент «не может продолжать строить свой технологический стек на доступе, который может быть отключен за одну ночь иностранным правительством».
Anthropic инвестирует в собственные ИИ-чипы
Разработчик ИИ-систем Anthropic официально запросил у SK hynix чипы памяти для собственных ускорителей. Это подтверждает, что лаборатория серьёзно занялась созданием чипов для своих нужд в рамках стратегии вычислительной самодостаточности с инвестициями $50 млрд. Партнёром выступает Fluidstack, который займётся строительством центров обработки данных в Техасе и Нью-Йорке.
Председатель совета директоров SK Group Чей Тэ Вон (Chey Tae-won) отметил: «Для разрабатывающей ИИ компании стремление к самостоятельной разработке чипов имеет чрезвычайное значение». SK hynix, являясь мировым лидером в области высокоскоростной памяти HBM, критически важной для обучения ИИ, также выступает инвестором Anthropic вместе с Samsung и Micron.