Американская лаборатория Arcee: китайские ИИ-модели с открытыми весами не опаснее обычного ПО с открытым кодом

Американская лаборатория Arcee, специализирующаяся на разработке открытых ИИ-моделей, официально выступила против идеи запрета в США китайских моделей с открытыми весами (open-weight). В компании заявили, что такие системы не представляют большей угрозы, чем любое другое программное обеспечение с открытым исходным кодом.

Позиция технического директора Arcee

По словам технического директора Arcee Лукаса Аткинса (Lucas Atkins), распространённое мнение о том, что китайские разработчики способны встроить в модель скрытые механизмы доступа к системам пользователей, не соответствует принципам работы современных больших языковых моделей (LLM). Он пояснил, что после развёртывания модели в собственной инфраструктуре организации её создатель не получает возможности взаимодействовать с ней.

Открытые веса против полностью открытого кода

Аткинс отметил важное различие: большинство подобных моделей относятся к категории open-weight (открытые веса), а не полностью open source (открытый исходный код). Их программный код, загружаемый через такие площадки, как Hugging Face, остаётся доступным для анализа. При этом недоступными остаются только данные и методики, использовавшиеся во время обучения модели.

Практики безопасности в корпоративном секторе

В Arcee подчеркнули, что крупные компании обычно проводят собственные проверки безопасности перед внедрением ИИ-моделей. Организации тестируют модели на предвзятость, токсичность, галлюцинации и другие характеристики, а также дообучают их под собственные задачи. Благодаря этому компании получают возможность оценить поведение модели ещё до её ввода в эксплуатацию.

Оценка рисков внедрения вредоносного кода

Комментируя опасения относительно возможного внедрения вредоносного кода через модели, Аткинс признал, что теоретически такой сценарий можно представить. Однако, по его словам, реализовать подобный механизм на практике крайне сложно, а вероятность того, что сгенерированный код затем будет использован компанией без дополнительной проверки, остаётся низкой.

Геополитический контекст технологического соперничества

Заявление Arcee звучит на фоне обостренного технологического соперничества между США и Китаем. Ключевыми полями противостояния остаются полупроводники и чипы, искусственный интеллект, а также 5G и телекоммуникационное оборудование. США ввели жесткие экспортные ограничения на передовые полупроводники и оборудование (включительно ASML и чипы Nvidia) для Китая, что вынудило Пекин ускорить разработку собственных «суверенных» технологий.

В сфере ИИ наблюдается формирование двух конкурирующих экосистем: китайская стратегия предполагает активное государственное регулирование и инвестиции в «управляемый ИИ», тогда как американская опирается на рыночно-ориентированный подход с акцентом на частные инновации крупных технологических корпораций. Мировой тренд свелся к гонке за данными и вычислительной мощностью, ставшими новой «нефтью».

Последствия для глобальной экономики

Эксперты отмечают переход от глобальной цепочки поставок к региональным «дружественным» блокам (friend-shoring). Блокирование доступа к передовым технологиям создает «технологический барьер», замедляющий мировой экономический рост. Одновременно возникают двойные стандарты — два набора правил, стандартов и протоколов, что усложняет торговлю и научные исследования.

Призыв к развитию открытой экосистемы

В Arcee считают, что основное внимание следует уделять развитию открытой ИИ-экосистемы в США, а не попыткам ограничить китайские модели. Открытая доступность таких систем позволяет американским разработчикам изучать применяемые подходы, совершенствовать собственные модели и конкурировать за счёт выпуска более качественных продуктов, а не административных запретов. По мнению лаборатории, соперничество между США и Китаем представляет собой структурный раскол в основе глобальной технологической архитектуры, определяющий геополитический порядок на десятилетия вперед.