Skip to content
Microsoft вводит лимиты на использование ИИ для инженеров — расходы на токены выросли критически
06 августа 11:12 0 Просмотров Новости

Microsoft вводит лимиты на использование ИИ для инженеров — расходы на токены выросли критически

Microsoft призвала своих инженеров не злоупотреблять использованием инструментов искусственного интеллекта — работа с ИИ стала слишком дорогой. Компания открыла для внутреннего применения одну из доступных моделей OpenAI GPT-5.6, чтобы «получить отдачу от наших инвестиций в токены», но вскоре для сотрудников будет установлен «целевой бюджет ИИ-токенов», который они смогут отслеживать индивидуально. логотип Microsoft и модель GPT-5.6

От безлимитного доступа к строгому учету

Потребление токенов пропорционально объёмам запросов к ИИ и ответов моделей. Раньше работников технологических компаний поощряли пользоваться ИИ как можно активнее, но перевод работы на оплату по объёмам потребления привёл к тому, что счета за это резко выросли. Исполнительный вице-президент Microsoft Джей Парих (Jay Parikh) во внутреннем электронном письме обратился к сотрудникам с призывом сосредоточиться на результате:

«Хочу, чтобы все мы сосредоточились на максимизации результатов, которые принесут нашим клиентам и бизнесу пользу. Поэтому мы обновим наши внутренние рекомендации и введём управление расходами токенов с той же дисциплиной, которую применяем ко всем другим критически важным ресурсам».

В документе содержится ссылка на внутренние рекомендации по работе с Copilot, согласно которым в Microsoft появится «целевой бюджет токенов ИИ», однако подробности механизма пока не раскрываются. интерфейс отслеживания токенов в Copilot

GitHub Copilot стал первым тестом

В конце мая Microsoft перевела сервис GitHub Copilot на оплату за токены, и некоторые пользователи быстро исчерпали свои лимиты. Этот опыт стал сигналом для корпорации: без контроля расходы на генеративный ИИ могут выйти за пределы плановых бюджетов. Теперь аналогичная логика распространяется на внутреннее использование всех ИИ-инструментов.

Переход на собственные модели для экономии

Помимо введения лимитов, Microsoft пытается сократить расходы на ИИ, подключая приложения Microsoft 365 к собственным моделям MAI вместо более дорогих в обращении решений Anthropic и OpenAI. Стратегия заключается в использовании мощных сторонних моделей точечно — для сложных узких задач — а рутинную работу переводить на более экономичную внутреннюю инфраструктуру. архитектура моделей MAI в Microsoft 365

Отраслевой тренд

Контроль за расходами сотрудников на ИИ-токены ужесточили и другие крупные игроки: Amazon, Adobe, Atlassian и Citi. Индустрия переходит от этапа безлимитного экспериментирования к жесткому управлению рентабельностью инвестиций в генеративный ИИ.

Поделиться

Похожие публикации