Amazon признала «катастрофически дорогие» ошибки ИИ: бюджет проекта с Claude Sonnet превышен на 860%
Внутренние отчёты Amazon, ставшие достоянием общественности благодаря расследованию Financial Times, раскрыли масштабные перерасходы на проекты с использованием генеративного ИИ. Самый резонансный случай — неудачное внедрение модели Claude Sonnet от Anthropic для автоматического сопоставления данных об авторах с карточками товаров на маркетплейсе — обошёлся компании в $1,8 млн, превысив первоначальный бюджет на 860%. Проблему обнаружили лишь через пять месяцев, а сам проект так и не был запущен в продакшн. 
Как ошибки стали «катастрофически дорогими»
На внутренней встрече старшие инженеры Amazon охарактеризовали ситуацию как системную: ошибки, исправление которых в традиционных программных системах обходилось почти бесплатно, при использовании ИИ-агентов становятся «катастрофически дорогими». Главная причина — переход ведущих провайдеров, включая Anthropic и OpenAI, от фиксированных подписок к токеновой модели оплаты. Автономная работа моделей, совершающих тысячи итераций, незаметно генерирует огромные объёмы потребляемых токенов, что мгновенно отражается на счёте.
По данным Financial Times, это не единичный инцидент. Инженеры озвучили ещё два примера значительных перерасходов:
- около $541 тыс. — на разработку инструмента для финансового аудита;
- около $134 тыс. — на проект по оптимизации логистики и сокращению сроков доставки (перерасход заметили быстрее — через две недели).
Причины и последствия: от KiroRank к автоматическому контролю
Одной из побочных проблем стал феномен «токенмаксинга». Ранее Amazon вводила внутренний рейтинг KiroRank, поощрявший сотрудников активнее использовать ИИ-агентов на платформе Kiro. Это привело к тому, что участники гоняли модели даже на примитивные задачи ради повышения позиции в таблице. Из-за роста расходов рейтинговую систему пришлось закрыть, а руководство призвало «не применять искусственный интеллект просто ради самого использования ИИ». 
На фоне инцидентов инженерные команды начали срочно внедрять автоматические защитные барьеры (guardrails) и лимиты расходов на запросы к нейросетям. Компания разрабатывает системы, которые должны контролировать бюджеты будущих ИИ-проектов и предотвращать неподконтрольное «сжигание» токенов.
Позиция Amazon и контекст масштабов
Официальные представители Amazon подчёркивают, что публикация Financial Times основана на нескольких изолированных примерах и не отражает общей картины масштабного и эффективного внедрения ИИ во всей корпорации. «Как и с любой новой технологией, мы экспериментируем, учимся и совершенствуем способы её использования, в том числе в плане повышения эффективности расходов», — говорится в заявлении компании. 
Для сравнения: квартальная выручка Amazon составляет $181 млрд, поэтому даже миллионные перерасходы составляют менее 0,1% от ежемесячного оборота. Однако случаи демонстрируют фундаментальную смену экономики разработки: в эпоху ИИ-агентов стоимость ошибки измеряется не в серверном времени, а в миллионах токенов. Ранее подразделение AWS уже сталкивалось со сбоями из-за ошибок ИИ-бота для генерации кода — проблему решили ограничением прав бота, который имел доступ уровня старших инженеров.
Рыночная реакция: поиск дешёвых альтернатив
Растущие затраты заставляют не только Amazon, но и другие компании пересматривать стратегии. По данным источников, бизнес начинает обращать внимание на более дешёвые модели среднего уровня и решения с открытыми весами, чтобы снизить зависимость от дорогых проприетарных API. Инцидент с Amazon стал наглядным предупреждением для всей индустрии: внедрение ИИ без жёсткого финансового контроля может обернуться неожиданными миллионными счетами. 