«Рам Альтман» переобулся: глава OpenAI заявил, что не хочет отбирать оперативную память у пользователей
40% мирового выпуска DRAM уже уходит в HBM для тренировочных кластеров — и этого всё равно не хватает. Сэм Альтман в подкасте Cheeky Pint озвучил то, о чём шептались в кулуарах Computex: домашние ПК с 32–64 ГБ, простаивающими 90% времени, — это расточительство, которое нужно лечить перераспределением в пользу дата-центров.
Дата-центров, в которые Альтман предлагает переложить всю память мира, интернет отреагировал предсказуемо. Мемы про «отдай 1 ГБ Сэму при чекауте» улетели в тренды X быстрее, чем его команда успела подготовить пресс-релиз. Пресс-релиз, впрочем, не понадобился — Альтман просто сменил ник на Ram Altman и записал видео с покаянием.
Покаяние получилось аккуратным. «Я хочу, чтобы у всего мира было огромное количество памяти», — заявил он, аккуратно обходя вопрос о том, кто именно будет это количество производить. Счёт, по которому выставляют Samsung, SK Hynix и Micron, и так трещит — yield на HBM3E-стеках пляшет в зависимости от загрузки TSV-линий.
TSV-линий, которых физически не хватает. И вот тут начинается интересное: базовую инженерную идею Альтман не отозвал ни на йоту. Да, дата-центры утилизируют кремний эффективнее. Да, локальный инференс Llama-70B требует 140 ГБ только под веса, не считая KV-кэша. Да, у облачного провайдера каждый гигабайт работает 24/7, а у геймера — от силы час в день.
Час в день. Столько сейчас стоит простой одного гигабайта DRAM в потребительской сборке, если пересчитать на утилизацию capex.
Утилизацию, которую корпорации научились монетизировать ещё на облачном гейминге. Только там нужен был стриминг видео с задержкой, а теперь, с появлением on-device NPU и квантованных моделей, локальный ПК снова стал угрозой для подписочной модели. Угрозой, от которой нужно либо отобрать железо, либо сделать его настолько дорогим, чтобы подписка выглядела спасением.
Спасением, которое Intel оценила в 30% падения котировок за сутки — худший день с 1974 года. Рынок прочитал подкаст Альтмана точнее, чем сам Альтман прочитал свою аудиторию.
Никита Карпов
Главный редакторПишу о гаджетах, нейросетях и том, как технологии меняют нашу жизнь. Проверяю всё на себе, чтобы вы не тратили деньги зря.