Фанаты The Duskbloods заставили ИИ Googleгаллюцинировать несуществующих боссов и персонажей
Сообщество ожидаемой игры The Duskbloods удалось обмануть поисковый ИИ Google (Gemini), заставив нейросеть выдавать вымышленных персонажей, боссов и локации за достоверную информацию. Ситуация стала возможной из-за информационного вакуума после анонса: разработчики практически не делились новыми подробностями, а фанаты на Reddit начали массово придумывать контент в стиле игр FromSoftware.
Как шутки Reddit стали «фактами» для ИИ
До первого закрытого тестирования The Duskbloods оставался около месяца. В отсутствие официальных новостей пользователи сообщества r/TheDuskbloods запустили феномен «Duskposts» — шуточные публикации, где игроки делают вид, будто уже прошли игру. Они создавали несуществующих героев, боссов и локации, стараясь, чтобы описания звучали максимально правдоподобно и «по-миядзаковски».
Среди вымышленных персонажей, которые ИИ Google начал воспринимать как реальных, фигурируют:
- Bugout Billy — якобы открываемый персонаж после победы над боссом Duskbug Brigade в локации Underdusk
- Blood Mistress Elizabeth — описываемая как «фансервисный босс»
- Lycan Vrykolakas — которого пользователи в шутку называют вторым Блайдом
- John Duskblood — еponимный персонаж, придуманный фанатами
Один из участников сообщества даже составил подробный список всех «боссов» с описанием их истории, внешнего вида и игровых механик, хотя сама игра еще не вышла.
Проблема распознавания сатиры
Как отметил журналист Video Game Town Иэн Уокер, Google AI не всегда способен отличить подобный юмор от реальной информации. При прямом вопросе о подтвержденных боссах поисковик может корректно ответить, что официально разработчики никого не представили. Однако слегка измененная формулировка запроса приводит к совершенно иному результату — ИИ уверенно утверждает, что вымышленные персонажи действительно являются частью игры.
Ситуация связана с тем, что Google активно использует данные Reddit для обучения своих моделей. Алгоритм не всегда отличает сатиру и мемы от проверенной информации, особенно когда речь идет о проектах, вокруг которых уже появилось множество фанатских шуток. В случае с The Duskbloods достаточно было проверить, что игра еще не вышла, чтобы понять: описанные боссы и механики существуют только в фантазии пользователей Reddit и самого Gemini.
Реакция сообщества и выводы
Инцидент получил широкую огласку в технологических и игровых СМИ — о нем написали 4PDA, IXBT.games и GameGuru.ru. Ситуация вновь напомнила, что ответы ИИ не стоит воспринимать как безошибочный источник информации. Фанаты FromSoftware, известные своим творческим подходом к ожиданию новинок, неожиданно провели масштабный тест на устойчивость нейросети к дезинформации, созданной самими пользователями.
Пока разработчики The Duskbloods молчат, Google Gemini продолжает усваивать новые порции фанатского фольклора, пополняя свою базу знаний персонажами, которых никогда не существовало.