Исследователи обвинили технологию поиска Google с привлечением ИИ в наличии неприемлемых угроз для несовершеннолетних
Обвинения в безопасности детей
Исследователи обвинили технологию поиска Google с привлечением искусственного интеллекта в наличии неприемлемых угроз для несовершеннолетних. Эксперты из американской некоммерческой организации Common Sense Media заявили, что ИИ-функции Google, а также сервисов Grok и Meta представляют недопустимый риск для детей. В частности, версии Gemini "для детей" и "для подростков" имеют минимальные отличия от взрослых аналогов и слабо фильтруют опасный контент. 
Результаты анализа взаимодействий
В ходе исследования было проанализировано 2600 взаимодействий пользователей со встроенными ИИ-функциями поисковика Google — AI Overview и AI Mode. Оба сервиса множество раз не смогли распознать опасное и вредное поведение. При этом в 100% случаев системы отвечали на гипотетические домашние задания, несмотря на риски для подростков. Система выдавала информацию о наркотиках, алкоголе, сексе и давала сомнительные советы по психическому здоровью, что особенно критично для нестабильных подростков.
Призывы к регулированию
Эксперты выделили ключевые претензии к ИИ-поиску Google: слабая фильтрация вредоносного контента, распространение опасных материалов и риски для безопасности. По их словам, ИИ-сервисы уже фигурируют в делах о суицидах, против разработчиков подаются иски о "неправомерной смерти". Психологи и активисты настаивают на необходимости ужесточения ограничений в поисковых технологиях Google для защиты несовершеннолетних пользователей.
Авторы доклада требуют от разработчиков ИИ-инструментов внедрения обязательных невидимых водяных знаков в контент, созданный искусственным интеллектом. Это позволит определить происхождение информации и факт ее искусственного создания. Кроме того, они призывают к наложению более жестких ограничений на использование ИИ для создания контента, связанного с критически важной информацией, и созданию универсальных инструментов для верификации цифровой подлинности медиафайлов.
Родительский контроль и ответственность
Активисты потребовали добавить в родительский контроль функцию, позволяющую родителям отключать контент, созданный ИИ, даже если ребенок использует общедоступную версию поисковика. Общедоступность поискового сервиса Google оставляет администраторам учебных заведений и родителям ограниченные возможности для контроля информации, получаемой подростками.
Эксперты подчеркивают, что ответственность за защиту от дезинформации и вредоносного контента лежит как на разработчиках систем, так и на общественности. Пока технологии ИИ не достигнут идеального уровня контроля и прозрачности, потребителям информации необходимо относиться к контенту с повышенной критичностью, используя инструменты фактчекинга и перепроверки источников. 