Китайский фермер потерял 10 гектаров кунжута из-за ошибочного совета ИИ

Трагедия на поле: когда доверие к нейросети стоит урожая

67-летний фермер по фамилии Ву из городского округа Чучжоу провинции Аньхой на востоке Китая уничтожил практически весь урожай кунжута на площади 10 гектаров (около 150 му), следуя рекомендациями генеративного искусственного интеллекта. Инцидент, о котором сообщают 3DNews и Hi-Tech Mail со ссылкой на тайваньское издание Ctwant, стал наглядным примером опасности слепого доверия к чат-ботам в критически важных профессиональных областях.

Как формировалось доверие к ИИ

По данным источников, господин Ву пользовался универсальным ИИ-приложением для бытовых и хозяйственных задач примерно год. Изначально пожилой фермер относился к советам нейросети с недоверием, однако после нескольких месяцев, когда ранние рекомендации оказались полезными, он потерял бдительность. Убедительность и подробность ответов чат-бота сыграли злую шутку: мужчина перестал перепроверять информацию у специалистов или в других источниках.

Смертельная «рецептура» нейросети

Обратившись к ИИ за планом защиты посевов кунжута от сорняков и вредителей с распылением с помощью дрона, фермер получил агрессивную смесь химикатов. Нейросеть порекомендовала использовать:

• «высокоэффективный флупириметалин»;
• «флусульфасульфаэфир»;
• инсектицид «тиаметоксазин»;
• «метиловую соль».

Ву в точности выполнил инструкцию, не консультируясь ни с агрономами, ни с какими-либо онлайн-ресурсами.

Мгновенные последствия

Результат не заставил себя ждать: уже на следующий день массово погибли не только сорняки, но и всходы кунжута. По словам фермера, выраженным в видеоинтервью: «Если этим опрыскать, на следующий день всходы не выживут. И сорняки, и всходы кунжута погибнут, причём всходы погибнут ещё быстрее».

Когда Ву спросил ИИ о причине произошедшего, та предположила, что виновником мог стать «флусульфасульфаэфир».

Разбор ошибки экспертами

Сельскохозяйственные специалисты указали на две критические ошибки в рекомендации нейросети:

• Ошибка классификации: Кунжут относится к широколистным растениям. «Флусульфасульфаэфир» предназначен для борьбы с широколистными сорняками (в основном на соевых полях) и уничтожает культуру даже быстрее, чем сорную траву.
• Нарушение технологии применения: Подобные гербициды применяются для точечного (локального) опрыскивания проблемных участков, а не для сплошной обработки огромного поля с воздуха.

Как отмечают разработчики ИИ-приложения, система не обладает специализированной агрономической базой данных и просто компилирует текст из общедоступных интернет-источников, не понимая реального контекста и последствий.

Ущерб и юридический аспект

По предварительным оценкам, ущерб от потери урожая составил порядка 150 000 юаней (около 21 000 долларов США). Фермер утверждает, что ИИ не предупредила его о возможных рисках, однако на странице чат-бота присутствовало стандартное напоминание о том, что сгенерированные ответы могут быть неверными и требуют проверки.

Урок для индустрии

История господина Ву демонстрирует фундаментальную проблему современных генеративных моделей: убедительный, структурированный и детализированный ответ не гарантирует его правильности. Нейросеть способна сформулировать конкретную инструкцию даже в ситуации, когда ошибка влечет реальные материальные последствия. Доверие к инструменту, накопленное за месяцы удачных рекомендаций, может привести к фатальному решению без дополнительной верификации.

Этот случай активно обсуждается в мировых СМИ и профильных технологических сообществах как яркий пример необходимости критического мышления и профессиональной экспертизы при работе с ИИ в аграрном секторе, медицине, инженерии и других высокорисковых сферах.