67-летний фермер после года успешного общения с нейросетью решил довериться ее совету по борьбе с сорняками и вредителями. На следующий день после обработки погибло все поле кунжута площадью почти 10 гектаров. Digital Business рассказывает эту историю со ссылкой на Tom’s Hardware.
ИИ сначала помогал
Фермер Ву из Китая начал пользоваться ИИ около года назад. Поначалу мужчина относился к советам нейросети скептически, однако со временем изменил мнение: приложение давало ему рекомендации, которые, по его словам, оказывались полезными. Именно этот опыт в итоге сыграл злую шутку.
Когда на поле появились сорняки и вредители, фермер решил снова обратиться к ИИ. Нейросеть предложила ему схему обработки, включавшую несколько химических препаратов.
Ву решил не перепроверять рекомендации у специалистов и применил полученную смесь непосредственно на своем поле.
На следующий день погибло все
Результат оказался противоположным ожидаемому. Уже на следующий день после обработки начали массово погибать не только сорняки, но и сами всходы кунжута.
> «Если распылить это, на следующий день всходы не выживут. И трава, и всходы погибнут, причем всходы погибнут еще быстрее», – рассказал фермер.
В результате было уничтожено около 150 му, то есть примерно 24,7 акра или 10 гектаров урожая. Для наглядности: это площадь примерно 18–20 футбольных полей.
В чем ошиблась нейросеть
После того как урожай погиб, фермер снова обратился к ИИ и спросил, что пошло не так. Нейросеть предположила, что причиной мог стать один из рекомендованных гербицидов.
Однако специалисты по сельскому хозяйству указали на более фундаментальную проблему.
Этот препарат используется преимущественно для борьбы с широколистными сорняками, в частности на соевых полях. При этом кунжут также относится к широколистным растениям, а значит, сам урожай оказался уязвим для воздействия химиката.
Кроме того, по данным специалистов, подобные препараты предназначены для точечной обработки пораженных участков, а не для распыления по всему полю. Получается, что нейросеть предложила фермеру средство против сорняков, но не учла критически важную деталь: культура, которую мужчина пытался защитить, сама могла пострадать от этого препарата.
Не проверил совет – и потерял весь урожай
Главная проблема оказалась не только в ошибочном совете ИИ, но и в том, что мужчина воспринял его как готовую инструкцию. Фермер не обратился за подтверждением к агрономам и не проверил совместимость препаратов с конкретной культурой перед обработкой.
При этом в самом интерфейсе приложения было предупреждение о том, что сгенерированная информация может содержать ошибки и требует проверки.
