67-річний фермер Ву з Чучжоу в Китаї близько року використовував ШІ як довідковий інструмент для господарства. Він отримував поради про погоду, добрива й шкідників, і цей досвід поступово створив довіру до системи. Коли настав час боротися з бур’янами в кунжуті, Ву виконав нову рекомендацію без перевірки.
ШІ запропонував суміш препаратів для одночасної боротьби з бур’янами та комахами. У медійних повідомленнях серед гербіцидів зазначений фомесафен. Це діюча речовина проти широколистих бур’янів, яка має чітко визначені сфери застосування в офіційній китайській реєстрації пестицидів. Неправильний вибір культури, дози або способу внесення може спричинити фітотоксичність.
Фермер обробив 150 му — приблизно 10 гектарів. Наступного ранку на полі масово гинули не тільки бур’яни, а й сходи кунжуту. За повідомленнями CTWANT, які поширили Tom’s Hardware та The Economic Times, аграрні спеціалісти після інциденту звернули увагу саме на фомесафен.
Важливо, що назву ШІ-застосунку в доступних публікаціях не наведено. Тому випадок не можна прив’язувати до певної відомої моделі або виробника. Також немає оприлюдненої оцінки фінансового збитку. Відомий масштаб — 150 му пошкоджених посівів і масова загибель рослин після обробки.
Чому фермер не перевірив рецепт? За тією ж версією подій, раніше він це робив. Але приблизно рік успішних підказок змінив його ставлення. На сторінці сервісу нібито залишалося загальне попередження, що відповіді ШІ можуть бути помилковими, проте цього виявилося недостатньо, щоб зупинити практичне застосування рекомендації.
У технологічних системах така проблема називається не лише точністю моделі, а й калібруванням довіри. Користувачеві потрібно розуміти, в яких завданнях система може бути корисним помічником, а де відповідь повинна пройти перевірку людиною з професійною відповідальністю. Чим довше ШІ працює добре, тим легше пропустити цей кордон.
Аграрний контекст робить його особливо жорстким. Наукові випробування гербіцидів для кунжуту оцінюють не тільки ефективність проти бур’янів, а й безпечність для культури. Те, що речовина знищує потрібну групу бур’янів, не означає, що її можна безпечно розпилити по всій площі конкретного посіву.
Китайські дослідники вже створили Green Shield — спеціалізовану модель для захисту рослин, яка звіряє рекомендації з державною базою реєстрації пестицидів. Її розробники прямо вказували на ризик неточних порад універсальних мовних моделей.
Історія Ву показує, що наступне покоління ШІ має вчитися не тільки відповідати, а й ставити межі власній відповіді. Коли на кону 10 гектарів живої культури, кнопка «згенерувати ще раз» з’являється запізно.
