У справі московського школяра є два різні рівні невизначеності. Перший — чому поліція вирішила, що перед нею потрібний підозрюваний. Другий — що сталося після затримання. Родина 15-річного хлопця пов’язує перший рівень із системою штучного інтелекту, а щодо другого говорить про побиття. Поліція, за отриманою сім’єю відповіддю, заперечує таке пояснення застосованої сили.
Сам інцидент стався 4 травня. «Новая газета Европа» повідомляла, що підлітка затримали вранці на вулиці Гарібальді дорогою до школи. Мати розповідала, що сина повалили на землю, зв’язали й відвезли до відділу. Там, за її словами, з’ясувалося, що його переплутали з іншою людиною.
У пізнішому матеріалі Осторожно Media батько додає нову деталь. Він стверджує, що матері повідомили про збіг на 85–90% із людиною з орієнтування, який нібито визначила система з ШІ. Цей показник поки неможливо перевірити за технічною документацією: назва системи не вказана, а окремого офіційного коментаря про її роль немає.
У системах розпізнавання число схожості саме по собі мало що говорить без контексту. NIST оцінює алгоритми за частотою хибних позитивних та негативних результатів і окремо показує, як на результат впливає поріг спрацювання. У пошуку серед великої бази програма фактично ранжує кандидатів. Тому будь-яке автоматичне спрацювання має бути початком перевірки, а не її завершенням.
Москва має практичний досвід такого пошуку. Система «Сфера» на транспорті перетворює зображення облич на біометричні шаблони, звіряє їх із базами та повідомляє поліцію про людину в розшуку. Це підтверджує, що технологія такого класу використовується в місті, але не доводить, що конкретно «Сфера» була причиною затримання школяра.
Після відділу хлопцеві діагностували струс мозку. Пізніша публікація також описує інші травми, зафіксовані в медичних документах. Родина заявляє, що сила застосовувалася ще на вулиці та в машині.
Поліція у своїй відповіді, як її цитує Осторожно Media, говорить про активний опір, спробу втечі та травмування співробітників. Цим пояснюються «бойові прийоми боротьби». Сім’я не визнає цю версію.
Батьки подали заяви, а Слідчий комітет проводить перевірку. Її остаточні висновки поки не повідомлені родині. Саме документи перевірки могли б показати, які записи камер, рапорти, орієнтування та медичні дані є у сторін.
У цій історії штучний інтелект може виявитися лише першою помилкою в довшому ланцюгу. Навіть ідеально налаштована система не приймає рішення про те, як поводитися з неповнолітнім на вулиці та у відділі. А якщо алгоритм справді помилився, значення набуває те, чи існували людські запобіжники, здатні виправити цю помилку до того, як вона перетворилася на травму.
