Следственный комитет РФ рассматривает жалобу москвички на полицейских, задержавших её сына-подростка по наводке ИИ «с вероятностью 85%» и потом отпустивших с серьёзными травмами. Адвокат Вадим Багатурия рассказал «Ридусу», что ошибочные решения у ИИ могут вызвать самые невинные детали внешности.
Ранее Telegram-канал «Кровавая барыня» сообщил, что в начале мая в Ломоносовском районе Москвы двое полицейских в гражданском задержали с грубыми силовыми приёмами 15-летнего подростка по обвинению в распространении наркотиков на основании данных ИИ, который якобы выявил совпадение с ориентировкой на 85-90%. В итоге подростка пришлось освободить, но медики зафиксировали у него сотрясение мозга и другие травмы. Родственники потерпевшего обратились в Следственный комитет, но тот уже четыре месяца присылает им сообщения, что «ведётся проверка».
Вадим Багатурия в разговоре с «Ридусом» отметил, что риск неправомерного задержания из-за ошибок ИИ стал достаточно высок, так как соответствующие компьютерные системы применяются полицией всё активнее.
«Сейчас довольно часто в полиции используется система ParkSafe, которая идентифицирует граждан по биометрическим данным. И в неидеальных условиях считывания информации она допускает ошибки — их причиной могут быть погодные явления, причёски, очки, маски, предметы одежды», — назвал Багатурия «Ридусу» приметы, из-за которых ИИ может спутать человека с преступником.
Юрист добавил, что гражданин, который был подвергнут случайному задержанию из-за обознавшегося искусственного разума, вправе требовать компенсации морального вреда в порядке кодекса об административном судопроизводстве точно так же, как при человеческой ошибке.
Впрочем, адвокат Дмитрий Аграновский, обсуждая с «Ридусом» инцидент в Ломоносовском районе, заметил, что за последние четыре года не замечал новых громких задержаний, произведённых по ошибке систем распознавания лиц, и предположил, что нейросети за это время были успешно усовершенствованы.
