Через помилку ШІ поліція затримала невинного чоловіка: чим усе закінчилося

У Великій Британії 26-річний інженер-програміст Алві Чоудхурі став жертвою помилкової ідентифікації системою розпізнавання облич на базі штучного інтелекту (ШІ). Поліція долини Темзи заарештувала чоловіка за підозрою у крадіжці ювелірних виробів на суму 3 000 фунтів стерлінгів, яку він не вчиняв.

Про це пише Metro.

Чоудхурі затримали 7 січня у нього вдома в Саутгемптоні. Система зіставила його фотографію з поліцейської бази (зроблену під час іншого помилкового арешту п’ятирічної давнини) з записом камери відеоспостереження з місця злочину в Мілтон-Кінз. За словами постраждалого, абсурдність ситуації стала очевидною одразу під час допиту.

«Офіцерка зізналася мені, що ще до початку інтерв’ю вона зрозуміла, що я не той підозрюваний. Вона побачила мої фото з місця затримання та відеозапис із камер — й одразу все збагнула», — розповів Чоудхурі.

Потерпілий вважає інцидент проявом расової дискримінації та подав на поліцію до суду. Він критично відгукнувся про роботу алгоритмів та офіцерів, які проводили перевірку.

«Це ще більше непокоїть, бо це, ймовірно, расова дискримінація. Ви, мабуть, просто побачили двох смаглявих людей, хоча вони мають абсолютно різні риси обличчя, і сказали: „Так, вони схожі. Давайте їх заарештуємо“», — зазначив він.

Чоудхурі також наголосив на технічній недосконалості системи, яку використовують правоохоронці.

«Жодна технологічна компанія ніколи не запустила б у виробництво систему з коефіцієнтом відмов один до 25. Це жахливо. Вона повна багів (ред. — помилок)», — запевнив чоловік.

У поліції долини Темзи перепросили за завдані збитки. Також там заявили, що арешт не був незаконним, оскільки базувався на «власній візуальній оцінці слідчих».

Статистика Міністерства внутрішніх справ підтверджує системну проблему: технологія демонструє значний розрив у точності ідентифікації. Для людей із темним кольором шкіри частка помилкових збігів сягає 5,5%, тоді як для людей із білим кольором шкіри цей показник становить лише 0,04%. З огляду на такі нерівні умови роботи алгоритмів правозахисники вимагають від уряду Британії негайного законодавчого регулювання ШІ в поліцейській діяльності.

Нагадаємо, помилка ШІ коштувала жінці свободи та майна. Американка пів року провела у в’язниці через збій системи.