Categories
Post

Art Land

Невиновного бросили в тюрьму из-за ошибки распознавания лиц

Мужчина из Нью-Джерси провел 10 дней в тюрьме после того, как программа распознавания лиц ошибочно определила его как подозреваемого в краже в магазине при отягчающих обстоятельствах

Полиция пыталась установить личность (https://www.inputmag.com/tech/a-man-spent-10-days-in-jail-based-on-misclassification-by-clearview-ai) подозреваемого, который украл из сувенирного магазина отеля, а затем скрылся от полиции на Dodge Challenger, врезавшись в патрульную машину, прежде чем уехать. Изображения, снятые с места происшествия, были обработаны с помощью программного обеспечения Clearview и система определила преступника как Нжир Паркс.

Единственная проблема в том, что Паркс никогда не был в городе, где произошел инцидент. Но полиции было все равно, его бросили в тюрьму и дело дошло до суда. По счастью при поддержке правозащитников мужчину оправдали.

Паркс провел 10 дней в тюрьме и потратил тысячи долларов на адвоката.

Это не единственный случай.

В Детройте мужчина провел 30 часов в тюрьме (https://www.npr.org/2020/06/24/882683463/the-computer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig?t=1609242589173) в начале этого года после того, как видео об ограблении было пропущено через инструменты распознавания лиц, и он был ошибочно отмечен как подозреваемый.

В России тоже алгоритмы обвиняют невиновных

Система распознавания лиц «Ашана» дала сбой и указала на невиновного человека (https://www.cnews.ru/news/top/2020-11-12_rossiyanina_edva_ne_posadili) как на преступника.

Охранники магазина незаконно задержали его на два часа, после чего передали полицейским, которые угрожали ему обыском дома и 8 годами тюрьмы. Причину задержания пострадавшему раскрыли спустя пять часов и только после приезда адвоката.
===================
Эти случаи подчеркивает опасность, которую представляет программное обеспечение для распознавания лиц. Оно остается ненадежным и открытым для злоупотреблений.

Представьте что может сделать потенциальный хакер получивший доступ к такой системе. А поверьте в будущем мы обязательно увидим подобные взломы и злоупотребления.

Я уже молчу про то как могут этим манипулировать диктаторские режимы

Система распознавания лиц, в сегодняшнем ее применении — это инструмент для построения диктаторского антиутопического общества. Повсеместно применяемый правительствами всех стран для обретения еще большей власти и контроля над людьми.
By: via Art Land

Leave a Reply

Your email address will not be published. Required fields are marked *