Приняли за угонщика: можно ли доверять технологии распознавания лиц?

«Мама пойдёт в тюрьму».

Именно это 32-летняя Порча Вудрафф сказала своим двум дочерям, когда в феврале прошлого года ее заковавали в наручники прямо перед домом. Она как раз собирала девочек в школу, когда к ее дому в Детройте подъехали шесть полицейских. Они попросили ее выйти на улицу, поскольку она была арестована по подозрению в грабеже и угоне автомобиля.

Не веря своим ушам, Порча «показала на живот, чтобы показать, что она совершенно не способна совершить такое преступление: она была на восьмом месяце беременности». Но никакие мольбы не смогли убедить полицейских в ее невиновности. Оставив своих рыдающих дочерей с женихом, ее отвезли в Детройтский центр содержания под стражей.

Порча Вудрафф стала третьей жительницей Детройта, которую ошибочно арестовали на основании новой технологии, внедренной городом в 2019 году: компьютерного распознавания лиц.

Мощный, но опасный инструмент

Полицейское управление Детройта «использует систему распознавания лиц DataWorks Plus для сравнения неизвестных лиц с базой данных фотографий преступников». В случае с Порчей фотография с ее ареста в 2015 году за вождение с просроченными правами оказалась среди тех, которые программа сопоставила с записями с камер наблюдения на заправке, где был запечатлен настоящий преступник. Жертва угона автомобиля, 25-летний мужчина, затем по ошибке выбрал фотографию Порчи из «серии из шести фотографий».

По словам Гэри Уэллса, профессора психологии, изучавшего надежность опознаний очевидцами, сочетание искусственного интеллекта с человеческим суждением «является замкнутым кругом и опасно. У вас есть очень мощный инструмент, который, если проанализировать достаточное количество лиц, всегда найдет людей, похожих на человека на изображении с камеры наблюдения». Доктор Уэллс далее пояснил, что эта технология усугубляет существующую проблему с очевидцами: «Они предполагают, что когда им показывают набор из шести фотографий, настоящий преступник находится среди них».

Еще более тревожно то, что у некоторых поставщиков систем распознавания лиц в базах данных есть не только полицейские фотографии. В сентябре 2019 года, в то же время, когда полиция Детройта начала использовать DataWorks Plus, офис шерифа в Луизиане оформил годовую подписку на 25 000 долларов на Clearview AI — поставщика, который «собрал миллиарды фотографий из открытого интернета, включая социальные сети, чтобы создать поисковую систему по лицам, которую теперь используют правоохранительные органы».

В прошлом году 29-летний мужчина, у которого было много фотографий в LinkedIn и Facebook, закончил свой уик-энд в честь Дня благодарения тем, что его экстрадировали из Джорджии в Луизиану. Благодаря Clearview AI он провёл почти неделю в тюрьме за якобы кражу дизайнерских сумок в штате, в котором он даже никогда не бывал.

Некачественная технология против некачественных расследований

3 августа Порча и ее адвокат подали иск против полицейского управления Детройта, утверждая, что «технология ИИ стала причиной того, что ее ошибочно идентифицировали как подозреваемую в угоне автомобиля». Отвечая на пресс-конференции 9 августа, начальник полиции Джеймс Уайт возложил вину за неправомерный арест на «пробелы в расследовании, а не на неисправную технологию распознавания лиц».

Уайт пояснил, что детектив, ведущий дело, не соблюдал политику департамента в отношении распознавания лиц, согласно которой совпадение по данным программного обеспечения «должно рассматриваться как следственная зацепка», а не как повод для ареста, «и следователь, подавший запрос, должен продолжить проведение тщательного и всестороннего расследования».

В случае с Порчей после совпадения ее фотографии с записью с камеры наблюдения никакого такого расследования не последовало — в основном детектив спросил жертву, выглядела ли преступница (у которой был сообщник-мужчина) беременной! По словам начальника полиции, одного этого описания должно было быть достаточно, чтобы исключить Порчу из числа подозреваемых.

Но что, если бы обвиняемая не была на восьмом месяце беременности? «Я, вероятно, сейчас вела бы дело, которое мне не принадлежит», — сказала Порча CBS News 10 августа. Она и ее адвокат настаивают на том, что виной ее аресту послужила «некачественная технология», а также некачественная работа детективов. По мнению Американского союза гражданских свобод штата Мичиган, первое создает почву для второго, «а заверения полиции в том, что они будут проводить серьезные расследования, не выглядят правдоподобными».

Божья программа распознавания лиц

Библия описывает другой вид технологии распознавания лиц, который с совершенной точностью сопоставляет нас с нашими грехами: Божий закон любви, записанный на двух скрижалях (Матфея 22:37–40).

«Если кто-то слушает слово, но не исполняет его, тот подобен человеку, который смотрит на свое естественное лицо в зеркало; ибо он смотрит на себя, уходит и сразу же забывает, каким человеком он был. Но тот, кто вглядывается в совершенный закон свободы и пребывает в нем, … тот будет благословен в том, что он делает» (ст. 23–25).

Другими словами, Божий закон — это зеркало, которое показывает нам наши грехи, написанные на наших лицах! Это факт, что настроения, даже прежде чем выразиться в жестах или словах, проявляются в лицевых «микровыражениях». Так, когда Каин «очень разгневался, … его лицо омрачилось» (Бытие 4:5). Желая, чтобы Каин увидел свой грех, прежде чем он привел к преступлению убийства, Бог поднял Свое зеркало: «Почему ты разгневался? И почему твое лицо омрачилось? Если ты поступаешь хорошо, разве не будешь ли ты принят? А если ты не поступаешь хорошо, грех лежит у дверей» (ст. 6).

К сожалению, Каин отвернулся от «совершенного закона свободы» и убил своего брата Авеля.

Когда лицо Порчи Вудрафф было ошибочно распознано из-за неисправного программного обеспечения, она провела 11 часов, сидя на бетонной скамейке в камере предварительного заключения. Но Божье программное обеспечение для распознавания лиц не дает ошибочных результатов. Если мы не позволим Его праведности заменить грехи, которые мы видим в зеркале, где мы проведем вечность?

Хотите провести ее с Богом? Посмотрите«5 шагов к вечности», чтобы узнать, что говорит пастор Даг о получении дара вечной жизни.

\n