Программное обеспечение для распознавания лиц, используемое Департаментом полиции Сент-Луиса (Миссури, США) привело к ложному аресту 29-летнего Кристофера Гэтлина. Его арестовали по подозрению в нападении на охранника платформы станции метро, несмотря на отсутствие прямых доказательств. Основным доказательством стали кадры видеокамеры низкого качества, обработанные программой на базе искусственного интеллекта.
Полиция проигнорировала свои собственные рекомендации, в которых говорится, что данные систем не могут быть единственной основой для принятия решений.
Следователь Мэтью Шатт использовал программу, чтобы идентифицировать и организовать арест Гэтлина. Мужчина провел в тюрьме более 16 месяцев, прежде чем суд отозвал удостоверение. Этот случай является одним из восьми известных случаев, когда использование системы распознавания лиц привело к ложным арестам.
Расследование Washington Post показало, что многие полицейские управления США используют технологию распознавания лиц без надлежащей проверки результатов. В 15 из 23 проанализированных дел аресты производились исключительно на основе искусственного интеллекта, без сбора дополнительных доказательств. В некоторых случаях полиция даже игнорировала прямые доказательства, такие как ДНК или алиби подозреваемых.
Программное обеспечение часто демонстрирует расовую предвзятость, идентифицируя чернокожих и азиатских мужчин в 100 раз чаще, чем белых мужчин. Ошибки в обработке данных и необоснованное доверие к результатам технологии ставят под угрозу права граждан.
Критики отмечают, что использование подобных систем без должного контроля приводит к увеличению количества несправедливых обвинений. Несмотря на жалобы, полицейские управления редко раскрывают, как именно они используют эту технологию, и избегают предоставления подробных данных.
Кристоферу Гэтлину удалось спастись благодаря адвокату, который доказал, что улики против него недостоверны. Однако этот случай выявил существенные пробелы в регулировании использования ИИ в правоохранительной деятельности и требует пересмотра практики ИИ.
