Искусственный интеллект вновь ставит под сомнение грань между эффективностью и справедливостью. Полиция английского графства Эссекс временно приостановила использование систем распознавания лиц в режиме реального времени после того, как независимый анализ обнаружил потенциальную предвзятость в алгоритмах. Решение принято, несмотря на то, что технология показывает высокую точность и реальные результаты в борьбе с преступностью.
Что показывают исследования
Система живого распознавания лиц (LFR) была протестирована в реальных условиях с участием почти 200 добровольцев исследователями Кембриджского университета. Данные показали, что алгоритм на 27% чаще правильно идентифицировал чернокожих, чем представители других этнических групп, и на 31% более эффективен против белых. Кроме того, технология идентифицирует мужчин на 14% чаще, чем женщин.
Эти результаты не обязательно указывают на ошибки, а скорее на разную производительность в разных группах. Именно это и вызывает вопросы о равноправности использования таких систем в реальных полицейских операциях.
Высокая эффективность и реальные результаты
Несмотря на опасения, технология продемонстрировала впечатляющую эффективность. С августа 2024 года по февраль 2025 года было проверено около 1,3 миллиона человек, в результате чего было произведено 123 вмешательства полиции и 48 арестов. Был зафиксирован только один случай ложного вмешательства, что подчеркивает, насколько редко система допускает ошибки.
Власти подчеркивают, что изображения людей, не попадающих в списки наблюдения, автоматически и немедленно удаляются. Использование технологии также ограничено во времени и применяется только в конкретных операциях.
Корректировка алгоритма и планы на будущее
По результатам полиция Эссекса временно приостановила работу системы и начала работать с разработчиками над улучшением алгоритмов. Второе исследование теперь показывает, что проблема предвзятости решена, и учреждение заявляет, что готово возобновить ее использование.
В то же время Великобритания продолжает расширять внедрение таких технологий. К концу 2025 года 13 полицейских служб уже используют LFR, и ожидается, что количество мобильных систем значительно вырастет. Правительство также инвестирует 115 миллионов фунтов стерлингов в новый центр искусственного интеллекта Police.AI, который будет поддерживать внедрение новых технологий безопасности.
Технология между безопасностью и доверием
Этот случай показывает, насколько сложен баланс между эффективностью искусственного интеллекта и общественным доверием. С одной стороны, системы распознавания лиц оказываются мощным инструментом для полиции. С другой стороны, даже небольшие отклонения в их работе могут вызвать серьезные вопросы о справедливости.
В этом контексте дискуссия больше не идет о том, следует ли использовать эти технологии, а о том, как обеспечить, чтобы они делали это одинаково справедливо для всех.
Все важное из мира технологий прямо на ваш почтовый ящик.
Подписываясь, вы принимаете наши Условия и Политику конфиденциальности. Вы можете отказаться от подписки одним щелчком мыши в любое время.
