В октябре 2025 года в Балтиморе произошел инцидент, вызвавший широкую полемику и поставивший под сомнение надежность систем искусственного интеллекта, используемых правоохранительными органами.
Шестнадцатилетний мальчик по имени Таки Аллен взят под стражу полицией после того, как система распознавания объектов ошибочно определила пустой пакет из-под чипсов как огнестрельное оружие. Мальчик ждал возле школы, когда подъехали восемь полицейских машин. По словам Аллена, полицейские вышли из машин, направив на него оружие, приказали ему лечь на землю, а затем надели на него наручники.
Этот случай — пример того, как ошибки ИИ могут привести к опасным ситуациям, особенно когда речь идет об автоматизированных системах безопасности. Хотя такие технологии используются для повышения эффективности и сокращения времени реагирования, их ненадежность может создать реальную угрозу для невинных людей. В неправильном распознавании объектов нет ничего нового, но восприятие обычной пачки чипсов как оружия глубоко тревожит.
Инцидент также вызывает вопросы о том, как полиция реагирует на сигналы таких систем. Массовое воздействие вооруженных офицеров на несовершеннолетнего, не совершившего преступления, демонстрирует отсутствие дополнительной проверки или человеческого контроля перед применением силы. Это подчеркивает необходимость пересмотра протоколов взаимодействия технологий искусственного интеллекта и правоохранительных органов.
Подобные ситуации требуют не только технических усовершенствований алгоритмов, но и этического рассмотрения их использования. В случае с Таки Алленом ошибка могла иметь серьезные последствия и только его спокойное поведение и отсутствие агрессии предотвратили трагедию. Этот инцидент послужил еще одним напоминанием о том, что технологии должны служить людям, а не создавать новые риски.
