Создатели систем искусственного интеллекта обеспокоены проблемой незаконного использования, и лидер Openai Сэм Альтман не является исключением. Во время своего разговора с нами, заместителем председателя Мишелем Боуманом, он сказал, что мы скоро будут затоплены высококачественными подделками не только в голосе, но и о появлении любого, кого можно использовать для незаконных целей.
Например, Альтман заявляет процедуру проверки клиента банка с использованием голосовой и кодовой фразы. Зная последнее, злоумышленникам не будет трудно подражать голосу человека, использовать системы ИИ, а затем заказать перевод средств без знания их истинного владельца. «Искусственный интеллект полностью освоил все методы сертификации, которые люди в настоящее время используют, за исключением паролей. Теперь это может быть голосовым вызовом, скоро будет видео или видео -звонок, который будет неразличимы от реального«Сэм Альтман объяснил свои страхи.
Фальсификация голоса уже давно использовалась мошенниками для манипулирования своими жертвами, искусственный интеллект просто предоставляет им более простой и более эффективный инструмент, который доступен буквально для всех. Видеопроводные разговоры, которые подражают желаемому изображению, но содержание разговора заменяется, также постепенно поглощаются. Знаменитости, в том числе политики и чиновники, уже становятся жертвами таких преступлений.
OpenAI сделал немного для предотвращения таких злоупотреблений, хотя он пытается разработать более надежные методы биометрической аутентификации. В любом случае, Альтман убежден, что у мошенников скоро будут программные инструменты, которые могут массово создавать мошенничество с идентификацией.
