Новая версия Chatgpt, управляемая моделью большой языка, 4O имеет улучшенный генератор изображений, который может создавать изображения, которые выглядят все более и более надежными. Потребители уже активно тестируют функции, и результаты испытывают обеспокоенность: генератор научился фальсифицировать денежные заметки настолько реалистичные, что мошенники уже заинтересованы в этом инструменте.
Один из пользователей социальной сети X впервые обратил на это внимание, опубликовав фотографию квитанции из ресторана в Сан -Франциско. На самом деле, изображение оказалось созданным Chatgpt. Другие пользователи легко повторили результат, а некоторые даже добавили пятна еды и напитка в «бумагу», усиливая иллюзию реальности.
Наиболее убедительной моделью было изображение измельченной денежной ноты из французского ресторана, которая выглядела настолько естественно, что можно было признать, что она была поддельной только при изучении.
Чиновники TechCrunch Edition также провели тест и сгенерировали квитанцию от имени популярной сети США. И хотя такие ошибки, как неверная пунктуация или арифметические действия, которые не суммированы, были обнаружены более тщательно, эти детали могут быть легко исправлены вручную или путем точной формулировки запроса.
Проблема заключается в том, насколько легко для создания подделки, которые потенциально могут использоваться для финансового мошенничества, таких как подделка затрат для получения восстановления затрат.
В то же время новая технология обеспечивает возможность быстро генерировать десятки вариантов, адаптируя их к потребностям мошенников.
OpenAI утверждает, что все изображения, созданные в CHATGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Представитель компании объяснил, что Openai предпринял меры в случае нарушений правил использования и пытался улучшить модель, принимая во внимание различные случаи. Тем не менее, вопрос остается открытым — почему система вообще позволяет генерировать изображения, которые, очевидно, предназначены для подделки финансовых документов?
Пресс -секретарь компании ответил, что цель Openai остается в том, чтобы обеспечить максимальную творческую свободу для потребителей. По словам сотрудника, поддельные квитанции могут использоваться в образовательных целях (Например, для обучения финансовой грамотности), а также создавать рекламу или художественные проекты. Тем не менее, ясно, что граница между творческим применением и мошенничеством становится тоньше.
Поскольку искусственный интеллект все чаще используется для сезона видео, аудио и документов, еще один инструмент, который может генерировать почти реальные квитанции с одним нажатием рисков кнопок, чтобы стать популярным среди мошенников. Разработка таких технологий требует не только технического контроля, но и обзора политик поступления на содержание и фильтрации.
