OpenAI представила новые II-модели с улучшенной способностью мыслить на основе изображений, и пользователи быстро нашли неожиданное приложение для определения геолокации на основе случайных фотографий.
В социальных сетях своего рода вызов-набирать обороты: люди загружают фотографии фасадов зданий, меню ресторанов, уличных сцен и даже селфи, и I-Model O3, угадайте, где они становятся в самых маленьких деталях. В то же время, как подчеркивают исследователи, CHATGPT не использует метаданные ESIF (т.е. скрытая информация, которая обычно хранится в фото -файлах и может напрямую указывать местоположение)
Подробнее о теме метадика:
Интернет помнит все о вас — метаданные ничего не забывают
Новая модель Openai сравнивается с игрой GeoGuessr, в которой игроки должны знать, где они основаны на кадрах Google Street View. Теперь та же задача решается искусственным интеллектом, часто с удивительной точностью. Например, один пользователь показал, как CHATGPT определил, где была расположена библиотека фотографий за 20 секунд, а другой показал, как и модель распознает планку на фиолетовой головке носорога на стене, несмотря на слабый свет.
Однако не всегда O3 работает отлично. Иногда и модель дает совершенно неверные ответы или «замораживание» при попытке проанализировать изображение, которое слишком неинформативно.
Тем не менее, даже при недостатках, возможности обеспокоены-это все равно намного проще определить местоположение человека с помощью фотографии, и это можно использовать в вашем ущербе.
Также беспокоит то, что ни один из официальных документов безопасности новых моделей Openai напрямую не считается потенциальными рисками такого использования. Возможность «обратного поиска местоположения» на основе фотографии не ограничена — искусственный интеллект еще не отказывается от таких запросов по умолчанию. Это открывает дверь для злоупотребления: нападавшие могут, например, сохранить в Instagram и попытаться понять, где находится человек.
OpenAI, комментируя ситуацию через несколько часов после первых публикаций, заявил, что O3 и O4-Mini имеют варианты визуального анализа и могут быть полезны в приложениях для доступности, исследований и экстренных служб. Компания также утверждает, что внесла ограничения, которые запрещают признание лиц и защиту личной информации. Тем не менее, судя по примерам, приведенным потребителями, до сих пор были легко обойти ограничения — и это поднимает вопросы о реальной эффективности встроенных механизмов защиты.
Разработка таких возможностей в II-моделях ставит на повестку дня новые проблемы в области цифровой конфиденциальности.
Возможности алгоритмов, которые не выглядели как научная фантастика, уже находятся в руках широкой аудитории. Теперь вопрос заключается в том, как быстро разработчики и регуляторы смогут реагировать на возникшие риски, и будут ли меры достаточно строгими, чтобы остановить потенциальные расстройства конфиденциальности.
