Ряд пользователей Reddit заявили, что их устройства Google Home начали записывать и описывать присутствие людей, которых они никогда не видели.
В одном сообщении утверждается, что камера пользователя засняла, как Майкл выносит мусор. Однако в доме никого с таким именем нет. Когда пользователь спросил об этом Google Assistant, тот ответил, что его камера распознает лица, даже без имен. Камера запечатлела Майкла в период с 26 по 27 октября.
По словам пользователя, он так и не ввел в систему имя «Майкл», но вынес мусор в назначенное время и, скорее всего, попал на камеру. Другой пользователь сообщил, что его Google Home случайно напомнил ему вынести мусор, затем отказался от этого и, наконец, заявил, что ошибся.
Другой утверждал, что его устройство сообщило ему, что друг по имени Дэвид вошел в гостиную и начал пылесосить. У пользователя есть друг с таким именем, но этот человек ни разу не заходил в систему и никто не пылесосил.
Другой пользователь Reddit опубликовал сообщение несколькими днями ранее, утверждая, что камера Google Nest зафиксировала основные события дня, опознав женщину по имени Сара. ИИ отметил, что Сара выгуливала собак и выносила мусор. Мужчина утверждает, что живет один и не знает никого с таким именем. Система также предполагала, что в гостиной активны две собаки, хотя у пользователя была только одна.
Официальный аккаунт Google уже ответил на оповещения пользователей и запросил видео. Один из комментаторов предположил, что такое поведение может быть связано с тем, как работают большие языковые модели. Если система предполагает, что имя лучше всего соответствует контексту описания, она может сгенерировать это имя, даже если оно недействительно, поскольку не может точно отличить описание от вымысла.
Ева Ганнон, чья семья владеет рестораном, рассказала First Alert, что искусственный интеллект Google постоянно предлагает клиентам нереальные предложения и составляет пункты меню. В одном из примеров ИИ Google заявил, что Стефания предлагает большую пиццу по цене маленькой — очевидно, многие люди были бы разочарованы, если бы не получили такой подарок.
Это далеко не первый бизнес, который пострадал от дезинформации, вызванной искусственным интеллектом. В июне компания по производству солнечной энергии из Миннесоты подала иск о клевете против Google, утверждая, что обзоры AI Reviews предоставили клиентам ложную информацию о компании, что нанесло ущерб ее бизнесу.
Австралийский банк пострадал от искусственного интеллекта по-другому: замена сотрудников технической поддержки искусственным интеллектом привела к увеличению количества звонков и сверхурочной работы других сотрудников. В результате сокращенные сотрудники были извинены и восстановлены на работе.
