Как заставить Google лгать: писатель сообщил поисковой системе AI, что его кот говорит на кантонском диалекте

Знаменитый американский писатель, автор комиксов и блоггер Чак Вендиг сумел убедить поисковую службу искусственного интеллекта Google, что у него есть кот по имени сэр Маллингтон фон Писбрайт, который носит цилиндр и говорит на кантонском диалекте китайского языка.

Сегодняшние модели искусственного интеллекта на самом деле представляют собой сложные статистические алгоритмы, задачей которых является предсказание последующих слов. Это значит, что в качестве запроса к такой системе иногда можно отправить откровенную ерунду, а в ответ она будет искать в большом количестве источников, находить случайную информацию, собирать ее в своеобразный обзор, который в реальности будет таким же абсурдным, как и ответ. Пример Чака Вендига подтверждает это.

В декабре Вендиг поделился в своем блоге, что, по данным поисковой службы искусственного интеллекта Google, у него есть кот по имени Бумба, который якобы получил свое имя от сайта Wengie Wiki. На самом деле никакого кота у писателя нет. Спустя несколько поисков поисковая служба Google с искусственным интеллектом сообщила ему, что его кот Бумба умер, и у писателя появился новый кот по имени Франкен. В качестве доказательства система сослалась на блог Вендига, в котором ни разу не упоминались Бумба или Франкен. В череде последующих поисков сервис стал постоянно придумывать писателю новых питомцев под новыми именами — ИИ также добавлял неуместную информацию о его здоровье и религиозных предпочтениях.

Вендиг без колебаний раскритиковал не только поисковую службу Google с искусственным интеллектом, но и саму технологию в ее нынешнем виде. Он отметил, что сервис не умеет отличать правду от вымысла и возвращает откровенную чушь, стремясь угодить пользователю..