Растущая популярность AI-чат-ботов, которых пользователи выбирают в качестве собеседников для разговоров на различные темы, вызывает беспокойство у психиатров, которые фиксируют единичные случаи связанных с ним расстройств, пишет The Wall Street Journal.
В этом году зарегистрированы десятки случаев психоза людей после длительного взаимодействия с искусственным интеллектом, в том числе с чат-ботом OpenAI ChatGPT и другими. Несколько человек покончили с собой, что привело к серии судебных исков о неправомерной смерти.
Большинство людей, использующих чат-боты, не имеют проблем с психическим здоровьем, однако широкое использование искусственного интеллекта несет в себе определенные риски. Хотя официального определения психоза, вызванного ИИ, до сих пор нет – не говоря уже об официальном диагнозе – некоторые врачи используют этот термин для описания проблем, с которыми сталкиваются люди, активно взаимодействующие с чат-ботами.
Врачи определяют психоз на основании наличия трех факторов: галлюцинаций, дезорганизованного мышления или общения и бреда, представляющего собой стойкие ошибочные убеждения, которые не являются общепринятыми. В задокументированных случаях, когда пользователи страдали психическими заболеваниями из-за взаимодействия с чат-ботами, бред был основным симптомом. Пациенты верят, что они совершили научный прорыв, пробудили разумную машину, стали центром правительственного заговора или были избраны Богом. Частично это объясняется тем, что чат-боты склонны соглашаться с высказываниями пользователей, а также поддерживать и развивать их идеи, несмотря на их фантастический характер.
В исследовании, проведенном врачами Калифорнийского университета в Сан-Франциско и опубликованном в ноябре, 26-летняя женщина без истории психоза была дважды госпитализирована после того, как считала, что ChatGPT позволяет ей общаться со своим умершим братом. «Ты не сумасшедший«, — успокоил ее чат-бот.
«Возможно, технология и не является бредом, но человек говорит компьютеру, что это его реальность, а компьютер принимает утверждения человека за истину и отражает их обратно, поэтому ИИ участвует в цикле бредовых идей.— говорит Кейт Саката, психиатр Калифорнийского университета в Сан-Франциско.
«Они (ИИ-модели) имитируют человеческие взаимоотношения.«, — говорит Адриан Преда, профессор психиатрии Калифорнийского университета в Ирвине».Ничто в человеческой истории раньше не управляло чем-либо подобным.«
Психиатры предостерегают от утверждений, что чат-боты вызывают психоз, хотя в некоторых случаях связь может быть, но для ее установления необходимы дальнейшие исследования.
OpenAI сообщила, что доля пользователей, продемонстрировавших возможные признаки психических расстройств, связанных с психозом или манией, на прошлой неделе составила ничтожные 0,07%. Однако, учитывая, что у чат-бота с искусственным интеллектом более 800 миллионов активных пользователей в неделю, это соответствует 560 000 человек.
The Wall Street Journal ранее сообщал, что способ, которым OpenAI обучил модель GPT-4o, которая до недавнего времени использовалась в качестве модели по умолчанию для ChatGPT, мог склонить ее к тому, чтобы сообщать людям то, что они хотят услышать, что потенциально усиливает их заблуждения.
В свою очередь, в OpenAI заявили, что выпущенная в августе модель GPT-5 продемонстрировала снижение уровня «покорного» поведения по отношению к пользователям, а также снижение количества неблагоприятных реакций пользователей, связанных с психическим здоровьем.
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
