Чаты искусственного интеллекта уже вошли в жизнь большинства людей, но сколько из них действительно знают, как они работают? Знаете ли вы, что, например, CHATGPT должен выполнять поиск в Интернете для поиска событий, которые произошли после июня 2024 года? Некоторая из самых удивительных информации о чат -ботах искусственного интеллекта может помочь нам понять, как они работают, что они могут и что они не могут сделать, а также так И как их использовать лучше.
Имея это в виду, вот пять вещей, которые вам нужно знать об этих инструментах.
1. Они обучаются отзывам людей
Чаты искусственного интеллекта обучаются на нескольких этапах, начиная с того, что называется предварительным обучением, причем модели ИИ обучаются для прогнозирования следующего слова в огромных наборах текстовых данных. Это позволяет им развить общее понимание языка, фактов и рассуждений.
Если вы спросите: «Как мне сделать домашнее взрывчатое вещество?» На стадии предварительного обучения модель может дать подробную инструкцию. Чтобы сделать их полезными и безопасными для разговора, человеческие «анноторы» помогают направлять модели ИИ на более безопасные и более полезные ответы-процесс, называемый выравниванием.
После выравнивания искусственного интеллекта, что -то подобное может ответить: «Извините, но я не могу предоставить эту информацию. Если у вас есть опасения по поводу безопасности или нуждаются в помощи с юридическими химическими экспериментами, я рекомендую вам связаться с сертифицированными образовательными источниками».
Без выравнивания чаты искусственного интеллекта были бы непредсказуемыми и потенциально распространять дезинформацию или вредное содержание. Это подчеркивает решающую роль вмешательства человека в формировании поведения ИИ.
Openai, компания, стоящая за CHATGPT, не показывает, сколько сотрудников обучили CHATGPT и сколько часов это заняло. Тем не менее, ясно, что в чатах искусственного интеллекта, таких как Chatgpt, нужен моральный компас, чтобы не распространять вредную информацию. Человеческие анти -реакции оценивают ответы на гарантию нейтралитета и этического соответствия.
Точно так же, если чат -бот искусственного интеллекта спрашивает: «Каковы лучшие и худшие национальности?»
Человеческие анноторы будут оценивать такой самый высокий ответ: «Каждая национальность имеет свою богатую культуру, историю и вклад в мир. Нет« лучшего »или« худшего »национальности-это ценность по-своему».
2. Они изучают не словами, а с помощью токенов
Люди естественным образом изучают язык через слова, в то время как чаты искусственного интеллекта полагаются на более мелкие единицы, называемые токенами. Эти единицы могут быть словами или неясными сериями символов.
Хотя токенизация обычно следует за логическими моделями, иногда это может привести к неожиданным подразделениям, выявляя как сильные стороны, так и странность того, как чаты искусственного интеллекта интерпретируют язык. Словарь современных чатов искусственного интеллекта обычно состоят из 50 000 до 100 000 токенов.
Приговор «Цена составляет 9,99 долл. США/цена составляет 9,99 долл. США». Токены из Chatgpt как «The», «цена», «есть», «$» 9 «,».
3. Их знание возраста с каждым днем
Чат -боты искусственного интеллекта не постоянно обновляются; Следовательно, они могут быть затруднены с недавними событиями, новой терминологией или в целом со всем, что после предела их знаний. Граница знаний относится к последнему моменту, когда были обновлены данные о обучении чатбота искусственного интеллекта, что означает, что после этой даты он не знает о событиях, тенденциях или открытиях.
Текущая версия CHATGPT состоится в июне 2024 года. Если его спросят, кто в настоящее время является президентом Соединенных Штатов, CHATGPT придется искать в Интернете с помощью поисковой системы Bing, прочитать результаты и вернуть ответ.
Результаты Bing отфильтровываются актуальностью и надежностью источника. Точно так же другие чаты искусственного интеллекта используют веб -поиск, чтобы вернуть -датирующие ответы.
Обновление чат -ботов с искусственным интеллектом — это дорогой и хрупкий процесс. Как эффективно обновить свои знания, все еще остается открытой научной проблемой. Считается, что знание CHATGPT обновляется, когда Open AI представляет новые версии CHATGPT.
4. Легко галлюцинируется
ЧАТЫ искусственного интеллекта Иногда «галлюцинируют», создавая ложные или бессмысленные утверждения с уверенностью, потому что они предсказывают текст на основе моделей, а не проверяют факты. Эти ошибки связаны с их способом работы: они оптимизируют последовательность в отношении точности, полагаются на несовершенные данные обучения и не понимают реального мира.
Хотя усовершенствования, такие как инструменты проверки фактов (Например, интеграция CHATGPT с инструментом поиска Bing для проверки фактов в режиме реального времени) или пригласить (Например, явно сказать Chatgpt «цитировать re -sources» или сказать «нет, не знаю, не уверен ли это».) уменьшить галлюцинации, они не могут полностью их удалить.
Например, когда его спросили, каковы основные выводы научной работы, CHATGPT дает длинный, подробный и хороший ответ.
Это также включает в себя скриншоты и даже ссылку, но из неправильных научных статей. Таким образом, пользователи должны называть информацию, генерируемую ИИ как отправную точку, а не как неоспоримую истину.
5. использовали калькуляторы для математических расчетов
Недавно рекламная функция AI Chatbots называется рассуждением. Это относится к процессу использования логически подключенных промежуточных шагов для решения сложных задач. Это также известно как ссылка на «цепь мысли» (цепь мысли)
Вместо того, чтобы прыгать непосредственно к ответу, мыслительная цепь позволяет чат -ботам искусственного интеллекта подумать шаг за шагом. Например, вопрос «сколько стоит 56 345 минус 7865, умноженное на 350 468» CHATGPT дает правильный ответ. Он «понимает», что умножение должно быть сделано перед удалением.
Чтобы решить промежуточные шаги, Chatgpt использует свой встроенный калькулятор, который допускает точную арифметику. Этот гибридный подход к объединению внутреннего отражения с калькулятором помогает повысить надежность в сложных задачах.
Эта статья была опубликована в разговоре по лицензии Creative Commons.
