Anthropic, как правило, уделяет особое внимание объяснению своей работы, миссии и развития компании, например, ее чат-бот Claude, и на этой неделе выпустила новую версию своей так называемой «конституции», объясняющую, как она работает и какие цели она преследует в своем развитии.
В документе изложены этические принципы, которых компания придерживается при разработке Claude. Эти принципы также используются для самоконтроля чат-бота. Так называемая «конституция программного обеспечения» содержит 80 страниц и состоит из четырех разделов, определяющих «основные ценности» чат-бота: безопасность, этика, соответствие миссии Anthropic и приверженность общественному благу. В каждом разделе описывается, как эти принципы влияют на поведение Клода.
Разработчики Клода стремятся избежать этических ошибок своих конкурентов. Например, если чат-бот подозревает, что у пользователя психическое расстройство, он сразу рекомендует обратиться к специалисту, если станет ясно, что ситуация может представлять угрозу для жизни и здоровья. Этические вопросы рассматриваются в практическом контексте, а не в виде теоретических дискуссий. Некоторые темы изначально закрыты – например, создание биологического оружия.
Наконец, Anthropic стремится сделать Claude максимально простым в использовании и полезным. Обеспечение долгосрочного благополучия людей при распространении информации через чат-ботов имеет приоритет над краткосрочными интересами. В уставе Клода также есть раздел, посвящённый философским размышлениям разработчиков. Они ставят под сомнение моральный статус и сознание Клода, подчеркивая, что они не одиноки в таких размышлениях и что конкуренты и коллеги также размышляют над аналогичными вопросами.
`, // — БАННЕР 2 (Новости Google) — `
`, // — БАННЕР 3 (Viber) — `
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
