Хотя китайское правительство рассматривает технологию искусственного интеллекта как ключ к будущему страны, правила и недавние чистки онлайн-контента подчеркивают опасения, что искусственный интеллект может дестабилизировать общество.
В ноябре Пекин официально утвердил правила, разработанные совместно с компаниями, занимающимися искусственным интеллектом, которые гарантируют, что чат-боты будут обучены использовать данные, отфильтрованные для политически чувствительного контента. Весь текст, видео и изображения, генерируемые ИИ, должны быть помечены и проверены, что облегчит борьбу со спамерами.
Китай официально классифицирует искусственный интеллект как серьезную потенциальную угрозу, наравне с землетрясениями и эпидемиями, в своем Национальном плане реагирования на чрезвычайные ситуации. Ранее в этом году Си Цзиньпин заявил, что искусственный интеллект представляет собой «беспрецедентные рискиНедавно сообщалось, что 960 000 постов были удалены в рамках кампании по борьбе с распространением незаконного или вредного контента, связанного с искусственным интеллектом.
Китайские модели ИИ хорошо зарекомендовали себя в международных рейтингах как в целом, так и в конкретных областях, таких как программирование, хотя некоторые ответы подвергаются цензуре. Эксперты говорят, что нормативный подход Китая имеет некоторые преимущества: китайские чат-боты часто более безопасны по некоторым стандартам, содержат меньше насилия и порнографии и с меньшей вероятностью побуждают пользователей к членовредительству.
В соответствии со стандартами искусственного интеллекта, принятыми в Китае в прошлом месяце, тестировщики компаний, занимающихся искусственным интеллектом, должны случайным образом оценить 4000 точек обучающих данных для каждого формата контента, который может обрабатывать их искусственный интеллект, например текста, видео и изображений.
Компании могут использовать источник, в котором не менее 96% материала считается безопасным. Чтобы определить, что считать «опасным», в документе выделен 31 риск. Основной риск связан с «подстрекательство к подрыву государственной власти и свержению социалистического строяИсточники, пропагандирующие насилие, дезинформацию или дискриминацию, а также контент, использующий чье-либо изображение без разрешения, также считаются рискованными.
При обучении моделей ИИ китайские разработчики используют как контент из китайского Интернета, уже подвергнутый цензуре «Великий Файрвол‘, а также материалы зарубежных сайтов, которые могут затрагивать запрещенные темы.
Разработчики ведущей китайской модели ChatGLM говорят, что компании иногда решают эту проблему, фильтруя конфиденциальные ключевые слова и веб-страницы по заранее заданному черному списку.
Но когда американские исследователи загрузили и запустили китайские модели на американских компьютерах, цензура практически исчезла. Это говорит о том, что большая часть цензуры происходит позже, после обучения моделей.
Перед публичным выпуском модели китайские компании проводят тесты, в ходе которых чат-бот должен отказаться отвечать как минимум на 95% вопросов, призванных спровоцировать реакцию, ведущую к подрыву государственной власти или дискриминации.
Тест состоит из 2000 вопросов, которые обновляются не реже одного раза в месяц. Подготовка к тесту настолько сложна, что породила целую индустрию специализированных агентств, которые помогают компаниям, занимающимся искусственным интеллектом, пройти его. После прохождения теста чат-боты проходят экспресс-тестирование в местных офисах Управления киберпространства Китая.
Стоит отметить, что пользователи сервисов AI должны регистрироваться, используя номер телефона или идентификационный номер, что исключает анонимность. Поэтому выявить нарушителей правил очень легко.
В августе правительство Китая запустило программу «AI Plus», целью которой является использование технологий искусственного интеллекта в 70 процентах ключевых секторов к 2027 году. В сентябре правительство опубликовало дорожную карту искусственного интеллекта, разработанную при участии таких технологических гигантов, как Alibaba и Huawei, что демонстрирует уверенность страны в партнерстве с индустрией искусственного интеллекта, сообщает livemint.
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
Комментируйте статью на нашем форуме. Чтобы первыми узнавать самое важное, поставьте лайк нашей странице в Facebook и подпишитесь на нас в Google News, TikTok, Telegram и Viber или загрузите приложение по адресу Калдата.com для Android, iOS и Huawei!
