Сотни видных людей, в том числе разработчики ранних версий искусственного интеллекта, подписали письмо, призывающее положить конец разработке так называемого общего искусственного интеллекта.
Письмо под названием «Декларация сверхразума«, призывает к запрету на развитие общего искусственного интеллекта, который не следует снимать до тех пор, пока не будет достигнут широкий научный консенсус о том, что достижения в области искусственного интеллекта могут быть достигнуты безопасно и контролируемым образом при широкой общественной поддержке. В письме приводятся данные недавнего исследования Научно-исследовательского института искусственного интеллекта (FLI).
Согласно опросу, только 5% граждан США поддерживают быстрое и нерегулируемое развитие инновационных инструментов на основе искусственного интеллекта. Более 73% респондентов поддерживают введение жесткого регулирования искусственного интеллекта. Около 64% респондентов заявили, что до тех пор, пока не будет доказано, что ИИ безопасен и управляем, его развитие нельзя допускать.
Под письмом подписались соучредитель Apple Стив Возняк, основатель Virgin Ричард Брэнсон, представители СМИ, в том числе ведущий War Room Стив Бэннон и ведущий ток-шоу Гленн Бек, а также художники Джозеф Гордон-Левитт, принц Гарри и Меган Маркл, адмирал ВМС США в отставке Майк Маллен, который занимал пост председателя Объединенного комитета начальников штабов при бывших президентах Джордже Буше и Бараке Обаме, отец Паоло Бенанти, советник Папы по вопросам искусственного интеллекта, и крупный консорциум экспертов и ученых в области искусственного интеллекта, в том числе лауреат премии Тьюринга Джошуа Бенхио и лауреат Нобелевской премии Джеффри Хинтон.
«Следующее поколение систем искусственного интеллекта сможет превзойти большинство людей во многих когнитивных задачах всего за несколько лет. Эти достижения могут открыть пути решения важнейших глобальных проблем, но они также несут в себе значительные риски. Чтобы безопасно двигаться к сверхразуму, мы должны научно определить, как создавать системы искусственного интеллекта, которые принципиально неспособны причинить вред людям, будь то из-за некомпетентности или злонамеренного использования. Мы также должны обеспечить, чтобы общественность имела значительно большее влияние на решения, которые будут определять наше общее будущее.— подчеркивает Джошуа Бенхио, профессор Монреальского университета.
В письме не отмечается, что искусственный интеллект не обязательно должен достигать уровня общего искусственного интеллекта, чтобы вызвать массовый хаос. В настоящее время генеративные AI-модели, далекие от уровня общего искусственного интеллекта, меняют процессы обучения, наполняя Интернет огромным количеством дезинформации и нежелательного контента, вызывая у пользователей множество психических расстройств.
Генеральный директор OpenAI Сэм Альтман, соучредитель DeepMind и руководитель Microsoft AI Мустафа Сулейман, генеральный директор Anthropic Дарио Амодей, руководитель Белого дома по искусственному интеллекту и криптовалютам Дэвид Сакс и основатель xAI Илон Маск отказались подписать письмо.
«Многим людям нужны мощные инструменты искусственного интеллекта для науки, медицины, повышения производительности и других целей. Но путь, по которому идут корпорации искусственного интеллекта, стремящиеся создать искусственный интеллект, превосходящий людей и предназначенный для замены людей, полностью не соответствует общественным потребностям, мнениям ученых о безопасности и мнениям религиозных лидеров о том, что правильно. Никто из разработчиков этих ИИ-систем не спрашивал человечество, приемлемо ли это. Мы спросили, и ответ неприемлем– отмечает соучредитель FLI Энтони Агирре.
