В решении, которое имеет серьезные последствия для будущего регулирования искусственного интеллекта, губернатор Гэвин Ньюсом наложил вето на предложенный законопроект штата Калифорния, который должен был установить ограждения для взрывного роста ИИ. Законопроект SB-1047, известный как Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, был первой попыткой любого штата полностью регулировать развитие ИИ. Поскольку многие разработчики ИИ базируются в Калифорнии, этот закон оказал бы широкое влияние на отрасль и за пределами штата.
В законопроекте предлагались следующие меры по предоставлению исчерпывающих полномочий по регулированию разработки и использования технологий ИИ крупными компаниями:
- Требование, чтобы разработчики внедряли функции «killswitch» для быстрого полного отключения перед началом обучения моделей ИИ.
- Запрет разработчикам на использование модели ИИ или ее производной для целей, не связанных исключительно с обучением или разумной оценкой модели.
- Требование к разработчикам ежегодно привлекать сторонних аудиторов для проведения независимых проверок соблюдения этих положений, начиная с 2026 года.
«Я не считаю, что это лучший подход к защите общества от реальных угроз, исходящих от технологии», — заявил Ньюсом в своем официальном заявлении. «Вместо этого законопроект применяет жесткие стандарты даже к самым базовым функциям — до тех пор, пока их разрабатывает крупная система».
Несмотря на то, что на законопроект об искусственном интеллекте было наложено вето, он еще может быть пересмотрен и стать законом. Его поддержали обе палаты законодательного собрания штата, и Ньюсом поручил законодателям переработать его положения к следующей сессии.
Чтобы помочь в этом процессе, он собрал группу экспертов в области технологий для получения рекомендаций по регулированию генеративного ИИ. В консультативную группу вошли Дженнифер Тур Чейз, декан Колледжа вычислительной техники Калифорнийского университета в Беркли, и Фей-Фей Ли, профессор информатики в Стэнфорде, которую часто называют «крестной матерью ИИ». Ли недавно написал статью, в которой высказал мнение, что SB-1047 «неоправданно накажет разработчиков и затормозит инновации», а также «искалечит государственный сектор и академические исследования в области ИИ».
Интерес к регулированию ИИ растет
Необходимость регулирования ИИ резко вышла на передний план, поскольку эта мощная технология развивается бешеными темпами, в то время как регулирование еще не успело пройти мимо призывов к действию. Разрабатывая законопроект, калифорнийские законодатели реагировали на опасный вакуум: ИИ обладает огромной силой влияния на потребителей, бизнес и даже политику, но при этом практически не регулируется.
Конгресс, несмотря на проведение слушаний, не принял никакого закона. В нескольких штатах были приняты законы, направленные на защиту от глубоких подделок и запрещающие дискриминационные практики найма на работу на основе моделей ИИ. В августе 2024 года Европейский союз принял Акт об искусственном интеллекте, который установил начальные барьеры для развития искусственного интеллекта, требуя, чтобы контент, созданный искусственным интеллектом, был обозначен как таковой. Тем не менее, более широкая функциональность искусственного интеллекта остается свободной, управляемой быстро развивающимися и хорошо финансируемыми компаниями, способными опередить медленно продвигающиеся законодательные усилия.
Учитывая, что искусственный интеллект уже может в точности имитировать человеческое сознание, получая при этом огромные финансовые выгоды, за медлительными темпами правительственного законодательства будет трудно угнаться. Тем более что правительственные органы часто разделены, а законодатели, как правило, не являются экспертами в области технологий.
«Проблема заключается в том, насколько нова эта технология и сколько времени требуется правительствам для принятия законов», — сказала Мелисса Руцци, директор по ИИ в AppOmni. eWeek. Тем не менее, усилия необходимы. «Мы должны быть открыты для изменений в законодательстве по мере того, как мы все вместе узнаем о том, как ИИ используется в различных секторах общества», — сказала она.
ИИ создает странные пары
Сторонники и критики калифорнийского законопроекта об искусственном интеллекте высказали свои горячие мнения, и их союзы удивительным образом пересекались между культурой и бизнесом. Предсказуемо, что против законопроекта выступили крупные игроки на рынке ИИ, включая Microsoft, Google, OpenAI и Meta. Джейсон Квон, директор по стратегии OpenAI, написал Ньюсому, что законопроект «замедлит темпы инноваций и заставит калифорнийских инженеров и предпринимателей мирового класса покинуть штат в поисках новых возможностей в других местах».
С другой стороны, ведущий ИИ-стартап Anthropic, считающийся главным конкурентом OpenAI, предложил поправки к законопроекту и заявил, что может поддержать пересмотренный проект закона.
«ИИ родом из Калифорнии», — сказала бывший спикер Палаты представителей Нэнси Пелоси. «Мы должны принять закон, который станет образцом для всей страны и всего мира. У нас есть возможность и ответственность, чтобы позволить малым предпринимателям и научным кругам, а не крупным технологиям, доминировать».
Однако Пелоси выступила против SB1047, назвав его «благонамеренным, но плохо информированным». Ее мнение поддержал ряд калифорнийских членов Конгресса, которые разделили с Ньюсомом мнение о том, что законопроект является слишком открытым и недостаточно проработанным для развивающейся технологии.
Основатель компании Tesla Элон Маск поддержал законопроект. «Это трудный выбор, и некоторые люди будут расстроены, но, учитывая все обстоятельства, я думаю, что Калифорния должна принять законопроект SB-1047 о безопасности искусственного интеллекта», — написал он в своем твиттере на X, своей социальной медиаплатформе. «Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, представляющую потенциальный риск для общества». В начале 2023 года Маск вместе с более чем тысячей экспертов в области ИИ подписал письмо, в котором призвал приостановить разработку «гигантского» ИИ до тех пор, пока не удастся должным образом управлять рисками, связанными с этой технологией.
Группа из 120 голливудских знаменитостей написала письмо в поддержку законопроекта — возможно, отчасти потому, что способность ИИ генерировать контент представляет собой столь серьезную угрозу для их средств к существованию. Среди подписавших письмо были Джадд Апатоу, Шонда Раймс, Вупи Голдберг и Роб Райнер. «Этот законопроект не о защите художников — он о защите всех», — написали они. «Серьезные угрозы со стороны искусственного интеллекта раньше были предметом научной фантастики, но не теперь».
Аналогичным образом группа ученых написала Ньюсому письмо в поддержку законопроекта. В эту группу входил Джеффри Хинтон, профессор Университета Торонто, широко известный как «крестный отец ИИ». Академики заявили, что «решения о выпуске будущих мощных моделей ИИ не должны приниматься легкомысленно, и они не должны приниматься исключительно компаниями, которые не несут никакой ответственности за свои действия».
