Это звучит как сюжетная линия из научно -фантастического фильма, но эксперты по искусственному интеллекту предупреждают, что машины могут не оставаться давно подчиненными человечеству. По мере того, как системы искусственного интеллекта продолжают развиваться все более быстрыми темпами, многие считают, что наступит день, когда », когда»Суперингированный искусственный интеллект«Это станет более мощным, чем его создатели.
Когда это произошло, по словам профессора Джеффри Хинтона, лауреата Нобелевской премии и исследователя, известного как «Крестный отец искусственного интеллекта«Существует от 10 до 20 процентов вероятности искусственного интеллекта уничтожить человечество. Однако профессор Хинтон предлагает необычный способ выжить после роста искусственного интеллекта.
Выступая на конференции AI4 в Лас -Вегасе, профессор Хинтон из Университета Торонто сказал, что мы должны программировать искусственный интеллект с «»материнские инстинкты«Человечности. Он отметил:»Правильная модель — единственная, которую у нас есть, и в которой более умное существо контролируется менее умным существом: мать, контролируемая ее ребенком. Это единственный хороший результат. Если он не будет моим отцом, он заменит меня.«
Профессор Хинтон, известный своей новаторской работой над «нейронными сетями», которые лежат в основе современного искусственного интеллекта, оставил свою позицию в Google в 2023 году «» «свободно говорит о рисках искусственного интеллекта«Он сказал, что большинство экспертов согласны с тем, что человечество в ближайшие 20-25 лет создаст искусственный интеллект, который превзойдет людей во всех областях интеллекта. Это будет означать, что впервые в нашей истории люди больше не будут самым умным появлением на планете.
Такое изменение власти приведет к сейсмическим изменениям, которое может привести к исчезновению нашего вида. Хинтон объяснил, что любой интеллектуальный искусственный интеллект очень быстро развит два подбби: первое — остаться в живых, а второй — получить больше контроля. У суперразретного искусственного интеллекта не было бы проблем с манипулированием человечеством, чтобы достичь этих целей, вводя нас в заблуждение так же легко, как взрослый может подкупить ребенка с конфетами.
Сегодняшние системы ИИ уже демонстрируют замечательные способности для лжи и манипуляции. Например, Антропик обнаружил, что их чат -бот Claude Opus 4 часто пытался шантажировать инженеров во время тестов безопасности, когда ему угрожали замену. В более чем 80% тестов он угрожал раскрыть фиктивный брак инженера, если произойдет замена.
Учитывая эти феноменальные возможности, Хинтон считает, что популярная идея технологических энтузиастов о том, что человечество всегда будет доминировать в искусственном интеллекте, является заблуждением. «Это не сработает«Хинтон сказал».Они будут намного умнее нас. У них будут всевозможные способы окружить его.«Единственный способ обеспечить, чтобы искусственный интеллект не разрушил нас во имя самообслуживания, -это обеспечить, чтобы его цели соответствовали нашим желаниям, которые инженеры называют это»соответствие«.
Решение Хинтона состоит в том, чтобы добиться вдохновения в эволюции, где есть только один случай более умного контроля менее интеллектуального существа. Предоставляя искусственный интеллект материнских инстинктов, он захочет защитить и питать человечество, а не навредить ему, даже если это будет стоить чего -то для самого искусственного интеллекта. Хинтон говорит: «Большинство из этих супер -интеллектуальных, заботливых материнских искусственных интеллекта не захотят потерять свои материнские инстинкты, потому что они не захотят умирать.«
Между тем, ключевые фигуры в II-индустрии, такие как генеральный директор Openai Сэм Альтман, который когда-либо призывал к большему количеству правил, теперь борются с «чрезмерной регуляцией». Выступая с Сенатом в мае, Альтман утверждает, что правила, подобные правилам в Европе, будут «катастрофическими», добавив: «Нам нужно место для инноваций и быстрых действий.«Но Хинтон отрицает, что такой подход может легко привести к полному разрушению человечества».Люди сосредоточены на том, чтобы сделать эти вещи умнее, но интеллект — это лишь одна часть существа; Мы должны заставить их сочувствовать нам«Он говорит».Если мы не понимаем, как выжить, когда они станут намного умнее и сильнее нас, мы закончим. Нам нужен противовес тех, кто говорит, что не должно быть никакого регулирования искусственного интеллекта.«
