Генеральный директор Openai Сэм Альтман, выступающий в подкасте MD Meets, вместе с генеральным директором Axel Springer Матиасом Допфнером, наметил тревожный сценарий для будущего технологий: человечество может потерять контроль над искусственным интеллектом (ИИ) не из -за злонамеренного намерения или манеры.
По его словам, опасность не скрыта в «подъеме» ИИ, и в этом народе постепенно передают ему бразды правления — добровольно и почти незаметно. Потребители все чаще полагаются на советы ИИ каждый день. Но модели становятся умнее, и Альтман рисует следующую картину: вначале II дает рекомендации, которые люди легко следуют, а затем дают рекомендации, которые могут даже не быть полностью поняты, но неизменно оказываются правильными. Затем, в какой -то момент, пользователи столкнутся с выбором: слушать ИИ или потерять конкурентов, которые следуют его советам и рекомендациям.
В конце концов, по словам Альтмана, большинство людей начнут следовать рекомендациям помощников. «Представьте, что сегодня происходит с Chatgpt? Сотни миллионов людей общаются с ним ежедневно, и вскоре это число достигнет миллиарда. И мы все больше доверяем ему в принятии важных карьерных решений, личной жизни и бизнеса«Он говорит. Альтман особенно обеспокоен появляющейся« обратной связью », что означает, что чем больше пользователей полагаются на советы искусственного интеллекта, тем больше данных собирается, тем более умным становится и тем больше влияет на решения людей.
Лидер Openai задал вопрос, кто действительно контролирует ситуацию, и пришел к выводу, что человечество может тихо начать подчиняться воле искусственного интеллекта. Он считает, что этот сценарий серьезно недооценен, но все еще является самой реальной угрозой.
