Утверждение Ника Бострома о том, что человечество, вероятно, живет в компьютерном моделировании, поражена интеллектуалами по всему миру более двух десятилетий назад. Концепция, воспринимаемая влиятельными деятелями, такими как Илон Маск, Билл Гейтс и Сэм Альтман, стала краеугольным камнем его философского мышления. Но теперь, когда прогресс в искусственном интеллекте происходит с невероятной скоростью, у него есть новое, тревожное предупреждение, которое гораздо более плачевное.
Бостром, автор книги 2014 года «Суперинтеллект: дороги, опасности, стратегии», в которой он подробно описывает, как искусственный интеллект может превзойти человека, теперь видит, как его прогнозы сбываются. Он сказал лондонскому стандарту, что он впечатлен скоростью, с которой искусственный интеллект развивался за последние несколько лет, и считает, что мир твердо движется к созданию общего искусственного интеллекта (OII), который так же умный, как и человек.
Хотя Бостром остается «тревожным оптимистом», его взгляды на будущее изменились. В 2019 году он полагал, что искусственный интеллект представляет большую угрозу для существования человечества, чем изменение климата, но в настоящее время менее категорично. Философ подчеркивает, что полный, вызванный искусственным интеллектом, реорганизация общества может быть позитивным явлением и считает, что достижение полной безработицы может быть целью. По его словам, это заставит человечество найти другие основы для самооценки и достоинства, кроме необходимости работы. Бостром считает, что в будущем люди будут оглянуться назад к 2025 году и будут в ужасе от того, на что была похожа жизнь без помощи передового искусственного интеллекта.
Однако, по мере приближения этого уровня развития, Bostrom определяет четыре ключевые проблемы, которые необходимо учитывать: согласование ИИ в соответствии с человеческими ценностями, управлением ИИ, так что люди не используют его для зла, признание морального статуса цифрового интеллекта и, что удивительно, профилактика конфликтов. Хотя эти идеи могут показаться фантастическими, они отражают осознание Бострома о неизбежных проблемах, которые будут сопровождать нашу эволюцию в мир, где интеллектуальные машины станут не просто инструментами, но и на полных участниках в жизни.
