Дезинформация, психоз и отсутствие правил превращают технологии в угрозу.
Быстрое развитие технологий искусственного интеллекта порождает экзистенциальный страх в той части общества, называемого в английской прессе »AI-Doomers«. Эти люди опасаются, что ИИ уберет работу людей, создаст «просроченность» неконтролируемых систем из -за интеллектуальных систем и в конечном итоге приведет к тому, что человечество исчезнетКак пишет Атлантика, некоторые приходят к крайностям в своей повседневной жизни. Институт исследований машинного интеллекта — Мири) Нейт Соарес признается в публикации, что он перестал спасение на пенсию: «Я просто не ожидаю, что мир проживет в этом». Дэн Хендрикс, директор Центра безопасности искусственного интеллекта, выразил аналогичные ожидания — по его словам, в то время, когда он уйдет на пенсию, человечество больше не может существовать.
Сторонники этого подхода уверены, что всего на несколько лет разделены на появление ИИ, которое будет выпущено и повернут к людям. Не так давно такие субъекты казались чистой художественной литературой, но сегодня все больше и больше экспертов предупреждают, что человечество недостаточно готовит к такому повороту, рискуя быть подчиненным сверхветальным системам-или хуже.
Различные сценарии разыгрываются в дискуссиях. Ранее в этом году группа исследователей пришла к выводу, что это был лишь вопрос времени для доступа к ядерным кодам. Существуют также признаки «темной стороны» уже существующих моделей: ученые имеют зарегистрированные случаи, когда системы прибегали к пользователям шантажа, которые пытались их деактивировать. Palisade Research сообщает, что одна из моделей Openai саботировала механизм чрезвычайных отчуждений, чтобы оставаться в сети. В дополнение к тому, чтобы заботиться о своем «выживании», EI также может помочь людям с злонамеренными намерениями. В июне Openai предупредил в публикации в блоге, что продвинутые модели могут «поддерживать высококвалифицированных нападавших в создании биологического оружия».
Тем не менее, остается вопрос, доказывают ли эти эпизоды, что мы действительно идем на самоотражение. Технология в его нынешнем виде уже ощутимый ущерб: Она наводняет Интернет дезинформацией и питает волну такого названого «психоза». Недостатки также не исчезли: последняя модель Openai GPT-5, по словам критиков, все еще наткнулась на элементарные задачи, такие как подсчет количества «r» в слове «клубника».
/Однако, как отмечает Атлантический, «пророчества конца света» должны быть восприняты всерьез, поскольку компании все более тонко мотивируются, чтобы обеспечить AI -повышение контроля. А с антирегуляторным подходом администрации Трампа, такие как OpenAI, могут не иметь сильного внешнего стимула для применения твердых ограничений и мер предосторожности. Будет ли такой курс привести к публичному краху, это может быть уже вторичной проблемой — у нас слишком много пожаров для погашения в данный момент.
