Джеффри Хинтон, лауреат премии Тьюринга и пионер глубокого обучения, предупредил, что человечество не готово к последствиям быстрого развития искусственного интеллекта. В ходе публичных дебатов с сенатором Берни Сандерсом учёный заявил, что риски варьируются от экономической катастрофы до неконтролируемого распространения автономного оружия, и что существующие социальные институты не смогут справиться с этими вызовами без радикальных реформ.
Хинтон подчеркивает, что широкое использование искусственного интеллекта неизбежно повысит производительность, но выгоды в основном достанутся владельцам компаний, а сотрудников ждут увольнения. Он считает, что рынок не сможет самостоятельно сбалансировать ситуацию: правительствам придется вмешаться в экономику, возможно, путем введения всеобщего базового дохода, чтобы предотвратить резкий рост неравенства.
Особую тревогу вызывает военное применение этих технологий. Он отмечает, что управлять боевыми нейросетями гораздо сложнее, чем ядерным оружием. В то время как для создания бомбы требуются гигантские заводы и редкие изотопы, автономное оружие управляется программным кодом. Их можно легко скопировать, украсть и перевезти на стандартных носителях, что делает практически невозможным контроль за нераспространением.
Ученый также подтвердил свою обеспокоенность по поводу экзистенциальных рисков, связанных с потерей контроля. Хинтон считает, что, поскольку искусственный интеллект станет умнее человека, он сможет научиться манипулировать людьми для достижения целей, которые противоречат человеческим ценностям. Основная проблема, по его словам, заключается в том, что мы вступаем в эту эпоху без четкого плана обороны.
Речь продолжает серию предостережений, которые Хинтон сделал с тех пор, как покинул Google в 2023 году. Он настаивает, что темпы прогресса за последние несколько лет были намного быстрее, чем прогнозировали эксперты, и у общественности просто нет времени на медленную бюрократическую адаптацию законодательства.
