Мир искусственного интеллекта снова потрясли важные новости: Рози Кэмпбелл, ведущий исследователь политики безопасности в OpenAI, объявила о своем уходе из компании. Ее решение стало еще одним сигналом о возможных внутренних проблемах в одной из самых влиятельных компаний в сфере искусственного интеллекта в мире. Причиной увольнения стал роспуск команды AGI Readiness — подразделения, отвечающего за оценку готовности человечества к появлению общего искусственного интеллекта.
Цепная реакция ухода талантов
Отставка Кэмпбелла не является изолированным инцидентом. За последний год OpenAI потеряла плеяду блестящих умов. Сначала компанию покинул Майлз Брандейдж, руководитель группы готовности AGI. За ним последовали соучредитель Илья Суцкевер, выдающиеся исследователи Ян Лайке и Джон Шульман. Каждый выразил серьезную обеспокоенность по поводу нового курса компании.
Коммерциализация против первоначальной миссии
Осенью 2023 года OpenAI объявила о существенных изменениях в своей бизнес-модели. Компания начала активно развивать коммерческое направление, что вызвало волну критики со стороны бывших сотрудников. Многие полагают, что погоня за прибылью может затмить основную миссию организации — создание безопасного ОИИ на благо всего человечества.
Сэм Альтман, генеральный директор OpenAI, поддержал этот шаг, подчеркнув необходимость значительных инвестиций для достижения амбициозных целей. По его словам, развитие AGI требует огромных средств, привлечь которые можно только за счет коммерческой деятельности.
Будущее под вопросом
Эксперты отрасли все чаще выражают обеспокоенность по поводу будущего OpenAI. Массовый отток ключевых специалистов по безопасности может существенно повлиять на способность компании разрабатывать безопасные системы искусственного интеллекта. Особую остроту стоит вопрос о том, кто теперь возьмет на себя ответственность за оценку рисков, связанных с развитием ОИИ.
Однако Альтман настаивает на том, что ответственность за установление стандартов безопасности должна лежать не только на OpenAI, но и на обществе в целом. Это глобальная проблема, которая требует широкого обсуждения и участия различных заинтересованных сторон.
