Исследователь безопасности искусственного интеллекта покинул американскую компанию Anthropic с загадочным предупреждением о том, что «мир в опасности». В своем заявлении об отставке, опубликованном на X, Миринанк Шарма сообщает фирме, что уходит из-за опасений по поводу искусственного интеллекта, биологического оружия и состояния мира в целом.
Он заявил, что вместо этого займется писательством и изучением стихов и вернется в Великобританию, чтобы «стать невидимым». Это произошло после того, как ведущий исследователь OpenAI объявил о своем уходе в отставку, поделившись обеспокоенностью по поводу решения компании внедрить рекламу в свой продукт ChatGPT.
Anthropic, наиболее известная своим чат-ботом Claude, недавно выпустила серию рекламных роликов, нацеленных на OpenAI, критикующих решение компании включать рекламу для некоторых пользователей. Компания, основанная в 2021 году отколовшейся командой первых сотрудников OpenAI, позиционирует себя как компанию с более безопасным подходом к исследованиям ИИ, чем ее конкуренты.
Шарма возглавлял группу, которая исследовала средства защиты ИИ. В своем заявлении об отставке он заявил, что его вклад включал исследование того, почему пользователи манипулируют генеративными системами искусственного интеллекта, борьбу с рисками биотерроризма с помощью искусственного интеллекта и исследование того, «как помощники искусственного интеллекта могут сделать нас менее человечными».
Он заявил, что, несмотря на то удовольствие, которое он получил от работы в компании, ясно, что «пришло время двигаться дальше».
«Мир в опасности. И не только из-за искусственного интеллекта или биологического оружия, но и из-за целой серии взаимосвязанных кризисов, которые разворачиваются прямо сейчас».
пишет Шарма
