Безопасность искусственного интеллекта в наши дни является чрезвычайно чувствительной темой. Чат-боты могут открыто общаться на темы, которые обычно скрыты от несовершеннолетних, поэтому разработка таких систем требует строгого контроля. Недавно у OpenAI появился директор, ответственный за создание безопасного искусственного интеллекта.
По данным The Wall Street Journal, новым главой подразделения стал Дилан Скандинаро (Dylan Scandinaro), бывший сотрудник конкурента Anthropic, ранее работавший на аналогичной должности. О его назначении руководителем отдела готовности было объявлено на этой неделе через платформу X генеральный директор OpenAI Сэм Альтман. Он также отметил: «Дела будут развиваться очень быстро, и мы будем работать над очень мощными моделями. Это потребует соответствующих гарантий, чтобы гарантировать, что мы продолжаем приносить значительные выгоды.«
По словам Альтмана, Дилан Скандинаро возглавит усилия OpenAI по подготовке к этим серьезным рискам. Генеральный директор компании признал, что Скандинаро был лучшим кандидатом на должность, с которым он встречался. «У него наверняка будет много работы, и сегодня я буду лучше спать.» Признался Альтман. Он надеется на тесное сотрудничество со Скандинаро над изменениями, которые будут реализованы во всей компании. Сам Скандинаро признает, что быстро развивающиеся модели ИИ могут стать причиной «серьезный и даже необратимый ущербОн добавляет, что за очень короткое время предстоит проделать большую работу.
Скандинаро работал в Anthropic с мая прошлого года по февраль этого года. Значительно дольше он проработал в дочерней компании Google DeepMind, с сентября 2022 года по май 2025 года, специализируясь на синтетических данных для обучения ИИ-помощника Gemini. Скандинаро также имеет опыт работы в Palantir, Unity Technologies и Everyday Robots. Похожая позиция в OpenAI была объявлена в прошлом году, предлагая годовую зарплату в размере $550 000 и акции. «Команда готовности» в OpenAI существует с 2023 года; Первоначально его возглавлял Александр Мадри, имеющий опыт работы в Центре распределенного машинного обучения Массачусетского технологического института. Позже он перешёл на другую должность в структуре OpenAI, так как должность руководителя отдела стала вакантной.
