- OpenAI наняла Дилана Скандинаро на должность руководителя направления по оценке рисков и безопасности передовых моделей ИИ с базовой зарплатой до $555 тыс. в год плюс акции.
- До прихода в OpenAI Скандинаро работал в Anthropic и Google DeepMind, специализируясь на безопасности ИИ.
- Новая должность Head of Preparedness была создана в 2023 году, но ранее показательна частая смена руководителей из-за высокой ответственности и сложности задач.
Компания OpenAI объявила о назначении Дилана Скандинаро на важный пост — руководителя направления под названием Head of Preparedness. Данная роль предполагает ответственность за оценку рисков и обеспечение безопасности передовых искусственных интеллектов. Базовая годовая зарплата на данной позиции достигает 555 тысяч долларов, а к ней добавляется опцион на акции компании.
Дилан Скандинаро — признанный эксперт в сфере безопасности ИИ, который ранее работал в Anthropic, одной из наиболее осторожных лабораторий, а также в Google DeepMind. Его переход в OpenAI приобретает особое значение на фоне истории основания Anthropic, которую создали в 2021 году бывшие сотрудники OpenAI — братья Дарио и Даниэла Амодеи — из-за разногласий по поводу приоритетов в области безопасности.
Сэм Альтман, генеральный директор OpenAI, отметил, что развитие искусственного интеллекта будет стремительным, и выпуск следующих поколений моделей потребует пропорционально серьезных мер безопасности. Он также подчеркнул, что Скандинаро является лучшим кандидатом из всех, кого ему доводилось встречать для решения подобных задач.
Сам новый руководитель Head of Preparedness осознаёт масштаб предстоящей работы и необходимые усилия, заявляя, что технологии ИИ развиваются очень быстро, что несет как большие потенциалы, так и риски экстремального и даже необратимого вреда. Он подчеркнул срочность и важность предоставленной ему миссии.
Должность Head of Preparedness была создана в 2023 году и уже пережила несколько смен руководителей, каждый из которых не задерживался более года на этом месте, что свидетельствует о высокой сложности и большой ответственности позиции. OpenAI недавно предупредила, что новые версии их моделей ИИ приобретают растущие киберспособности, и будущие системы могут впервые достичь высокого уровня риска согласно внутренним шкалам компании. Перед Диланом Скандинаро стоит задача обеспечить безопасность именно таких быстроразвивающихся и мощных ИИ-систем.
