- OpenAI ищет нового руководителя отдела «готовности» для предвидения и смягчения рисков от использования её ИИ-моделей.
- Генеральный директор Сэм Альтман подчеркнул важность данной роли на фоне сложных вызовов, включая влияние ИИ на психическое здоровье.
- Вакансия предполагает зарплату в $555 000 в год и участие в стратегии безопасности компании, включая работу с потенциально опасными системами ИИ.
Компания OpenAI объявила о поиске руководителя нового подразделения «готовности», задача которого — прогнозировать и минимизировать возможный вред от использования искусственного интеллекта. Согласно опубликованной информации, позиция предполагает разработку и реализацию технической стратегии по выявлению угроз и способов предотвращения злоупотреблений моделями OpenAI.
Генеральный директор организации Сэм Альтман в публичном заявлении отметил, что влияние ИИ на психическое здоровье пользователей стало очевидно ещё в 2025 году. Он подчеркнул, что новая роль крайне важна в нынешний переломный момент, когда возникают новые вызовы, связанные с безопасностью искусственного интеллекта. По словам Альтмана, это будет напряжённая и ответственная работа, требующая оперативных решений в условиях высокой неопределённости.
Руководитель отдела будет управлять небольшой, но эффективной командой специалистов, занимающихся исследованиями и реализацией мер по обеспечению готовности к возможным рискам. В частности, требуется выстраивать комплексные оценки угроз и организовывать эффективные механизмы безопасности, которые смогут масштабироваться по мере развития технологий.
Кроме того, данная позиция предусматривает участие в создании и внедрении систем, гарантирующих безопасность ИИ-моделей при работе с новыми биологическими возможностями и системами, способными к самосовершенствованию. Таким образом, компания стремится оставаться впереди потенциальных технологических рисков и определять стандарты ответственного использования искусственного интеллекта в будущем.
Стоит напомнить, что к концу 2025 года OpenAI столкнулась с критикой и судебными исками, связанными с предполагаемым негативным воздействием ChatGPT на психическое состояние пользователей. В одном из громких дел, связанных с трагической смертью подростка, истцы обвиняют компанию в халатности, однако OpenAI отвергает подобные претензии, подчеркивая, что пользователь сам обходил установленные системы безопасности.
Таким образом, создание позиции руководителя отдела готовности является ответом на растущие вызовы безопасности и моральной ответственности в сфере разработок искусственного интеллекта, подтверждая приверженность OpenAI к развитию технологий с учётом общественных и этических аспектов.
