- Глава отдела безопасности искусственного интеллекта в компании Anthropic, Мринанк Шарма, уволился, опубликовав необычное прощальное письмо с библейскими отсылками и поэмой.
- В письме он выразил обеспокоенность крупными взаимосвязанными мировыми кризисами и призвал к росту мудрости в сочетании с влиянием на мир во избежание негативных последствий.
- После ухода Шарма планирует посвятить себя изучению поэзии и практикам смелой речи, а также переехать в Великобританию, чтобы временно стать «невидимым».
Мринанк Шарма, ранее возглавлявший группу Safeguards Research Team в известной компании Anthropic, сообщил о своём уходе из организации, опубликовав необычное прощальное письмо в своем Твиттере. Этот текст выделяется среди стандартных объявлений об увольнении своей необычной структурой, включающей в себя четыре сноски, библейские метафоры и завершающую поэму. В самом письме Шарма отметил, что покидает компанию, осознавая наступающий кризис, отнюдь не ограниченный только опасностями искусственного интеллекта или биологического оружия, а представляющий собой комплекс взаимосвязанных глобальных угроз.
Он подчеркнул свою тревогу относительно того, что человечеству требуется не просто технический прогресс, но и значительный рост мудрости, сопоставимый с увеличивающейся мощью воздействия на окружающий мир. Без этого, по мнению Шармы, мир рискует столкнуться с серьёзными и необратимыми последствиями.
На протяжении своей работы в Anthropic Мринанк Шарма занимался исследованием того, как ИИ-ассистенты могут влиять на «искажение человечности». Вместе с тем он отмечал, что внутри компании и шире в обществе нередко возникают препятствия для того, чтобы искренние ценности реально проявлялись в действиях. В частности, он намекнул на давление, вынуждающее отклоняться от заявленных принципов ради конкурентных преимуществ.
В заключительной части письма Шарма выразил намерение оставить привычные структуры и ограничения, чтобы открыть для себя новые возможности. Он также заявил о планах получить образование в области поэзии, что воспринимает как возможность практиковать «смелую речь» и стать более свободным в выражении своих мыслей и чувств. В личных комментариях он сообщил о переезде в Великобританию и желании временно остаться «невидимым» для общественности.
Данный уход и сопроводительное письмо можно рассматривать как выражение глубокой обеспокоенности ключевого эксперта по безопасности ИИ состоянием современного мира и его будущим. Его поступок подчёркивает необходимость уделять больше внимания не только технологическим достижениям, но и этическим и философским вопросам, стоящим перед человечеством.
