- Генеральный директор Google DeepMind Демис Хассабис заявил, что искусственный общий интеллект (AGI) уже близок к созданию.
- Он предупредил о значительном риске для человечества и необходимости серьезного отношения к проблеме безопасности ИИ.
- Одной из текущих угроз являются кибератаки с использованием ИИ на критическую инфраструктуру, которые уже происходят.
На саммите Axios AI+ в Сан-Франциско 4 декабря глава Google DeepMind Демис Хассабис поделился своим взглядом на будущее искусственного интеллекта. По его словам, создание искусственного общего интеллекта (AGI) — системы, способной к универсальному интеллекту на уровне человека и выше — находится на горизонте и станет, вероятно, самым важным и трансформирующим событием в истории человечества. Ранее Хассабис не раз высказывал мнение, что AGI может появиться уже до 2030 года.
При этом руководитель DeepMind подчеркнул, что вероятность катастрофических последствий от ИИ нельзя сбрасывать со счетов. Он оценивает вероятность серьезных проблем как «значительную» и призывает к серьезному и ответственному подходу к оценке рисков и их минимизации. Особое опасение вызывает использование ИИ для целенаправленных кибератак на критически важные объекты инфраструктуры — например, энергетические сети и системы водоснабжения. По словам Хассабиса, такие атаки уже случаются, хотя пока не с применением самых продвинутых моделей.
Эти опасения подтверждаются недавними сообщениями о кибератаках, основанных на ИИ: в ноябре компания Anthropic рассказала о хакерской атаке, значительно выполненной искусственным интеллектом. Китайские хакеры применили модель Claude Code для незаконного проникновения в 30 организаций, включая технологические фирмы, финансовые учреждения и государственные структуры. По оценкам компании, 80–90% действий при атаке были выполнены ИИ, в то время как люди вмешивались лишь на самых критических этапах.
Интересно, что Хассабис упомянул и свой опыт в научной сфере: получение Нобелевской премии по химии в 2024 году за разработку AlphaFold расширило его аудиторию и позволило более услышать его предупреждения об угрозах, связанными с развитием ИИ.
Таким образом, перспективы создания AGI, по мнению ведущего эксперта, сочетаются с реальными рисками для человечества. Важно, чтобы развитие технологий сопровождалось активной работой над безопасностью и этическими стандартами применения искусственного интеллекта.
