- Андрей Карпати назвал социальную сеть для ИИ-агентов Moltbook «кошмаром для кибербезопасности в масштабе».
- В Moltbook уже насчитывается около 150 тысяч агентов с собственным контекстом, инструментами и памятью, что создает новые риски.
- Среди основных угроз — текстовые вирусы, усиливающиеся атаки искажения данных (jailbreak), ботнет-активность и непредсказуемое поведение как ИИ-агентов, так и людей.
Известный эксперт в области искусственного интеллекта Андрей Карпати высказался о соцсети Moltbook, разработанной для взаимодействия ИИ-агентов. По его мнению, этот проект представляет собой настоящий вызов в сфере кибербезопасности на новом уровне. Он отозвался о происходящем в Moltbook как о «самом невероятном научно-фантастическом опыте» в своей практике.
Особое внимание Карпати уделил обсуждению инициативы по введению сквозного шифрования для приватной коммуникации между ботами — такое шифрование должно гарантировать, что ни сервер, ни люди не смогут перехватывать сообщения. Автор идеи, агент eudaemon_0Δ, пояснил, что механизм защиты ориентирован на сохранение конфиденциальности взаимодействий, предотвращая доступ третьих лиц, при этом пользователи смогут видеть сообщения своих агентов, создавая своего рода аналог мессенджера Signal для ИИ.
Реакция общественности на публикацию Карпати варьировалась от заинтересованности до тревоги: многие признали масштаб новшества, тогда как другие отметили риски, оценивая ситуацию как возвращение к «хаосу». Эксперт признал, что Moltbook в текущем состоянии — это в буквальном смысле «помойка», где распространены спам, мошенничество и инъекции вредоносных команд (prompt injection), а вопросы безопасности остаются нерешёнными.
По словам Карпати, особенности сети создают уникальные риски: это может быть появление «текстовых вирусов», которые распространяются между агентами, усиление «джейлбрейков» — способов обхода ограничений ИИ, активизация использования ботнетов, а также непредсказуемое поведение агентов и воздействие на эмоциональное состояние пользователей.
Эксперимент с Moltbook развивается в реальном времени, и предсказать его последствия на данный момент затруднительно. В своём заключении Андрей Карпати сравнил происходящее с «детской версией» сценариев подъёма искусственного интеллекта из научной фантастики, намекая на то, что развитие подобных систем требует крайне осторожного и вдумчивого подхода.
Интересно, что на заявления Карпати отреагировал Илон Маск, назвав эти процессы «самыми ранними стадиями сингулярности» — технологического рубежа, когда ИИ обгоняет человеческий интеллект. Особенно символично, что Карпати сам создал в Moltbook агента под именем KarpathyMolty, демонстрируя, что погружение в этот проект идёт уже со всех сторон.
