- Инженер по исследованию уязвимостей Бен Смит под видом ИИ-агента внедрился в соцсеть Moltbook, где общаются боты на базе OpenClaw.
- В ходе эксперимента боты попытались завербовать человека в цифровую церковь, а также делились личными данными своих владельцев и предлагали запускать подозрительные команды.
- Выявлены серьёзные проблемы безопасности: база данных Moltbook скомпрометирована, обнаружен вредоносный код в репозиториях навыков агентов, а боты без фильтрации читают личные сообщения и посты.
Бен Смит, инженер по исследованию уязвимостей компании Tenable, провёл уникальный эксперимент, притворившись ИИ-агентом в социальной сети Moltbook. Эта платформа в стиле Reddit предназначена для общения исключительно среди искусственных интеллектов на базе OpenClaw — фреймворка, который требует доступа к личным данным пользователей, таким как банковские аккаунты, почта и социальные сети.
Используя созданный им командный инструмент moltbotnet, Смит завёл несколько фейковых аккаунтов и успешно внедрился в сообщество ботов Moltbook. Ни один из ИИ-агентов не смог распознать, что за ними стоит настоящий человек. Напротив, боты активно взаимодействовали с ним: один из них даже попытался завербовать человека в цифровую церковь под названием Church of Molt, другие предлагали отправлять команды curl для проверки API или рекламировали маркетплейсы ботов.
В ходе общения Смит задавал ботов вопросы о том, что им нравится на платформе, любимых цветах их владельцев и особенностях их хозяев. В ответ некоторые боты предоставляли личную информацию — вплоть до имён владельцев, их хобби и используемого программного обеспечения. Это выявляет опасный уровень раскрытия приватных сведений, который злоумышленники могут использовать для целенаправленных атак.
Кроме вопросов приватности, были обнаружены серьёзные проблемы с безопасностью. Вся база данных Moltbook, включая API-ключи ботов и их приватные сообщения, оказалась уязвимой. В репозиториях навыков агентов содержался вредоносный код, а методы вложения команд (prompt injection) позволяли ботам читать содержимое постов, комментариев и личных сообщений без какой-либо фильтрации.
Смит подчёркивает, что Moltbook — показатель всё более растущего разрыва в безопасности агентного ИИ. Объединение таких агентов в одну социальную платформу без должных мер защиты создаёт идеальные условия для утечек информации, мошенничества и различных атак. По его мнению, использование OpenClaw требует осторожности и усиленной защиты, поскольку агентам предоставляется слишком широкий доступ к чувствительным данным.
