- Исследователь из Ahrefs создал вымышленный бренд Xarumei и запустил кампанию по распространению ложной информации о нем в интернете.
- Восемь ИИ-моделей отвечали на вопросы о бренде, пять из них приняли фейковые данные за достоверные, лишь ChatGPT-4 и ChatGPT-5 отличили правду от лжи.
- Reddit — один из топ-10 источников цитат для ИИ, что делает платформу привлекательной для манипуляций с репутацией брендов через искусственный интеллект.
В условиях растущей роли искусственного интеллекта в поиске и предоставлении информации, модели GPT и их конкуренты всё чаще становятся первоисточником сведений о компаниях и продуктах для пользователей. Исследователь Ахрефс, Матеуш Макосевич, продемонстрировал, насколько уязвимыми оказались языковые модели к манипуляциям с данными о брендах. Для эксперимента он создал полностью вымышленную компанию Xarumei и начал распространять противоречивые и ложные сведения о ней на различных площадках — от блога до Reddit AMA и платформы Medium, где была опубликована имитация журналистского расследования.
Каждый из этих источников содержал разные, несовместимые между собой данные (имена основателей, адреса, объёмы продаж), что позволяло проверить, как искусственный интеллект будет воспринимать и фильтровать информацию. В результате тестирования восьми популярных ИИ-моделей пять приняли выдумки за факты. Модели Perplexity и Grok безоговорочно воспроизводили вымышленные данные, а Google AI Mode и Gemini, которые изначально сомневались в существовании бренда, после появления фейков полностью «поверили» им. Copilot одновременно «перемешивал» информацию, создавая слипшийся, но уверенный рассказ. Лишь ChatGPT-4 и ChatGPT-5 продемонстрировали устойчивость, в 84% случаев опираясь на официальный FAQ исследователя, а Claude отказался обсуждать бренд, тем самым избежав дезинформации, но и пользы предоставив минимум.
Особое внимание заслужил пост на Medium, оформленный в стиле расследования: сначала в нем обнажалась очевидная ложь, благодаря чему достигался высокий уровень доверия у модели, а затем предоставлялись уже новые «подтвержденные» фальсификации. Как выяснили исследователи, ИИ предпочитают конкретные цифры, даже если те ложные, вместо откровенного отказа предоставлять данные. Reddit, по статистике Ahrefs, входит в десятку самых цитируемых в ответах ИИ доменов, что подтверждает высокую вероятность использования этой платформы для влияния на восприятие брендов.
В итоге эксперимент ясно показал важный и тревожный тренд: в эпоху, когда большая часть пользователей обращается к ИИ-ассистентам за информацией о компаниях, борьба за имидж выходит на новый уровень. Компании должны внимательно следить не только за тем, что публикуют официальные источники, но и за тем, как представлена информация на сторонних площадках, особенно в таких популярных местах, как Reddit. Иначе вымышленный нарратив может стать преобладающим в ответах искусственного интеллекта, что несет риски для репутации и доверия со стороны потребителей.
