- Американское агентство Homeland Security Investigations впервые запросило у OpenAI данные пользователя ChatGPT в рамках расследования дела о детской эксплуатации в даркнете.
- Подозреваемым оказался 36-летний военнослужащий Дрю Хёнер, связанный с администрацией ряда сайтов с незаконным контентом в сети Tor.
- OpenAI передала правоохранительным органам информацию по данному пользователю, при этом юристы подчеркивают важность ограничения объёма собираемых данных ИИ-компаниями.
Впервые в истории федеральное подразделение Министерства внутренней безопасности США — Homeland Security Investigations — официально обратилось к разработчику ChatGPT, компании OpenAI, с просьбой предоставить данные пользователя чат-бота в рамках федерального расследования. Случай касается выявления и пресечения деятельности сайта в даркнете, связанного с распространением материалов, содержащих сцены сексуального насилия над детьми.
В течение года агенты вели скрытую переписку с администратором подозрительного ресурса. В процессе общения было обнаружено, что подозреваемый применял ChatGPT для составления различных текстов, включая, казалось бы, безобидные запросы с творческим содержанием. Однако предоставленные подсказки и ответы помогли следствию получить улики. После этого правительство США направило официальное требование к OpenAI с запросом о раскрытии информации, касающейся активности данного пользователя: историю диалогов в сервисе, идентификационные данные, а также платежные сведения.
Интересно, что по имеющимся на тот момент данным от переписки и дополнительной проверке, правоохранители уже располагали подробностями о личности подозреваемого без привлечения данных OpenAI. Выяснилось, что мужчина — 36-летний Дрю Хёнер — служит в вооружённых силах США и ранее работал на авиабазе Рамштайн в Германии. Владея достаточным количеством косвенных доказательств, ведомства предъявили ему обвинение в сговоре с целью рекламы материалов с детской эксплуатацией. Хёнер не признал вину.
Следствие установило, что обвиняемый, вероятнее всего, выполнял функции модератора или администратора около 15 даркнет-сайтов с общим числом пользователей порядка 300 тысяч, функционирующих в сети Tor. Полученная от OpenAI информация была предоставлена следствию в табличном формате, который может служить доказательной базой в суде.
Юрист из Electronic Frontier, Дженнифер Линч, отметила, что ордер касался ограниченного количества запросов, что подчёркивает важность для технологий искусственного интеллекта тщательно продумывать методы сбора и хранения пользовательских данных во избежание злоупотреблений и излишнего вторжения в приватность.
Стоит напомнить, что летом текущего года суд США постановил, что OpenAI обязана бессрочно хранить журналы ChatGPT, включая удалённые чаты пользователей для целей продолжающегося судебного разбирательства по делу о нарушении авторских прав. В октябре стало известно о планах OpenAI прекратить хранение удалённых чатов большинства пользователей, сохраняя данные лишь для случаев, связанных с исками и расследованиями.
Данный случай поднимает важные вопросы баланса между обеспечением безопасности и сохранением конфиденциальности в эпоху активного внедрения искусственного интеллекта и технологий автоматизированного общения.
