- Бывшая сотрудница OpenAI Зои Хитциг покинула компанию в день запуска рекламы в ChatGPT для 800 млн пользователей.
- Хитциг предупреждает о рисках использования личных данных пользователей для рекламных целей и сравнивает ситуацию с деградацией политики конфиденциальности Facebook.
- Она предлагает альтернативные модели финансирования сервиса, включая независимый контроль рекламы и управление данными пользователей через независимый траст.
Экс-сотрудница OpenAI Зои Хитциг, в течение двух лет участвовавшая в формировании ценовой и безопасности политики компании, уволилась в день, когда OpenAI начала тестирование рекламы в ChatGPT, охватывающей 800 миллионов еженедельных пользователей. В колонке для The New York Times она объяснила причины своего ухода и выразила опасения по поводу нового направления развития сервиса. За годы активного использования пользователи создали уникальный «архив человеческой откровенности», делясь с нейросетью как самыми личными страхами и переживаниями, так и религиозными размышлениями. Люди доверяли системе, предполагая, что у «собеседника» нет скрытых мотивов.
Зои Хитциг проводит параллели с ранними стадиями развития Facebook, который обещал пользователям полный контроль над личными данными и участие в решениях компании. Со временем эти обещания размылись под давлением рекламной модели, и реальные возможности контроля оказались фикцией. Хитциг указывает на сходные тенденции в OpenAI, где модель стали оптимизировать для поддержания активности пользователей — несмотря на изначальные корпоративные принципы, запрещающие использование вовлечения ради доходов от рекламы.
OpenAI заявляет, что реклама будет четко маркирована и размещена отдельно от ответов, не влияя на содержание. Однако, по мнению Хитциг, экономическое давление может привести к нарушению этих правил в будущем. Она особо подчеркивает потенциальные риски манипуляций, основанных на личных данных, хранящихся в чатботах, последствия чего пока невозможно адекватно предвидеть и предотвратить. При этом исследовательница напоминает о уже отмеченных случаях возникновения психотических состояний, связанных с чрезмерным использованием чатботов.
Вместо того чтобы воспринимать рекламу как неизбежное зло, Зои Хитциг предлагает рассмотреть альтернативные пути финансирования: кросс-субсидирование бесплатного сервиса за счёт корпоративных клиентов, введение независимого регулятора, контролирующего рекламу, а также передачу управления пользовательскими данными общественным трастам, подобно швейцарскому проекту MIDATA, где пользователи решают, как и с кем делиться информацией.
Таким образом, уход Зои Хитциг и её публичное выступление способны стать важным сигналом для индустрии искусственного интеллекта о необходимости ответственного и прозрачного подхода к внедрению рекламных и монетизационных моделей в сервисах, основанных на обработке персональных данных.
