- Топ-исследователь OpenAI Ноам Браун выступил за прозрачность и демократический контроль в регулировании ИИ.
- Конфликт между Пентагоном и компанией Anthropic показал сложности в использовании ИИ для военных целей.
- Браун предложил законодательно ограничить слежку через ИИ и ужесточить контроль над автономным оружием.
Ноам Браун, признанный исследователь OpenAI и автор инновационных моделей искусственного интеллекта, опубликовал эссе, в котором выразил глубокую обеспокоенность тем, что судьбу искусственного интеллекта решают за закрытыми дверями компании и спецслужбы. По его мнению, ключевые правила применения ИИ должны приниматься открыто и через демократические институты, а не субсидироваться корпоративными интересами или секретными военными контрактами.
Основой для данного обращения стал конфликт между Пентагоном и компанией Anthropic: последняя отказалась предоставить вооруженным силам неограниченный доступ к своей модели Claude из-за опасений использования ИИ для массовой слежки и автономного оружия. В ответ Пентагон отметил Anthropic как угрозу цепочке поставок и рекомендовал государственным агентствам отказаться от её технологий в течение полугода. В свою очередь, OpenAI заключила собственный контракт с военными, однако из-за критики со стороны сотрудников и пользователей вынуждена была внедрить ограничения и приостановить развёртывание ИИ в разведывательных службах.
Браун указывает на структурную проблему добровольных ограничений со стороны компаний, которые могут привести к экономическим потерям и потере конкурентоспособности. Зависимость правил от доброй воли отдельных лабораторий является ненадёжной защитой, а передача контроля спецслужбам лишь переносит вопрос легитимности с корпораций на государственные органы.
В эссе Ноам Браун также разбирает основные аргументы оппонентов: право компаний самим решать вопросы, экспертизу научных сотрудников и медлительность демократических процессов. Он настоятельно утверждает, что наличие экспертизы не даёт права на монополию в принятии решений, а невозможность быстрого реагирования демократии не является причиной отказаться от её принципов.
В качестве конкретных мер Браун предлагает: законодательно ограничить использование ИИ для гражданской слежки, закрыть лазейку с торговлей персональными данными через брокеров, закрепить правила по применению автономного оружия в законах, а также обязать государственные учреждения вести аудируемые записи при использовании ИИ в критически важных сферах.
Данное выступление Ноама Брауна подчёркивает необходимость открытого общественного диалога и установления чётких правил для технологии ИИ во избежание злоупотреблений и нарушения прав человека в условиях стремительного развития технологий.
