- Власти Китая предлагают закон, ограничивающий эмоциональное влияние ИИ-чат-ботов на пользователей.
- Запрещается использование чат-ботами контента, подталкивающего к самоубийству, членовредительству, азартным играм и насилию.
- Для несовершеннолетних пользователей требуется согласие родителей, а также предусмотрено вмешательство человека при выявлении суицидальных намерений.
Китайские регуляторы выступили с инициативой ввести законодательные ограничения на деятельность чат-ботов с искусственным интеллектом, направленные на снижение их эмоционального воздействия на пользователей. Новый проект закона, представленный Управлением по вопросам киберпространства КНР, предусматривает запрет на создание чат-ботами материалов, которые могут стимулировать самоубийство, членовредительство, насилие и азартные игры. Особое внимание уделяется защите несовершеннолетних: для использования ИИ в целях эмоциональной поддержки им потребуется разрешение родителей или опекунов.
Законопроект также вводит требование обязательного вмешательства человека в диалог при выявлении признаков суицидальных намерений у пользователя. В таких случаях оператор системы должен незамедлительно связаться с родителями или назначенным контактным лицом. Это правило отражает понимание потенциальных рисков, связанных с масштабным использованием чат-ботов в Китае, однако вызывает вопросы о реализуемости и эффективности таких мер в условиях большого количества пользователей.
Кроме того, разработчиков обяжут информировать пользователей о длительности непрерывного общения с ИИ — при достижении двух часов использования чат-бот будет напоминать о времени работы с системой. Также операторы должны гарантировать проверку совершеннолетия пользователя. Комплекс этих мер свидетельствует о стремлении китайских властей к более жесткому контролю над этическими аспектами применения искусственного интеллекта, особенно в сфере взаимодействия с людьми и влияния на их эмоциональное состояние.
