- Международная группа из более 100 экспертов под руководством Ёшуа Бенжио опубликовала второй International AI Safety Report, охватывающий риски ИИ общего назначения.
- В отчёте отмечается, что массовое использование ИИ-инструментов может ослаблять критическое мышление пользователей из-за эффекта автоматизационного предубеждения.
- Оценивается, что около 60% рабочих мест в развитых экономиках и 40% в развивающихся могут быть затронуты ИИ, тогда как глобальные механизмы регулирования технологии отстают от темпов её внедрения.
Международная группа экспертов по искусственному интеллекту, в числе которых лауреат премии Тьюринга Ёшуа Бенжио, представила второй International AI Safety Report — крупнейший на сегодняшний день всесторонний обзор возможностей и угроз ИИ общего назначения. В работе, поддержанной более чем 30 странами, Европейским Союзом, ОЭСР и ООН, подробно рассматриваются как перспективы развития технологии, так и её негативные последствия.
Одним из ключевых выводов доклада является раннее обнаружение тенденции к ослаблению критического мышления у пользователей ИИ. Это связано с явлением, известным как автоматизационное предубеждение — склонностью воспринимать генерируемые ИИ ответы без должной проверки, даже если они содержат ошибки или противоречия. В качестве иллюстрации приводится клиническое исследование, где врачи, применявшие ИИ в колоноскопиях, затем без помощника заметно хуже выявляли опухоли — примерно на 6 процентных пунктов, что указывает на снижение эффективности при отсутствии поддержки ИИ.
Авторы отмечают, что таких исследований пока недостаточно для окончательных выводов и подчеркивают необходимость дальнейшего изучения долгосрочных эффектов внедрения ИИ. В то же время в отчёте рассматривается рост популярности ИИ-компаньонов — чатботов для эмоционального общения, влияние которых на психическое здоровье пользователей имеет противоречивую природу. Некоторые исследования связывают интенсивное пользование такими чатботами с усилением одиночества и снижением живого общения, другие фиксируют нейтральные или положительные эффекты. В отчёте подчеркивается, что пока неясно, при каких условиях ИИ-компаньоны могут способствовать улучшению благополучия.
В целом, эксперты прогнозируют воздействие ИИ общего назначения на значительную часть рынка труда: порядка 60% рабочих мест в развитых странах и около 40% в развивающихся экономиках могут подвергнуться изменениям. При этом системы глобального регулирования и управления рисками отстают от скорости внедрения и масштабов применения технологии, что требует активного внимания со стороны международного сообщества и разработчиков.
Таким образом, представленное исследование поднимает острые вопросы безопасности и этики использования ИИ, акцентируя важность развития механизмов контроля и осознания потенциальных когнитивных последствий для пользователей.
