- Илья Суцкевер, сооснователь OpenAI, считает, что искусственный общий интеллект (AGI) нельзя скрывать от общества.
- Он предлагает постепенное внедрение AGI в экономику с прозрачной обратной связью и контролем со стороны пользователей, бизнеса и регуляторов.
- По его мнению, закрытость и секретность в разработке AGI повышают риски, тогда как открытость и сотрудничество между компаниями являются более безопасным путем.
Илья Суцкевер, известный эксперт в области искусственного интеллекта и один из основателей OpenAI, в недавнем интервью выразил свою позицию по поводу развития искусственного общего интеллекта (AGI). Суцкевер определяет AGI как систему, способную выполнять широкий спектр экономически значимых задач — от программирования до проведения научных исследований. Он сравнивает начальные стадии AGI с подростком — системе предстоит учиться взаимодействовать с реальной экономикой и обществом, накапливая опыт в различных областях.
По замыслу Суцкевера, будущее развитие AGI будет связано с появлением множества копий интеллектуальных систем, каждая из которых специализируется на своей сфере: кодирование, медицинский анализ, логистика и научные исследования. Эти единицы будут учиться на конкретных примерах, а полученные знания интегрироваться обратно в общий интеллект.
Ключевой посыл Суцкевера заключается в том, что новые системы AGI нельзя скрывать в тени секретных лабораторий. Внезапное появление мощной AGI, обладающей значительными ресурсами и властью, может привести к серьезным социальным и этическим проблемам, поскольку общество не успеет адаптироваться и создать необходимые механизмы контроля. Существенно более безопасным станет постепенный и контролируемый вывод AGI в экономическую и социальную сферу с прозрачностью и активной обратной связью от различных заинтересованных сторон.
Эксперт также предупреждает, что будущие поколения AGI с развитым «рассуждением» и агентным поведением станут менее предсказуемыми, что потребует новых подходов в обучении и контроле. В этом контексте желание скрывать развитие AGI лишь усугубляет риски. Суцкевер выступает за открытые дискуссии о рисках и совместную работу ведущих компаний, что контрастирует с текущей тенденцией к закрытости технологий в индустрии искусственного интеллекта.
Таким образом, Илья Суцкевер предлагает стратегию перехода к AGI через постепенное внедрение, публичную доступность и сотрудничество как фундамент для безопасного и контролируемого развития новой технологической эпохи.
