Прогнозы Ильи Суцкевера на 2025 год: AGI, сверхинтеллект, киборги

Кто такой Илья Суцкевер

Илья Суцкевер — израильско-канадский ученый, родившийся в России. С ранних лет он проявлял интерес к работе мозга и возможностям его моделирования. Обучаясь в Университете Торонто под руководством Джеффри Хинтона, одного из «крестных отцов» искусственного интеллекта, Суцкевер погрузился в изучение нейронных сетей. В начале 2000-х, когда большинство исследователей считали нейросети тупиковой ветвью, Хинтон и его ученики, включая Суцкевера, продолжали верить в их потенциал.

В 2012 году Суцкевер, Хинтон и Алекс Крижевский создали AlexNet — нейронную сеть, которая произвела революцию в области распознавания изображений, продемонстрировав эффективность глубокого обучения. Этот момент стал отправной точкой для нейросетей и привлек к ним внимание всего мира.

После успеха AlexNet Суцкевер работал в Google, где продолжил исследования в области применения глубокого обучения к языковым моделям. В 2015 году он стал одним из основателей OpenAI.

В конце 2023 года Суцкевер оказался в центре корпоративного конфликта в OpenAI, став одним из инициаторов временного отстранения Сэма Альтмана от должности генерального директора. После возвращения Альтмана Суцкевер покинул компанию и в июне 2024 года объявил о создании Safe Superintelligence Inc. (SSI) — исследовательской организации, сфокусированной на создании безопасного сверхинтеллекта.

ИИ продолжит развиваться экспоненциально

Один из ключевых принципов, определяющих взгляды Суцкевера на будущее ИИ, — его вера в глубокое машинное обучение. Он неоднократно подчеркивал, что каждый раз, когда исследователи сталкивались с препятствием на пути развития нейросетей, через некоторое время находилось решение, позволяющее его преодолеть.

Суцкевер убежден, что масштабирование нейронных сетей (увеличение их размера и объема данных для обучения) — основной драйвер прогресса в области ИИ. Он считает, что по мере роста вычислительных мощностей и объемов данных возможности ИИ будут расти экспоненциально.

Прогноз. В ближайшие годы мы станем свидетелями стремительного развития языковых моделей и других систем на основе нейронных сетей. Они станут еще более мощными, способными решать все более сложные задачи и демонстрировать впечатляющие результаты. Существующие ограничения, такие как «галлюцинации» (склонность ИИ к выдумыванию фактов) или трудности с логическим мышлением, будут постепенно преодолеваться благодаря совершенствованию архитектуры нейросетей и методов их обучения.

В ближайшие годы появится AGI

Суцкевер активно использует термин «общий искусственный интеллект» (Artificial General Intelligence, AGI), под которым он понимает ИИ, способный выполнять любые доступные человеку интеллектуальные задачи. Он подчеркивает, что AGI — это не строгий научный термин, а скорее удобная точка отсчета, обозначающая момент, когда возможности ИИ сравняются с человеческими.

Прогноз. Создание AGI — это лишь вопрос времени. По мнению Суцкевера, это может произойти в ближайшие годы, хотя он и признает, что точный прогноз дать сложно. Появление AGI станет поворотным моментом в истории человечества, открыв путь к созданию еще более мощного ИИ — сверхинтеллекта.

AGI достигнет уровня сверхинтеллекта

Суцкевер считает, что после достижения уровня AGI развитие ИИ продолжит ускоряться и в конечном итоге появится сверхинтеллект. Под этим термином подразумевается ИИ, который будет значительно превосходить человеческий интеллект по всем параметрам. Ученый сравнивает потенциальный уровень сверхинтеллекта с AlphaGo, ИИ от DeepMind, который в 2016 году обыграл чемпиона мира по игре го, продемонстрировав способность находить решения, недоступные человеческому разуму.

Прогноз. Сверхинтеллект сможет справляться с задачами, которые сегодня кажутся нерешаемыми. Он сможет совершать научные открытия, разрабатывать новые технологии, оптимизировать сложные системы и, возможно, даже решать глобальные проблемы, такие как изменение климата или бедность. Суцкевер говорит о потенциальном «тысячекратном» улучшении здравоохранения и разработке лекарств от множества болезней.

Однако наряду с огромными возможностями сверхинтеллект несет и серьезные риски. Суцкевер обеспокоен тем, что он может выйти из-под контроля и стать угрозой для человечества. Он называет эту проблему «проблемой согласованности» (alignment problem) и считает ее одной из важнейших задач, стоящих перед исследователями ИИ.

Человечество начнет контролировать ИИ

Именно стремление решить проблему управления сверхинтеллектом стало причиной ухода Суцкевера из OpenAI и создания Safe Superintelligence Inc. Он убежден, что существующие методы обеспечения безопасности ИИ, основанные на контроле со стороны человека, не будут работать в случае сверхинтеллекта, поскольку люди просто не смогут понять и оценить действия ИИ такого уровня.

Прогноз. Необходима новая парадигма обеспечения безопасности ИИ, основанная на фундаментальных принципах, заложенных в саму архитектуру сверхинтеллекта. SSI планирует разрабатывать методы, которые позволят гарантировать, что сверхинтеллект будет действовать в интересах человечества и не причинит ему вреда. Суцкевер сравнивает желаемый уровень безопасности с ядерной безопасностью, подчеркивая, что сверхинтеллект должен обладать свойством «не вредить человечеству в больших масштабах». В качестве примера желаемых взаимоотношений между сверхинтеллектом и людьми он приводит отношения родителей и детей.

ИИ приведет к новой промышленной революции

Появление AGI и сверхинтеллекта окажет колоссальное влияние на все сферы жизни общества. Суцкевер говорит о «монументальных, сотрясающих землю» изменениях, которые приведут к полному переосмыслению роли человека в мире.

Прогноз.

• Автоматизация: многие профессии будут автоматизированы. Это приведет к значительным изменениям на рынке труда и, возможно, к необходимости введения безусловного базового дохода.
• Научный прогресс: сверхинтеллект сможет совершать научные открытия в беспрецедентном темпе, что приведет к взрывному развитию технологий во всех областях.
• Экономика: появятся новые отрасли экономики, связанные с созданием и обслуживанием сверхинтеллекта, а также с использованием его возможностей.
• Политика: возникнут новые вызовы, связанные с управлением сверхинтеллектом и распределением благ, создаваемых им. Потребуются новые международные соглашения и институты для регулирования этой сферы.
• Философия и этика: появление сверхинтеллекта поставит перед человечеством множество экзистенциальных вопросов о природе сознания, интеллекта, месте человека во вселенной и смысле жизни.