Искусственный интеллект не просто популярная технология. Он меняет образ жизни людей, восприятие мира, основы мировоззрения и этики. О метафизике искусственного интеллекта и его влиянии на будущее беседуют эксперты — доктор физико-математических наук, профессор факультета ВМК МГУ Василий Фомичев и доктор технических наук, президент ГК «Максима» Борис Вольпе.
— Что мешает создать сильный искусственный интеллект?
Василий Фомичев: Мы живем в период пика развития искусственного интеллекта, наивысшего за всю историю человечества. ИИ переживает сегодня классическую «фазу хайпа» в трактовке Gartner. Изменения в образовании и восприятии информации, которые несет ИИ, можно сравнить с революцией книгопечатания.
Ожидается, что следующей знаковой вершиной на этом пути должно стать создание AGI — общего, или так называемого сильного, искусственного интеллекта. Однако сегодня многие ученые, руководствуясь своим пониманием алгоритмов и математическими теоремами, высказывают сомнения в том, что даже на самой мощной вычислительной технике можно будет достичь истинного самосознания ИИ, сравнимого с человеческим.
Подход к определению общего ИИ и его возможностей скорее связан с философскими и религиозными категориями, такими как понятие человеческого сознания и свободы воли. Сегодня многие разработчики технологий искусственного интеллекта имеют фундаментальное образование в математике, что порождает вопросы о правильности направления их исследований по общему, или сильному, ИИ. Возможно ли достичь AGI, опираясь только на математику?
Исторически сложилось так, что науки, такие как физика и химия, становились более продвинутыми, когда они начинали использовать математическое описание. Этот переход позволил предсказать и моделировать явления, например химические свойства и полеты ракет, без необходимости экспериментирования. Математика не универсальное решение, а язык науки, позволяющий формулировать регулярные описания процессов в различных областях. Этот аппарат дает возможность создавать алгоритмы для предсказаний.
Прогресс в области искусственного интеллекта связан с переводом явлений из социальной, человеческой сферы на математический язык. Формализация, например, человеческих отношений, социальных взаимодействий и языковых процессов порождает наблюдаемые сейчас инновации. Однако ключевую роль играет не сама математика, а способность перевести разные области знания на математический язык. Поэтому на пути развития сильного ИИ возникают философские дилеммы.
Борис Вольпе: Искусственный интеллект как концепция уходит корнями в далекое прошлое, начиная с первых алгоритмов математика Эйлера. График развития ИИ напоминает волнообразную кривую, с периодами роста и затухания. Всплески активности в развитии обычно связаны либо с новыми алгоритмами, либо с усовершенствованием вычислительной техники. Однако после каждого такого всплеска наступает период стагнации, называемый «зимой искусственного интеллекта». Интервалы между этими периодами активности и стагнации сокращаются, что указывает на ускорение темпов развития в этой области.
Когда наступает предел и технологии словно упираются в потолок, мыслительная активность человечества начинает работать с новой силой: «А как бы эти ограничения преодолеть?» Человечество показало свою способность преодолевать все на свете, поэтому любая такая «зима» в отношении ИИ ранее преодолевалась.
Развитие ИИ неразрывно связано с пониманием человеческого мозга, которое долгое время служило отправной точкой для разработчиков. Хотя специалисты активно занимаются психофизиологическими аспектами и происхождением знаний, многие вопросы до сих пор остаются без ответа. Профессор Д.И. Дубровский из МГУ в 1970-х годах подчеркнул идею о том, что информация может существовать независимо от своего физического носителя. Также в МГУ активно исследовались нейродинамические системы под руководством академика К.А. Анохина.
Перед нами продолжает стоять основной вопрос: может ли один человек или группа специалистов иметь достаточно широкий мировоззренческий охват, чтобы представить себе целевой объект — то есть AGI? Необходимо понимание не только в области математики, но и философии, теории познания, нейродинамики. Это подчеркивает сложность задачи перед разработчиками искусственного интеллекта и то, насколько для них важно иметь многогранное образование.
Я, например, не верю, что искусственный интеллект сам сможет создать AGI, — ведь и калькулятор не стал компьютером. Хотя в семидесятые, когда калькуляторы стали выпускаться массово, в Америке проходили шествия учителей, пугавших население тем, что эти новые машины уничтожат учебный процесс, а ученики потеряют способность считать и мыслить. Типичный пик хайпа! Калькуляторы, к счастью, мир не захватили, хотя они считают лучше, чем любой человек.
— Что лежит за пределами технологии?
В.Ф: Вопрос о природе сознания волнует ученых и философов испокон веков. Сравнивая изучение мозга с наблюдением за работой компьютера, можно сделать вывод, что попытка анализировать электрическую активность нейронов аналогична попытке понимания логики компьютера через наблюдение за его электрическими сигналами. Изучая только физические процессы в мозге, сложно понять логику мышления или сущность сознания.
И хотя современные технологии позволяют нам анализировать и воспроизводить речевые модели, превращая их в голосовых помощников, саму душу и чувства в математические модели пока перевести нельзя. Таким образом, понимание работы мозга требует не только физиологического, но и философского подхода. Да, мы научились эмулировать эмоции у машин. Но что такое сами эмоции, как их оцифровать — неясно. То есть их природа ясна для специалистов в области психологии, философии, религиоведения, биологии — но как соединить все эти трактовки в одной теории и создать цифровой аналог, никто не знает. А без этого нельзя полностью понять, что такое человеческий интеллект, а значит, нельзя создать и подлинный искусственный интеллект, тот самый AGI.
Б.В: Теории академика К.А. Анохина и профессора Д.И. Дубровского рассматривают трехуровневую структуру интеллекта: физический субстрат (нейроны или процессоры), сеть (так называемый коннектом, или системы вычислений в компьютере) и метауровень — когнитом, на котором возможно формирование субъективного опыта или разума.
При этом механизм перехода от простых нейронных сетей к сложным когнитивным обобщениям и моделям, которые формируют личность, остается неясным. Также вызывает интерес вопрос о наличии субъективного опыта у разных живых существ и исследование генезиса этого опыта. Неясно, сможем ли мы понять эти процессы при помощи математики или других научных методов.
В.Ф: В советские времена акцентировали внимание на концепции перехода количества в качество. Однако существует ли действительно такой момент, когда нарастание количественных изменений на двух начальных уровнях порождает возникновение третьего уровня?
Теоретически это возможно, однако существует предположение о наличии высшего, пока скрытого от нас уровня, где каждый новый уровень делится еще и на подуровни. Также актуален философский вопрос о свободе воли человека. Несмотря на то, что наши тела подчиняются биохимическим реакциям, у нас есть чувство свободного выбора в действиях, что указывает на возможное воздействие внешних, нефизических факторов на наш мир.
Б.В: Сейчас ведутся научные дискуссии о теории изоморфизма нейросетей мозга и Вселенной. Ученые предлагают аналогию между Солнечной системой и атомами, где Солнце выступает в роли ядра, а планеты напоминают электроны. Эти идеи приводят к общей теории поля и корпускулярно-волновым переходам.
Однако загадка сознания и его происхождения из более низких структур до сих пор остается неразгаданной. Возможно, происхождение сознания связано с эволюцией: когда многоклеточные организмы становились все более сложными, возможно, возникла метасистема для управления ими, часть которой была бы автономной, а часть — предоставлена сознанию.
В.Ф: Актуален также вопрос о двух уровнях интеллекта в человеке. Первый, базовый уровень, отвечает за рефлекторные функции, такие как дыхание и движение, которые технологии искусственного интеллекта уже успешно воспроизводят. Однако второй, мыслительный уровень, остается недоступным для технологий. Таким образом, современный ИИ пока способен лишь замещать базовые функции человека.
Б.В: В эксперименте британских ученых обезьянке по имени Хелен был удален ее высший зрительный тракт, а оставлен был лишь низший, биологический. Хотя Хелен продолжала видеть и реагировать на базовые зрительные стимулы, она перестала осмысливать их эмоционально. Этот факт указывает на наличие резервирования зрительных трактов и возможность функционирования только с низшим трактом. Однако при этом в результате опыта у обезьяны заметно снизился интеллектуальный уровень.
В.Ф: В перспективе эти наблюдения могут привести к прорыву в понимании нейродинамических систем и последующему описанию их с помощью математики, что в итоге может быть применено в создании искусственных систем.
Тем не менее у многих экспертов — и у меня в том числе — существует представление, что роботы и искусственный интеллект текущего поколения могут многое оптимизировать, но не способны к революционным прорывам, требующим субъективного опыта и эмоций. И хотя существуют технологии autoML, способные самостоятельно оптимизировать архитектуры нейронных сетей, подобные «революционные скачки» вряд ли доступны современным системам ИИ.
— Как искусственный интеллект меняет способности человека?
Б.В: На сегодняшний день лучшие модели в области искусственного интеллекта — это языковые модели. Они способны алгоритмизировать язык — производное явление человеческой, а не машинной деятельности. Примером может служить возможность заказать у ChatGPT стихи в определенном стиле. Но такие системы ограничиваются лишь речевой моделью. Настоящий интеллект использует различные органы чувств, включая зрительное и тактильное восприятие.
Возможно, настоящий прорыв в области создания AGI придет тогда, когда системы начнут чувствовать, выходить за рамки простого интернета вещей. Ключевое значение может иметь способность системы к накоплению человеческого опыта восприятия, включая эмоции и воспоминания. Если системы научатся постоянно улавливать, сохранять и обрабатывать наши психологические воспоминания, они могут стать более совершенными, чем современные модели, основанные на фиксированных дата-сетах.
В.Ф: В современном мире люди по-разному воспринимают искусственный интеллект, при этом ключевое значение сохраняется за человеческим фактором. Особенностью нового поколения студентов является их стремление искать готовые решения задач, используя доступные хранилища информации, вместо того чтобы самостоятельно разбираться в проблеме.
Если 20, 30 или даже 40 лет назад школьникам или студентам ставилась задача — неважно, математическая или нет, они пытались ее решить. А сейчас в аналогичной ситуации они пытаются найти решение среди готовых. Причем искать верные решения они умеют очень качественно и быстро, тратя усилия на то, чтобы просмотреть огромные объемы релевантной информации.
Современное образование старается обучить студентов накоплению знаний и навыков поиска информации. Ключевой момент — настройка баланса между классическими методами обучения и современными технологическими средствами. Например, несмотря на наличие калькуляторов и мобильных устройств, школьникам все еще важно учиться считать столбиком для понимания основ математики. Однако количество практических заданий, таких как решение квадратных уравнений, следует оптимизировать, чтобы ученики ощущали глубинный смысл материала, а не механически решали задачи.
В МГУ на факультете вычислительной математики и кибернетики акцентируется внимание на фундаментальности образования, несмотря на критику в адрес излишнего углубления в математический анализ, алгебру и доказательства теорем. Этот подход объясняется стремлением формировать у студентов правильное алгоритмическое мышление. Необходимо, чтобы будущие специалисты понимали разницу между доказанным и просто правдоподобным, осознавали границы и надежность своих алгоритмов.
Такое понимание позволяет программистам видеть возможные проблемы в реализованных решениях, уметь правильно тестировать программы и осознавать, что может идти неверно. Фундаментальное обучение на базе классических математических дисциплин считается ключевым элементом для формирования такого мышления, особенно на начальных этапах бакалавриата.
Обеспечивать актуальность и профессионализм выпускников в мире, где технологии быстро меняются, — сложная задача для образовательных учреждений. Многие студенты стремятся к изучению популярных языков программирования и технологий, чтобы быстро интегрироваться в рынок труда. Однако эти навыки релевантны лишь несколько лет, после чего технологии могут измениться.
В ответ на эту проблему некоторые учебные заведения, несмотря на обвинения в консерватизме, делают акцент на фундаментальной подготовке. Этот подход нацелен на обучение студентов основам, позволяющим адаптироваться к любым изменениям в течение длительной карьеры. Таким образом, они могут освоить различные языки и парадигмы, которые появятся в будущем. Например, введение курсов по машинному и глубокому обучению предоставляет студентам не просто практические навыки, но и глубокое понимание математического аппарата, стоящего за этими технологиями.
Такой подход может привести к тому, что выпускники начинают свою карьеру, не имея полного знания о конкретных системах, используемых на работе. Однако благодаря фундаментальной подготовке они способны быстро адаптироваться к новым условиям.
Б.В: В образовательной среде активно обсуждают динамику соотношения знаний и навыков. Прошлые представления о том, что успешность в определенных профессиях зависит исключительно от практического опыта, уже не так актуальны.
Примером служат молодые программисты, которые могут создавать успешные продукты без глубоких теоретических знаний в математике или других науках. Однако вопрос о том, что важнее — практические навыки или фундаментальные знания, остается открытым. На практике потребность в специалистах разного уровня очевидна.
Простые приложения или игры могут создаваться на основе базовых навыков, в то время как сложные проекты, такие как языковые модели или системы автоматизированного проектирования, требуют глубоких знаний и опыта. Поиск баланса между навыками и знаниями — задача, которую нельзя решить универсальным рецептом. Водораздел в подготовке специалистов лежит не только в комплексности, но и в глубине знаний. При этом есть отчетливое разделение между теми, кто создает простые продукты, и теми, кто разрабатывает сложные инструменты.
Первые могут обучаться через простые подготовительные курсы или видеоматериалы, в то время как вторым требуются фундаментальные образовательные программы в университетах. Вопрос подготовки специалистов стоит особенно остро для крупных IT-компаний, таких как «Яндекс», «Сбер», VK и другие.
Поэтому все чаще будут появляться проекты, подобные нашему спецкурсу «Методы искусственного интеллекта в теории управления» на факультете ВМК МГУ — с фокусом для старшекурсников, уже знакомых с теорией вероятности и математической статистикой. Мы обучаем алгоритмам оптимального управления, нечеткой логике, созданию нейронных сетей — дисциплинам, усиливающим компетенции специалиста в сфере ИИ. Правильный баланс между навыками и фундаментальными знаниями позволит готовить специалистов, способных работать в профессии на протяжении десятилетий.