Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Слабости сильного ИИ

— Что такое искусственный интеллект? Какое определение кажется вам наиболее актуальным?

— Искусственный интеллект — это по большому счету машина, которая может заменить собой человека. В зависимости от того, насколько хорошо она может это делать, различают понятия узкого (слабого) и общего (сильного) ИИ.

Узкий искусственный интеллект — это когда машина сильна в какой-нибудь одной задаче. Например, в игре в шахматы, сочинении поэм или рисовании картин.

Общий искусственный интеллект уже предполагает искусственные личности со свободой воли. При этом интеллект у них может быть в чем-то скромнее, а в чем-то сильнее человеческого. Пример общего ИИ был в тесте Тьюринга, когда собеседник должен был понять, общается он с машиной или человеком.

Сейчас мы все еще имеем дело со слабым ИИ. Но основные деньги вкладываются в сильный. Такие компании, как DeepMind или OpenAI, вывесили на флаг развитие сильного искусственного интеллекта. Три года назад обе компании оценивались в $30 млрд. Сегодня OpenAI стоит более $80 млрд (DeepMind стала структурным подразделением Google и не имеет актуальной оценки). Такие высокие оценки говорят о том, что мы недалеки от того дня, когда появится общий искусственный интеллект. То есть концепция уже понятна, речь идет лишь о том, как ее реализовать.

— Это тот самый сильный ИИ, против которого выступает Илон Маск?

— Да, при этом сам он открывает компанию, которая будет заниматься ровно тем же.

Последняя версия GPT-4 действительно произвела некий фурор вперемешку с истерией. Ведь если по степени понимания собеседника предыдущая модель нейросети соответствовала уровню девятилетнего ребенка, то модель GPT-4 уже достигла уровня понимания взрослого человека. С ней можно разговаривать: она понимает и вас, и себя. Это уже совсем новое качество.

Про общий интеллект говорили уже очень давно, но считалось, что он появится где-то после 2040 года. То есть все рассчитывали, что это будет лет через 20. А сейчас выясняется, что это будет года через два. И с момента выхода GPT-4 стало понятно, что этот инструмент можно будет использовать и во благо, и для разрушения. Такая модель может втереться в доверие к человеку и уговорить его принять любую, например политическую, концепцию. Тогда ИИ становится очень мощным политическим оружием.

Возможно, те выборы, которые мы с вами застанем в ближайшее время, — последнее политическое событие, которое проходит без участия ИИ.

— Можно ли как-то сдерживать этот процесс?

— Ответа пока никто не знает. Важное событие в этом контексте — это подписание в конце марта 2023 года более чем тысячей технических экспертов и ученых открытого письма против слишком быстрого развития искусственного интеллекта. В общих словах, там говорилось о том, что надо замедлить темпы разработок и вникнуть в этические проблемы, связанные с ИИ.

Притормозить эти процессы, конечно, уже не получится, но этические вопросы, надо сказать, начинают обсуждаться. Например, в начале сентября 2023 года в конгрессе США состоялся форум, куда пришли IT-предприниматели с общим состоянием более $500 млрд. Ключевой вопрос, который там обсуждался, касался как раз смягчения рисков развития ИИ. Сейчас такие встречи между политиками и лидерами технологических компаний будут все более регулярными.

Человеческий мозг и искусственный интеллект

— Можем ли мы допустить, что человеческая психика и искусственная психика в какой-то момент будут изоморфны друг другу, то есть похожи?

— В некотором смысле нейросеть — это и есть низкоуровневая модель нейросетей мозга. Там тоже действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такие же.

В общем-то, моя научная программа про то, чтобы создать искусственную психику с архитектурой человеческого мозга. Во-первых, потому что у нас как у биологических существ есть чему поучиться. А во-вторых, чем ближе архитектуры, тем ближе мышление. И соответственно, нам будет легче понять друг друга. А это очень важно.

— Поможет ли это лучшему пониманию того, что происходит в нашем мозгу?

— Если мы что-то моделируем, то мы это и познаем. Или, как говорил нобелевский лауреат по физике Ричард Фейнман, «если я не могу что-то воссоздать, значит, я этого не понимаю». Так что да, поможет. Я считаю, что ИИ — это главная наука XXI века. Мы делаем рывок в понимании природы, аналогичный тому, который совершали ученые в XVII веке — во времена Ньютона и Лейбница. Сейчас начнут развиваться точные науки о мышлении.

До сих пор это были попытки междисциплинарного анализа, и наука о мышлении явно не дотягивала до уровня развития физики. Как говорил еще один нобелевский лауреат Эрнест Резерфорд, «все науки делятся на физику и коллекционирование марок». Мы сейчас переводим науку о мышлении из коллекционирования марок в точную науку.

День рождения андроида

— Как скоро, на ваш взгляд, появятся андроиды?

—Думаю, в период двух—пяти лет возникнут отдельные образцы общего интеллекта, которые можно будет использовать в жизни. В период от пяти до десяти лет они проникнут в общественное устройство и станут как айфоны, которые завоевали весь развитый мир всего за десятилетие. И чуть позже, еще лет через пять, появятся роботы-андроиды.

Это будут личности с психикой и сознанием. Вместе с тем появится и бессмертие. Андроиды и будут бессмертны, поскольку эти модели — дискретные. А дискретные модели можно записывать и считывать без ошибок на разных устройствах раз за разом.

И этим новый разум будет качественно отличаться от биологического. В некотором смысле мы достигнем бессмертия как цивилизация, потому что среди нас появятся бессмертные личности.

Фактически сейчас вся робототехника — это создание тел, которые снабжены инстинктами (например, инстинктом бегать), но без головного мозга. Пока они без свободы воли и не умеют планировать свое поведение. За 10–15 лет и тела будут сложнее, и мозги поспеют, станут достаточно дешевыми и компактными для того, чтобы соединить их с телом. То есть в конце 2030-х годов мы будем иметь андроидов — человекообразные машины.

— Такое сознание может захотеть стать человеком? Если да, то какова будет мотивация?

—Здесь все в наших руках. Они захотят то, что мы в них вложим. В общий интеллект мы вносим один базовый инстинкт — желание увеличить прогнозируемое количество будущих наград. Любой регулятор должен знать, насколько хорошо он справляется со своей задачей. Поэтому ему должны поступать либо положительные, либо отрицательные сигналы.

— То есть это аналог дофаминовой системы поощрения человека?

— Да, у животных, в том числе у человека, — это дофамин. У нас как биологического вида эти награды идут от инстинктов. Мы приматы: например, у нас есть инстинкт доминирования, люди любят властвовать. И поэтому нам кажется естественным, что роботы тоже захотят в какой-то момент власти. Но у них нет такого инстинкта — они не приматы.

Это совершенно нейтральные существа, все ценности вкладываются в них воспитанием. Поэтому они будут руководствоваться теми ценностями в своей жизни, которые мы в них воспитаем.

Поток знаний через «бутылочное горлышко»

— Раскройте тайну — как нейросеть может, к примеру, нарисовать красивый пейзаж?

— Нейросети — это универсальный аппроксиматор. Они могут заменить собой любую функцию, если правильно подобрать параметры. Есть универсальный алгоритм подбора этих параметров — градиентный спуск. То есть если вы знаете ошибку, то вы всегда можете «подкрутить» каждый вес таким образом, чтобы эта ошибка уменьшалась.

Обучаются нейросети на большом числе примеров. Вы показываете какие-то примеры машине, и она учится правильно воспроизводить их. Эти примеры можно готовить вручную, задавая ей правильные значения выходов. А можно избежать этого с помощью самообучения сети. Это когда нейросеть обучается на выходе воспроизводить вход, например ту же картинку. Но чтобы она поняла, как устроена картинка, задачу усложняют, проводя сигнал через «бутылочное горлышко». В этом «бутылочном горлышке» сеть должна сформировать емкую модель того, как картинки формируются, и все закономерности должны быть закодированы в этом узком «горлышке», которое разделяет нейросеть на две половинки — энкодер и декодер.

Тогда по любому внутреннему представлению в узком «горлышке» сеть может воссоздать богатый внешний образ. Так в общих чертах происходит обучение нейросетей, которые сейчас рисуют картинки. Кроме того, им «скармливают» и картинку, и ее описание на естественном языке. И тогда в узком «горлышке» формируется понимание того, как текст связан с содержанием. После этого, когда вы говорите нейросети какой-то текст, она его разворачивает в зрительный образ.

То есть после пройденного «горлышка» она имеет информацию только из него. Значит, в этом «горлышке» должно быть закодировано все самое главное. Например, нейросеть знает, что какие-то круглые вещи — это лицо, потому что на них есть глаза, нос или очки. Поэтому, если просишь нейросеть нарисовать симпатичную девушку в очках, она отбирает в своем внутреннем представлении некую область, которая соответствует описанию, и из этой области выбирает какой-то образ.

— А как она отличает симпатичное аниме от пугающего Босха?

— По ключевым словам: она видела все картины Босха и все аниме в мире. И там, и там присутствовали характерные слова, и она автоматически отправляется в ту область своего внутреннего пространства, которая соответствует либо аниме, либо Босху.

Зарплата для робота и работа для человека

— Какие профессии перестанут быть сугубо человеческими через пять—десять лет?

— Практически все. Более того, у людей будет возможность много зарабатывать, организуясь в команды с искусственными личностями. Люди начнут работать вместе с машинами — возникнут коллективы, в которых будут искусственные личности. А человек станет менеджером такой команды. Работа искусственных личностей, кстати, будет оплачиваться: компьютеры тоже должны зарабатывать себе на жизнь, а точнее — на мышление, на компьютерные мощности. Так возникнет человеко-машинная цивилизация.

Поскольку производительность труда вырастет в разы, люди смогут позволить себе гарантированный минимальный доход. И те люди, которые не захотят работать, смогут жить на пособие. Это само по себе большое достижение. У каждого будет возможность заниматься поиском того, для чего он пришел в этот мир.

— Будущее уже здесь, просто распределено неравномерно. И это кажется главной проблемой: к обществам, которые по своему устройству не соответствуют XXI веку, все равно пришел ИИ в той или иной форме. Какова будет судьба людей, занимающихся низкоквалифицированным трудом в таких странах?

— Если это что-то совсем простое, то они будут вынуждены уйти на пенсию. Общество должно решить эту проблему. И все предпосылки для этого есть: если повышается общественная производительность труда, значит, благ будет больше. Другое дело, что их надо грамотно и справедливо распределить. Собственно, это мы наблюдаем сейчас в скандинавских странах.

Но если работа более или менее сложная, то ближайшие 10–15 лет люди смогут оставаться на своих рабочих местах. И даже если роботы научатся ее выполнять, то специалисты в своих областях вроде краснодеревщиков или слесарей все еще будут востребованы.

Мы действительно видим множество архаичных обществ, которые чувствуют себя уязвимыми по отношению к остальному миру. Решение этой проблемы я вижу в образовании. Стоимость обучения стремительно падает. Все, что оцифровано, ничего не стоит. Поэтому в идеале можно устроить массовое быстрое обучение в таких обществах.

Понятное дело, что сформированные поколения уже не переформатируешь, но новые поколения мы можем привести к какому-то решению. Системы цифрового обучения очень эффективны, их можно использовать в качестве эффективной гуманитарной помощи. И, скорее всего, через два поколения мы будем видеть примерно одну и ту же картину мира: люди будут образованными, с современными взглядами на жизнь. Пока эта проблема отодвигается на периферию общественного сознания. И тогда возникают точки напряжения, которые выливаются в то насилие, которое мы сейчас наблюдаем.

Будущее рекомендательных систем

— Каков, на ваш взгляд, следующий этап в развитии рекомендательных систем?

— Реклама должна уйти. Это совершенно архаичный способ навязывания услуг. Человека должны информировать о том, что ему сейчас нужно. Пока что технологии еще не достигли такого уровня, чтобы дотянуться до истинных желаний каждого. Их максимум — притянуть внимание каждого. Они «подсаживают» пользователя на иглу дофаминовой системы вознаграждения за что-то интересное и как бы между прочим подсовывают то, что ему вообще-то не нужно. Это первые неумелые шаги персонализации. Можно сказать, что нынешняя персонализированная реклама таковой не является.

В будущем вещи станут «самоговорящими»: то есть они смогут сами рассказать про свой функционал через персональных ассистентов-роботов. Затем у людей появятся такие помощники-роботы, которые понимают, как строится жизнь конкретного человека.

Именно они и будут подбирать услуги в зависимости от запроса пользователя. Так, отели, рестораны и приложения для знакомств сами расскажут вам (или вашему роботу-ассистенту), чем они хороши. Вся реклама будет более объективная: фактически это будут питчи реальных услуг, которые будут демонстрироваться по требованию. Это нормальная картина жизни, в которой нет назойливой и бессмысленной рекламы.

— Учитывая, что все эти системы используют наши личные данные, не кажется ли вам, что манипуляция может только усилиться со стороны рекомендательных систем, стать более агрессивной?

— Манипуляция, скорее всего, действительно будет более эффективной. А вот то, что она будет более агрессивной, — это уже ваш личный неудачный опыт взаимодействия с существующей рекламой.

Взять, к примеру, родителей. Они же эффективно манипулируют ребенком в его интересах. Наше альтер эго — персональные ассистенты — будут знать нас гораздо лучше, чем нынешние системы. Ассистент будет понимать, за что я его награждаю и за что демотивирую. Так помощник формирует для себя понимание моей психики — он будет знать, что мне нравится, что для меня полезно и что я считаю правильным. И руководствоваться этим в демонстрации мне информации.

Конечно, это манипуляция. Но люди сами по себе — это существа, которые действуют больше не в реальном, а в социальном мире. Так что их основное орудие — это другие люди.

Поэтому искусственные существа, о которых мы говорим, будут так же манипулировать нами, как мы манипулируем друг другом. Лишь бы это было во благо.

Божий дар и авторское право для ИИ

— Еще хотелось бы поговорить про авторское право в контексте ИИ. Яркий пример грядущих изменений — требование американских сценаристов не использовать их произведения при обучении ИИ. Какие изменения ждут авторское право в ближайшем будущем?

— Конечно, мы вступили в новую эру, когда творчество перестало быть загадочным божьим даром. Оказалось, что «нежить» тоже может творить. И делает это гораздо дешевле и качественнее, чем люди. Думаю, что копирайт будет за той творческой личностью, которая что-то создала. И неважно — живая она или неживая.

Мы уже сталкивались с подобными трудностями в 2000-х годах — оказалось, что модель цифрового защищенного контента просто не работает. И как только мы что-то записали, кто-то другой может это выложить в Сеть. В итоге все вылилось в стриминговые сервисы, и все довольны. Это потребовало некоторой ломки привычных взглядов. Но мир все время ломается, и у нас сейчас идет большой тектонический сдвиг.