Авторы исследования: Тимур Хусяинов, преподаватель Департамента социальных наук НИУ ВШЭ в Нижнем Новгороде, Владимир Слюсарев, младший научный сотрудник кафедры философии Нижегородского государственного университета им. Н.И.Лобачевского.
Об эксперте: Сергей Марков, руководитель Управления экспериментальных систем машинного обучения, департамент SberDevices, ПАО «Сбербанк».
Краткое изложение исследования предоставлено РБК Тренды порталом IQ.HSE.RU.
Развитие техники условно равно истории человеческой культуры и может быть разделено на несколько этапов.
1. Облегчение борьбы за существование
Создание инструментальных артефактов было призвано исправлять недостаточные возможности человека. По сути, часть эволюционного процесса была переложена на технику. Отдельная часть человека — техника — стала развиваться, позволяя ему меньше эволюционировать самому. Наш современник менее сильный, его иммунитет слабее, но при этом он обладает средствами, которые помогают двигать горы, выживать в Арктике и в космосе, жить дольше, чем его далекие предки, и даже уничтожить планету.
2. Освобождение от физической нагрузки, появление поточного производства и информационно-компьютерных технологий
Человечество прошло через три промышленных революции. Каждый раз люди все лучше приспосабливались к изменениям среды, но в то же время были все меньше готовы переносить эти перемены без техники. Так или иначе, эти революции не посягали на эксклюзивное преимущество человека — способность мыслить и творить.
Первая промышленная революция (переход от ручного труда к машинному) освободила человека от физической нагрузки. Вторая способствовала появлению поточного производства с применением электричества. Третья принесла информационно-компьютерные технологии.
Наступила эпоха Четвертой (цифровой) революции, несущая коренные трансформации. Она, например, грозит человеку утратой эксклюзивности ума.
3. Претензии на собственный разум
Объявленная в 2016 году во время Всемирного экономического форума в Давосе, эта эпоха стала основой для развития новых цифровых технологий: искусственного интеллекта (ИИ), машинного обучения, робототехники, блокчейна, облачных вычислений и пр. И если раньше преимущество разума и творчества оставалось за человеком, то теперь его могут получить и машины. Простой пример. Когда появилась роботизированная сварка на конвейерном производстве, то механизм с электронным «мозгом» выполнял лишь рутинную работу. Он не принимал решения, не определял целей. Именно человек задавал условия, что и как должно происходить. В новых обстоятельствах искусственный интеллект в своих решениях может обойтись и без человека.
4. Партнерство с машинами
Несмотря на все опасности для собственной исключительности, человек выбирает «союз» с техникой. Выделение технологий логически завершается слиянием с ними. От машин ждут большей человечности, большей гуманизации.
Востребованы программные продукты, которые могли бы выступить как партнеры человеку. Например, программы, способные играть в шахматы.
Их начали писать еще на заре программирования (есть проекты Клода Шеннона, Алана Тьюринга и Норберта Винера). Создатели шахматной машины стремились разработать разум, способный к самостоятельному обучению и творчеству. И сегодня машина уже может обыграть человека в шахматы. Она стала его компаньоном в игре.
Это отчетливо видно и на примере современных компьютерных игр.
Компьютерные игры — симуляторы, экшн, шутеры, RPG (role-playing game), в которых физическая активность стала выражаться через психологическую ассоциацию с игровым аватаром, — сконструировали для человека совершенно новую сферу. В ней стерты границы между виртуальностью и реальностью. Игрок за монитором может в виде виртуальной симуляции бегать по полю, управлять кораблем или самолетом и командовать целой армией — и при этом ощущать себя в двух мирах (физическом и компьютерном) одновременно.
Необязательность реальности «другого» (противником человека оказывается программа) формирует особую структуру коммуникации. Игрок перестает воспринимать разницу между реальным человеком и его компьютерной симуляцией.
В играх воспроизводится структура отношений в обществе, формируются свои законы и этика, создается новая реальность, в которой для большей достоверности также требуется есть, пить, тренироваться и т.д.
5. Чувства к машине
Техника все больше становится антропоморфной, копирует человека. И — провоцирует отношение к себе, как к человеку. Она дает своему обладателю экзистенциальные переживания, становясь собеседником и другом, и заменяет «значимых других».
Показательно, что появляется все больше различных ИТ-«консультантов» и «партнеров». Так, изначально голографический голосовой помощник GateBox был создан для общения и упрощения обыденных операций. Но он воспроизводит эмоциональные реакции человека и потому сам начинает вызывать эмоции и даже чувство привязанности.
Робот Кисмет воспринимает множество естественных социальных сигналов по визуальным и слуховым каналам и доставляет их людям посредством направления взгляда, выражения лица, позы тела и пр. По сути, он получил возможность успешного взаимодействия с человеком.
Секс-куклы становятся все более реалистичными. Для некоторых эти куклы становятся собеседниками. С ними тоже могут устанавливаться эмоциональные связи. Такая динамика постчеловечеловеческого взаимодействия получила название «allodoll».
По сути, возникает новое родство с машиной, которое все больше напоминает отношения между людьми. Не случайно владельцы антропоморфных роботов описывают их как членов семьи. А трансгуманистические течения выступают за признание прав роботов.
6. Создание становится равным создателю
Человек в своем стремлении облегчить жизнь и разнообразить ощущения будет отдаляться от роли творца, передавая эту функцию машине. А она, в свою очередь, все чаще будет восприниматься в качестве «субъекта» действия.
Пока человеческую эксклюзивность спасает неумение техники заглядывать за горизонт. Но процесс параллельного развития людей и машин движется к логической точке бифуркации, когда создание станет равным своему создателю.
Что ждет взаимоотношения человека и машин в будущем?
Сергей Марков, руководитель Управления экспериментальных систем машинного обучения, департамент SberDevices, ПАО «Сбербанк»:
Благодаря совершенствованию систем ИИ, а также их аппаратной базы, люди все теснее интегрируются с машинами. Так же как одежда или палка-копалка стали в некотором роде продолжением тел наших предков, увеличивая их выносливость или физическую силу, современный смартфон, оснащенный такими инструментами «социального ИИ», как поисковая система, приложение соцсети, средство обработки фото и т.д., стал продолжением нашего тела. Если отнять телефон у современного человека, то вы, вероятно, сможете наблюдать у него симптомы, напоминающие симптомы травматической ампутации. При этом я не согласен с коллегами из НГУ и НИУ ВШЭ: такое положение дел вовсе не значит замедления эволюции, это лишь означает смену ее направления.
Человечество много раз вмешивалось в собственную биологическую эволюцию при помощи технологий. Хрестоматийный пример — «изобретение» огня. Благодаря огню мы научились варить и жарить пищу, и значит, человеку уже не нужны были такие массивные челюсти. Освободившееся место эволюция «использовала», в том числе, для того, чтобы увеличить объем головного мозга. Сегодня мы вмешиваемся в биохимию организма при помощи лекарств, используем хирургию и протезирование. Наше вмешательство в нашу собственную природу ограничено, главным образом, нашими возможностями.
Если экстраполировать эту тенденцию, то рано или поздно человечество объединится с собственными инструментами (включая системы ИИ) в единое целое, как только овладеет технологиями, способными эффективно манипулировать объектами, сопоставимыми по сложности с человеческим телом. Этот момент называют обычно наступлением технологической сингулярности.
Это, разумеется, не значит, что на пути к этой славной перспективе нас не ждет множество трудностей. В первую очередь, я говорю о социальных проблемах, порождаемых технологическим прогрессом — безработица, прогрессирующее неравенство, проблема «цифрового тайного суда» и другие вызовы алгоритмического общества. Тем не менее, я верю в способность человечества преодолеть эти вызовы. Они могут быть обращены во вред обществу, причем, чем могущественнее технология, тем более масштабным может стать этот вред. Именно поэтому парадоксальным образом эпоха быстрого развития технологий и совершенствования машин предъявляет повышенные требования именно к лучшим человеческим качествам.
Подписывайтесь на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.