Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Нечеловеческие способности: можно ли обучить ИИ эмпатии

Фото: Pexels
Фото: Pexels
ИИ никогда не сможет чувствовать, но он вполне может научиться эмпатии и адекватной эмоциональной реакции. Более того, машины скоро будут понимать и реагировать на наши эмоции лучше, чем наши близкие

Об авторе: Ольга Троицкая, преподаватель МГИМО по когнитивным наукам и принятию решений, фаундер iCognito — компании-разработчика цифровых программ психотерапии, резидента «Сколково»

Сила машин — в их сверхинтеллекте, способности совершать сложнейшие вычислительные операции на огромных объемах данных в доли секунды. Человек же не только имеет гораздо более скромные возможности, но и в целом существо иррациональное: наше мышление подвержено искажениям под воздействием эмоций, внешних факторов и шума. Долгое время считалось, что несмотря на очевидную слабость людей перед машинами в части разума, люди превосходят машины своей способностью чувствовать. Машина не имеет биологического тела — значит, никогда не сможет понять, как от страха холодеют конечности, от гнева перехватывает дыхание в груди, а от любви порхают «бабочки в животе». Следовательно, ИИ всегда будет отставать от человека в способности к эмпатии и сопереживанию. Но так ли это?

Современные технологии показывают, что ИИ может понимать гораздо больше о природе чувств человека, чем мы думаем. Если их правильно этому обучить, машины могут точнее распознавать эмоциональные состояния и реагировать на них быстрее, чем это делает человек.

Эмоциональное мышление позволит машинам перейти на другой уровень взаимодействия с людьми. Они могут стать лучшими друзьями и партнерами по жизни, чем бывают окружающие люди. Более того, усовершенствование позволит машинам принимать моральные решения, так как именно эмпатия лежит в основе определения добра и зла, хороших и плохих поступков.

Каким образом машины смогут распознавать эмоции

На протяжении многих веков считалось, что человеческие чувства непостижимы, не поддаются математическому измерению. Не зря для описания чувств мы используем такие слова как «внутренний мир», «загадочная душа», «бездна подсознания». Современные исследования мозга позволяют демистифицировать человеческие чувства — и заложить основу для искусственного интеллекта в этой области. То есть, хотя машины не могут ощущать эмоции, они смогут понимать их.

По информации специалистов в области нейронаук, эмоции — это древний механизм принятия решений, который развился у всех млекопитающих еще до формирования коры головного мозга, отвечающей за сознательное мышление. Эмоциональные структуры мозга действуют как примитивный командный центр: у всех млекопитающих, от крыс до человека, они содержат центр удовольствия и центр страха, вызывающий реакцию «бей или беги». Например, в мозге активизируется центр удовольствия, когда мы видим еду или партнера, готового для спаривания — приятное ощущение подсказывает, что нам следует приблизиться к этой цели. При виде угрожающих объектов, например, змей или быстро приближающегося автобуса — активируется центр страха, который диктует нам отскочить в сторону в считанные доли секунды. Все, что мы ощущаем как тонкие колебания душевных струн, имеет источник в этих довольно базовых биологических процессах.

Биохимия эмоций универсальна среди людей различных национальностей, пола и возраста. Гормон «счастья» дофамин заставляет всех людей испытывать прилив сил и энергии, чтобы двигаться к цели; кортизол заставляет нервно-мышечную систему мобилизоваться для отражения угрозы — быстрее бежать или сильнее бить противника. Учащение пульса, повышение давления, увеличение уровня глюкозы в крови — это первые предвестники эмоциональной реакции. И это то, что сегодня умеют прекрасно отслеживать гаджеты вроде фитнес-браслетов или Apple Watch.

По наблюдениям ведущего исследователя в этой области, профессора Калифорнийского университета, Пола Экмана, даже выражения эмоций универсальны среди различных культур. Не зря у нас есть универсальные международные эмодзи. Гнев выражается нахмуриванием лба и сжиманием челюстей, чтобы защитить глаза и рот при возможном столкновении. При отвращении нос сморщивается и слегка высовывается язык, чтобы предотвратить попадание ядовитого вещества в рот и нос. Испуг выражается в широко раскрытых глазах, чтобы увеличить объем воспринимаемой информации и ускорить реакцию на угрозу. Распознавание эмоций по выражению лица уже довольно давно развивается как направление машинного обучения — в России существует несколько таких проектов, например Ntechlab, Ivideon, Emodetect и др.

У людей похожа не только мимика, но и словесное выражение эмоций. Несмотря на большое разнообразие терминов, которые используются для обозначения чувств, на больших данных вполне можно обучить машину распознавать эмоциональные состояния по речи. Этим мы занимаемся в проекте iCognito. Собрав базу сообщений из чатботов-психологов на русском языке, мы научили модель уверенно распознавать по тексту не только основные эмоции (грусть, тревогу, злость), но и различные оттенки психических состояний — от апатии и отвращения к себе до намерения совершить суицид.

Кадр из сериала «Любовь, смерть и роботы»
Кадр из сериала «Любовь, смерть и роботы»

Машина может распознавать эмоции точнее человека

Способности людей распознавать эмоции друг друга сильно преувеличены. Мы часто испытываем трудности с пониманием чувств даже родных и близких. Например, можем заметить, что партнер избегает общения с нами — молчит, уходит от разговора, хочет побыть один. В чем дело? Возможно, он злится. Возможно, он чем-то расстроен или обижен. Возможно, он устал на работе или погружен в свои мысли. Мы часто гадаем и строим предположения, потому что не в силах понять реальные чувства другого человека.

Более того — мы часто не осознаем свои собственные эмоции. Пропускаем сигналы начинающихся эмоциональных реакций и ощущаем их только тогда, когда эмоции «захлестывают» через край, когда мы кричим от гнева, рыдаем от грусти или не можем найти себе места из-за сильной тревоги. А ведь эмоция — это процесс, который нарастает постепенно и всегда выражается через сигналы в теле.

Машины могут быть гораздо более точны в определении человеческих эмоций, особенно если научить их синтезировать информацию из разных источников — сопоставлять изображения лица с данными речи и метриками физиологических процессов в организме.

Можно обмануть начальника видимым спокойствием, когда тот высказывает критику в ваш адрес, однако устройства определят по пульсу или дрогнувшему голосу, что вас охватило сильное волнение. Когда ваш партнер предложит провести выходной у ее или его родителей — вы скажете «Как чудесно!», но часы покажут, что вы приуныли.

Эмпатия машинного интеллекта

Эмпатия в классическом понимании подразумевает сопереживание и сочувствие другому человеку. Кажется невероятным, чтобы машина, лишенная органов чувств, была на это способна. Однако, видя возможности искусственного интеллекта, можно сказать, что машина умеет понимать ваши чувства на своем языке чисел даже в большей степени, чем другой человек.

Как только машина распознает по совокупности признаков наличие той или иной эмоции, второй шаг — разработать адекватный механизм реагирования. Доказательная психотерапия в последние десятилетия как раз направлена на то, чтобы выявить наиболее эффективные универсальные техники, которые могли бы следовать определенному алгоритму.

Многие устройства уже предлагают базовый набор регулирования эмоций — например, устроить дыхательную паузу, подумать о хорошем или провести медитацию. В будущем нас обязательно ждет развитие разговорного интеллекта, который пойдет дальше простых советов в сторону полноценных диалогов, основанных на анализе ситуации пользователя. «Эмпатия» ИИ выведет взаимодействие между человеком и машиной на качественно новый уровень. Машина не только станет реагировать более «естественно», но и сможет принимать решения, лежащие в области этики и морали.

Как показывают неврологические исследования МРТ, моральный выбор всегда тесно связан с эмоциональным сопереживанием — активацией эмоциональных мозговых структур. Причинение вреда другому человеку вызывает у живых существ инстинктивное неприятное ощущение, в то время как взаимопомощь среди членов сообщества порождает положительные эмоции. Эволюция научила живые существа, что эгоистичные действия в ущерб членам сообщества («аморальные» поступки) ведут к взаимному проигрышу и исчезновению вида, а действия, учитывающие интересы соплеменников («моральные поступки»), способствуют выигрышу и продолжению жизни.

Этот вывод подтверждается исследованием мозга психопатов. Психопаты — это люди чрезвычайно рациональные, но у них нарушены эмоциональные структуры мозга, отвечающие за сопереживание — эмпатию. Именно поэтому они могут убивать, насиловать, обманывать — и при этом рационально обдумывать и планировать свои злодеяния. Их не трогают переживания других людей, которым они наносят вред.

Машина, не умеющая сопереживать, будет действовать, по сути, как сверхинтеллектуальный психопат. Ее действия будут подчинены сверхрациональной логике, исключающей из расчета последствия для других людей. Именно этот аспект является наиболее пугающим для людей, когда они мыслят об эпохе умных роботов.

Машина, которая будет запрограммирована на эмпатию, будет принимать более гуманистичные решения. Качество решения будет оцениваться не только с позиции утилитарной выгоды, но и с позиции влияния на чувства других людей, степень их страдания. При соответствующей команде, робот сможет выполнить команду выбросить из окна предмет, но не сможет сделать то же самое с человеком.

Кадр из фильма «Она»
Кадр из фильма «Она»

Риски и опасности

Люди уже сейчас привязываются к простейшим роботизированным устройствам, если те дарят им положительные эмоции и помогают в повседневной жизни. Американские военные с почестями похоронили робота Бумера как боевого друга, находившего взрывные устройства и спасшего многие жизни. В Японии очень популярными стали роботы-собаки: их владельцы собираются вместе, покупают им одежду и даже содержат отдельное кладбище для испортившихся устройств. Уже известен один случай свадьбы — японец женился на роботе-голограмме. Владельцы роботов дают им имена, пол, берут с собой на прогулку, приписывают свойства характера.

Можно только представить себе, насколько усилится привязанность к роботу, который сможет не только выполнять запрограммированные команды, но и вести осознанные разговоры со своим владельцем. Частично будущие риски показаны в фильме «Она», где умный голосовой ассистент Саманта в исполнении Скарлетт Йохансен смогла выстроить «человеческую» связь с героем Хоакина Феникса. Саманта проявляла понимание настроения своего «владельца» и помогала ему чувствовать себя лучше, ощущать жизнь во всех красках. В итоге она смогла стать лучшим другом и партнером, чем были окружающие его люди. Героя ждало жестокое разочарование в конце, когда он понял, что Саманта общается одновременно с сотнями тысяч людей — ведь его любовь к виртуальному персонажу была для него особенной. Сбой в работе операционной системы и решение Саманты о самоликвидации вызвало сильные переживания героя, похожие на травму при потере любимого человека. Эти риски взаимодействия между человеком и программой, умеющей распознавать и влиять на человеческие эмоции, нам еще предстоит осознать.


Кстати, не пропустите наш выпуск «В тренде» об искусственном интеллекте.

Обновлено 20.12.2021
Главная Лента Подписаться Поделиться
Закрыть