Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Гипотеза: может ли у искусственного интеллекта появиться сознание

На тему сознания у машин было написано много фантастических книг и снято не меньше фильмов. Сложность вопроса в том, что ни у искусственного интеллекта, ни у сознания нет общепринятых определений

Об эксперте: Ольга Перепелкина, COO и Scientific Director в компании Neurodata Lab.

Что вообще такое сознание?

Почему сознание возникло в процессе эволюции, какие у него физиологические механизмы, и как его правильно измерить до сих пор до конца не ясно. Есть ли сознание только у взрослого человека, или оно также доступно некоторым животным и маленьким детям – даже на этот счет тоже нет единого мнения.

Слово «сознание», как и многие донаучные термины, имеет различные значения. В клинической медицине оно часто используется для оценки бдительности и бодрствования человека («пациент не был в сознании»). Выяснение мозговых механизмов бдительности — важная задача для понимания процессов сна, анестезии, комы или вегетативного состояния. Но когда мы задаемся вопросом, может ли искусственный интеллект обладать сознанием, нам, скорее, интересно не медицинское значение, а то, как оно понимается в психологии.

Заставь машину думать: как развивают искусственный интеллект у роботов Фото:Bloomberg

Сознание можно представить как субъективное отражение процессов обработки информации в мозге.

Считается, что сознание отражает два разных типа процесса обработки:

  1. Выбор информации для предоставления глобального доступа к ней для всего организма;
  2. Самоконтроль (мониторинг) вычислений.

Что такое глобальный доступ? Вот простой пример:

Представим, что некий объект попадает в поле нашего внимания. Например, в машине подсвечивается лампа низкого уровня топлива. Почему мы можем ее «осознать», а сама машина — нет? Благодаря существованию у нас сознания этот объект (точнее, его ментальная репрезентация) становится доступным всему нашему организму: мы можем его видеть, вспомнить его, воздействовать на него, говорить о нем. Тогда сознание можно представить как луч прожектора, который освещает определенные объекты и задает направление.

В этом смысле сознание — это фактически синоним внимания (хотя нужно оговориться, что внимание бывает и неосознанным, непроизвольным). Этот процесс позволяет интегрировать множество других процессов, которые происходят неосознанно, чтобы придать организму единый курс для дальнейших действий. По сути, благодаря сознанию становится возможным целенаправленное поведение.

Фото: Unsplash
Фото: Unsplash

Что такое самоконтроль?

Другое значение слова сознание — рефлексия. Когнитивная система способна контролировать свою собственную работу и получать информацию о себе. Люди много знают о себе, включая такую разнообразную информацию, как расположение собственного тела, происходит ли процесс восприятия или воспоминания, или что они совершили ошибку. Этот процесс соответствует тому, что обычно называется интроспекцией, или тем, что психологи называют метапознанием — способностью понимать и использовать внутренние представления своих собственных знаний и способностей. На интуитивном уровне сознание — это способность дать отчет о своем внутреннем психическом опыте, эдакое внутреннее зеркало.

Эти процессы независимы, то есть глобальный доступ может происходить без самоконтроля, и наоборот. Также многие процессы происходят вообще без их участия, тогда они называются неосознаваемыми или бессознательными.

Алан Тьюринг и Джон фон Нейман, основатели современной информатики, указывали на то, что машины в конечном счете смогут имитировать все возможности человеческого мозга, включая сознание. При этом Алан Тьюринг предположил и оказался прав, что не думающая и не осознающая машина сможет осуществлять сложную обработку информации. Это верно и для людей: когнитивные науки подтвердили, что такие сложные вычисления, как распознавание лиц и речи или оценка шахматной игры, происходят в нашем мозге неосознанно.

И сегодня все современные системы искусственного интеллекта, хоть и впечатляют своими успехами, которые могут превосходить человеческие способности, пока не обладают сознанием.

Железный дровосек: превратит ли человек умных роботов в своих рабов Фото:CJ Dayrit / Unsplash

Тут важно отметить, что два описанных выше процесса не являются общепризнанными в науке как единственно возможные определения сознания. На самом деле психология сознания является, наверное, одной из самых сложных и спорных областей в когнитивных науках.

Как можно наделить сознанием машину?

Так как мы до конца не понимаем, что такое сознание и как именно оно обеспечивается мозгом, на этот вопрос ответить однозначно нельзя. Однако можно наметить направления, следуя которым мы можем получить сознательные машины.

1. Самая простая идея — это скопировать принципы работы человеческого мозга. Одним из примеров является искусственная нейронная сеть. Она начинается как сеть «нейронов», соединенных друг с другом входами и выходами, и совсем ничего не знает — почти как мозг младенца. Способ, которым она «учится», заключается в том, что она пытается выполнить задание — скажем, распознавание рукописного ввода, и сначала действует случайным образом. Затем она получает обратную связь в виде правильного ответа. Связи между нейронами, которые привели к правильному ответу, усиливаются, а к неправильному — ослабляются. После многих проб и обратной связи сеть формирует правильные нейронные пути, и система обучается правильно решать данную задачу. Однако сама по себе искусственная нейронная сеть, хоть и отражает некоторые нейробиологические принципы, не обладает сознанием и не способна решать задачи, которым её никогда не обучали.

2. Второй, более радикальный подход, — это копия всего мозга. Ученые берут настоящий человеческий мозг, различными методами исследуют его нейронные связи, чтобы воспроизвести их на компьютере в виде программы. Если этот метод когда-нибудь будет успешным, у нас будет компьютер, способный на все, на что способен мозг — ему просто нужно будет учиться и собирать информацию.

Насколько мы далеки от достижения эмуляции всего человеческого мозга? Пока что ученые и разработчики смогли смоделировать мозг плоского червя размером 1 мм, который состоит всего из 302 нейронов. Этот проект называется «OpenWorm». Чтобы представить, сколько еще нужно преодолеть, следуя этим путем, вспомним, что человеческий мозг состоит из 86 млрд нейронов, связанных триллионами синапсов.

Если человеческий мозг слишком сложен, чтобы реплицировать его сразу во «взрослом» виде, мы могли бы вместо этого попытаться подражать эволюции. Этот способ использует такое понятие как генетические алгоритмы.

Компьютер начинает выполнять задачи, и самые успешные программы будут «скрещиваться» друг с другом (наследовать друг от друга признаки определенным образом, подробнее тут), а менее успешные будут удалены. При этом в отличие от биологической эволюции, искусственная эволюция имеет два важных преимущества — скорость и целенаправленность. На практике генетические алгоритмы работают не очень хорошо, хотя порой результаты получаются весьма веселыми. До сознания тут, пожалуй, еще тоже далеко.

Фото: Matt Cardy / Getty Images
Фото: Matt Cardy / Getty Images

3. Последний метод самый простой, но, вероятно, самый пугающий. Предлагается создать машину, двумя основными навыками которой будут исследования искусственного интеллекта и внесение изменений в сам код, что позволит ей не только изучать, но и улучшать свою собственную архитектуру. Мы научим компьютеры быть «компьютерными учеными», чтобы они могли сами начать разработку алгоритмов. Возможно, это самый вероятный способ получить сознательную машину в ближайшее время.

Есть ли примеры такого подхода уже сейчас? Близкое понятие — это автоматическое машинное обучение (AutoML), которое успешно внедряют крупные корпорации, например, Google. Идея заключается в том, что автоматизируется сам процесс машинного обучения: алгоритмы сами подбирают наиболее оптимальные алгоритмы для определенной задачи. Сами алгоритмы-подборщики для этого специально обучаются людьми.

Получается, чтобы быть сознательным, необязательно иметь мозг?

Может ли сознание возникнуть в результате других комбинаций и взаимодействия элементов, которых нет в человеческом теле? Если относиться к сознанию, как к функции биологического мозга, то в этой идее нет ничего сверхъестественного. Достаточно создать сложную искусственную систему и поместить ее в достаточно сложную среду, максимально симулирующую реальным мир, в результате чего может возникнуть сознание.

Вернемся к примеру с лампой уровня топлива. Человек замечает, что машину пора заправить, тогда как сама машина этого «не осознает», хоть она и напичкана сложным оборудованием. Индикатор мигает, но все остальные системы автомобиля об этом не догадываются. Машина будет обладать сознанием, если все процессы будут взаимосвязаны, и у автомобиля будет представление самого себя с информацией о своих возможностях и их ограничении. Например, эта «сознательная система» автомобиля будет включать в себя интегрированное изображение себя, в том числе, например, его текущее местоположение и расход топлива, а также его внутренние базы данных (например, «знание», что у него есть карта GPS, которая может определять местонахождение заправочных станций).

Фото: Kaspars Grinvalds / Shutterstock
Фото: Kaspars Grinvalds / Shutterstock

Ученые активно работают над созданием общего искусственного интеллекта (AGI). У него будет сознание?

У искусственного интеллекта, как и у сознания, нет общепринятого определения. Например, под искусственным интеллектом понимают процесс обучения машин учиться, действовать и думать, как человек. Цель всего этого — заменить рутинные функции, которые выполняет человек, расширить и усилить его возможности. Иногда выделяют слабый и сильный (или общий) искусственный интеллект.

Под слабым ИИ понимается такая система, которая способна решать задачи, применимые к узкой области. Примеры таких систем — это автоматические языковые переводчики, беспилотные автомобили, умные поисковики. Такие системы могут выполнять задачу (и порой делать это лучше человека), но не могут учиться ничему принципиально новому. Например, известный алгоритм от IBM, обыгравший Гари Каспарова в шахматы, хоть, безусловно, и впечатляет, не может больше делать ничего кроме шахмат. А человек способен еще на многое.

Сильный ИИ может выполнять много независимых и не взаимосвязанных задач. Он способен обучаться выполнять новые задачи и решать новые проблемы. Происходит это путем выучивания новых стратегий. Также предполагается, что он способен «мыслить», обладать «разумом» — совсем как в фантастических фильмах и даже больше.

Границы разумного: как регулировать искусственный интеллект

Так как мы пока толком не можем определить такие сложные понятия как «разум», «мышление», четких критериев появления такой системы у нас нет. Однако появлялись различные идеи, как протестировать систему, чтобы мы могли назвать ее разумной. Пример такого подхода — широко известный тест Тьюринга.

Есть и критика такого подхода — зачем нам создавать системы, которые будут копировать нас самих? Авиаконструкторы ведь не стремятся создать машины, полностью имитирующие голубей, просто потому что голуби умеют летать.

Если у роботов будет сознание, у меня появится перед ними «моральный долг»? Я должен буду их уважать, иначе они будут обижаться и страдать?

На этот вопрос нам, как человечеству, еще предстоит ответить. Но, кажется, что наши этические и юридические нормы будут достаточно сильно пересмотрены в связи с техническим прогрессом. И когда появятся искусственные существа, обладающие разумом и сознанием, наше отношение к ним будет регулироваться и внешними нормами, и нашими собственными эмоциями. Вспомните, что вы чувствуете по отношению к вымышленными небиологическим персонажам книг и кино, как сопереживаете им, расстраиваетесь и радуетесь вместе с ними, хотя они не настоящие. Если верить прогнозам некоторых футурологов, например, Рэю Курцвейлу, то искусственный интеллект, обладающий сознанием, может появиться уже через несколько десятилетий.


Подписывайтесь и читайте нас в Яндекс.Дзене — технологии, инновации, эко-номика, образование и шеринг в одном канале.

Следующий материал: