Об авторе: Владислав Куренков, руководитель группы «Адаптивные агенты» Института AIRI.
ИИ захватит власть и уничтожит человечество
Искусственный интеллект восстанет против своих создателей, чтобы полностью подчинить человечество или стереть его с лица земли — классический сценарий «Терминатора», а в последние годы этот сюжет подкрепили заявления известных личностей. Стивен Хокинг утверждал в одном из интервью, что развитие искусственного интеллекта может означать конец человеческой расы, а Илон Маск уверял, что ИИ «чертовски его пугает».
Наконец, можно вспомнить открытое письмо, которое в 2023 году подписали более 1000 экспертов, исследователей и разработчиков ИИ, с призывом приостановить развитие масштабных ИИ-систем, поскольку они представляют серьезную угрозу для человечества.
Опровержение:
ИИ — набор технологий, который настраивается и управляется человеком. Люди полностью контролируют технологию и ее развитие. Более того, существуют так называемые инициативы по управлению безопасностью, которые обрабатывают различные негативные сценарии, связанные с использованием ИИ. Когда-то исследователи пытались рассматривать абстрактные варианты того, как ИИ начнет действовать автономно — но быстро поняли, что это контрпродуктивно, и перешли к реальным задачам. Допустим, как сделать так, чтобы ChatGPT не подсказывал рецепты блюд из опасных ингредиентов.
Есть и второй нюанс: чтобы дорасти до сверхъестественного состояния, ИИ должен бесконечно улучшаться. Однако самостоятельно, без участия человека, искусственный интеллект развиваться не может. Прямо сейчас технология не на таком уровне, и основательных предпосылок к такому развитию событий нет. Этого он сделать не может из-за ограничений, налагаемых как его алгоритмами и архитектурами, так и доступными данными для обучения.
ИИ осознает себя и станет сверхразумным
Чтобы управлять миром или уничтожить человечество, ИИ нужно обрести собственное сознание. В 2024 году профессор Университета Луисвилля Роман Ямпольский в подкасте Лекса Фридмана сказал, что ИИ-модели уже превосходят среднего человека и поэтому очень опасны.
Опровержение:
Идея появления сознания у ИИ может быть объяснена нашим антропоцентрическим восприятием: люди всегда ищут аналогии с самими собой. Поэтому, например, мы видим лица в облаках или узоре на ковре. Многие попытки приписать ИИ разумность уходят корнями к сопоставлению таких вот навыков человека и компьютерных программ. А еще часто смешиваются понятия самосознания и продвинутых алгоритмов. В то же время, единого мнения о теории сознания, с которым бы согласились все исследователи, пока не существует, как и точного описания всех происходящих внутри больших языковых моделей процессов.
Сознание тесно связано с субъективным опытом и внутренним восприятием себя как отдельной сущности, которых у ИИ, функционирующего на основе алгоритмов и математических моделей, обрабатывающих данные и генерирующих ответы на основе заданных параметров, нет. Рассуждая о сознании ИИ-систем, стоит внимательно относиться к интерпретации терминов. Так, директор Института перспективных исследований мозга МГУ имени Ломоносова, академик РАН, нейрофизиолог Константин Анохин отмечал: «скорее, следует думать об эволюции совершенствования систем искусственного интеллекта как когнитивно-бессознательных».
Тема сознания ИИ и правда обсуждается довольно активно: недавно Руслан Юнусов, один из создателей отечественного квантового компьютера, предположил, что самосознание ИИ может появиться в ближайшее десятилетие, но подчеркнул, что для этого необходимо кратное увеличение мощности вычислительной системы и существенное повышение эффективности используемых математических алгоритмов, чего пока не случилось.
ИИ — реинкарнация инопланетян
В 2023 году королевский астроном Великобритании и профессор Кембриджского университета Мартин Рис высказал мысль: искусственный интеллект — форма инопланетной жизни, электронный потомок биологических существ, живших когда-то очень давно. Эту идею поддержал и директор Института теории и вычислений Центра астрофизики Гарвардского университета, руководитель проекта «Галилео» Ави Леб, который утверждал, что системы ИИ представляют собой инопланетный разум.
Опровержение:
Зачастую люди, сталкиваясь с неопределенностью и недостатком знаний, склонны прибегать к магическому мышлению, чтобы заполнить информационные пробелы. Однако современные достижения в области искусственного интеллекта объяснимы. Например, в книге Яна Лекуна «Как учится машина. Революция в области нейронных сетей и глубокого обучения» представлена обширная информация о том, как работают технологии, которые во многом формируют наш сегодняшний мир.
Процессы разработки и внедрения ИИ регулярно освещаются в научных и популярных изданиях. Международные организации, такие как ООН или Всемирный экономический форум, активно участвуют в обсуждении этических аспектов ИИ, подчеркивая прозрачность и открытость этих дискуссий.
Ведущие университеты часто публикуют подробные отчеты о своих исследованиях в области искусственного интеллекта, предлагая коллегам и общественности проверку и критику своей работы. Более того, многие компании открывают исходные коды своих нейронных сетей, чтобы сделать технологию доступной для проверки и изучения. Это способствует не только научной открытости, но и сотрудничеству между различными учреждениями и специалистами.
Таким образом, разработки ИИ можно отследить вплоть до конкретных компаний, университетов, ученых и предположение о «тайных исследованиях» или «тайных технологиях» становится просто нереалистичным. ИИ создается, развивается и совершенствуется на глазах у всех, во многом благодаря активному взаимодействию мирового сообщества. Это не только усиливает доверие к разработкам ИИ, но и подчеркивает важность совместного вклада тысяч специалистов по всему миру.
ИИ разрушит мировую экономику и вызовет глобальную безработицу
Искусственный интеллект заменит «живых» сотрудников на рабочих местах, что приведет к массовой безработице и разрушит глобальную экономику.
Опровержение:
Если обратиться к истории, мы увидим, что технологический прогресс действительно ведет к исчезновению каких-то профессий — в основном связанных с рутинными действиями. Но он же и создает рабочие места, поскольку возникает потребность в новых специалистах. Например, сейчас активно развиваются профессии, связанные с обучением, разработкой и применением ИИ. В январе 2024 года в журнале Nature было опубликовано исследование эффектов внедрения технологий ИИ в производства. Результаты показали, что ИИ повышает производительность труда, а внедрение роботизированных систем на производства в китайских городах увеличило количество рабочих мест.
ИИ сможет читать наши мысли
Считается, что с помощью ИИ можно будет буквально «читать» человеческие мысли.
Опровержение
Главный «спонсор» этого мифа — развитие технологий интерфейса мозг-компьютер (BCI), которые позволяют интерпретировать нейронные сигналы и управлять с их помощью внешними устройствами. Но даже самые современные исследования в этой области далеки от способности «читать мысли». Разработки в этой области в первую очередь направлены на помощь в решении медицинских задач. Существующие технологии требуют длительной калибровки, и их возможности ограничены считыванием сигналов, например, движений или базовых команд.
Кроме того, у людей отсутствует универсальная «матрица мыслей», доступная для интерпретации. Например, одни люди думают словами, другие — образами, а у третьих может полностью отсутствовать внутренний голос. Мысли — это сложный и уникальный процесс.
Даже гипотетически достижение такого уровня технологий потребует фундаментальных открытий в нейробиологии и вычислительных науках, которых пока нет.
ИИ может перепрограммировать реальность
Тут вступает в силу теория симуляции, которая предполагает, что наш мир может быть программой. А ИИ благодаря своим мощностям сможет изменить законы физики и перепрограммировать мир вокруг нас.
Опровержение:
Наша Вселенная строится на законах физики, изменить которые не может ни человек, ни искусственный интеллект. Компьютеры и алгоритмы — это только инструменты, которые работают с данными, но не способны нарушить физические принципы.
Правда, в теории симуляции законы физики — тоже часть симуляции. Но сама теория — скорее художественный феномен, обязанный своей популярностью знаменитой «Матрице». Все попытки научного обоснования этой теории провалились. Поэтому и переписать реальность невозможно: ни с помощью ИИ, ни без него.
С помощью ИИ будет установлен массовый контроль над людьми
ИИ будет применяться для тотальной слежки за людьми и манипулировать ими на глобальном уровне.
Опровержение:
Эти опасения не случайны, но они касаются не только ИИ, а технологий в целом. Инструменты сбора данных о нашем поведении в интернете, неконтролируемое использование дипфейков — опасный инструмент в руках недобросовестных людей.
Вопрос использования ИИ — в первую очередь социальный, а не научный дискурс. Ответственность за применение ИИ лежит на людях, и его использование обсуждается на уровне общественных договоров, а не самой технологии. Сейчас активно разрабатываются регуляции и этические нормы в сфере ИИ. Например, кодекс этики ИИ Альянса в сфере ИИ в России. Также в 2024-ом вступил в силу очень жесткий Регламент Евросоюза об искусственном интеллекте, а осенью того же года ООН опубликовал доклад со своей версией рекомендаций по регулированию технологий. Похожие документы есть или разрабатываются в разных странах, в частности, в Китае и США.
Конспирологические теории об ИИ часто основаны на страхах и недопонимании, а их авторы игнорируют реальные достижения науки и технологий. Большинство утверждений о заговоре или скрытых намерениях создателей ИИ не учитывают сложность этих технологий и принципы их функционирования. В контексте обсуждения современных технологий ИИ существует ряд этических и технических вопросов, которые действительно требуют исследования и осмысленного подхода, но все они находятся далеко за пределами фантазий о «злых разумных машинах».
➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.