1. Объяснимый ИИ (Explainable AI, XAI)
Набор инструментов, который делает действия ИИ более понятными и облегчает их проверку. В алгоритмы встраивается возможность сообщать о том, какие шаги выполнила модель и на каких основаниях дала определенную рекомендацию. С помощью XAI можно улучшать производительность моделей и лучше понимать их поведение.
Чтобы сделать ИИ объяснимым, применяют разные подходы. Вот лишь некоторые из них.
- Использование простых моделей искусственного интеллекта. Такие модели легче интерпретировать, но их возможности ограничены.
- Проверка с помощью специальных алгоритмов. Среди самых популярных — метод SHAP (Shapley Additive exPlanations — «аддитивные объяснения Шепли»). Он основан на концепции, предложенной Ллойдом Шепли в 1950-х годах. Раньше ее применяли в теории игр, чтобы определить роль каждого игрока в исходе матча. А теперь она помогает вычислить вклад разных переменных в выводы ИИ-модели.
- Визуализация данных — например, через графики и диаграммы — также позволяет понять, какие переменные или признаки сильнее всего повлияли на результат.
XAI играет важную роль в соблюдении нормативных требований. Это касается в первую очередь регулируемых отраслей, таких как финансы, здравоохранение, розничная торговля и производство.
Во многих странах власти пытаются как можно скорее сделать ИИ объяснимым. Франция, Норвегия, Южная Корея и другие государства уже отразили это в своих стратегических планах. А в управлении перспективных исследовательских проектов Минобороны США (DARPA) запустили специальную программу по развитию XAI.
Где можно использовать
- Везде, где выводы ИИ-моделей могут повлиять на здоровье и безопасность пользователей. Прежде всего в медицине и критической инфраструктуре.
- В финансах и страховании. Например, автостраховщики с помощью методов SHAP могут узнать, какие именно факторы сильнее влияют на аварийность.
Какие есть ограничения
Развитие XAI пока находится на ранней стадии. Многие методы еще в разработке. А единого мнения о том, какие из них заслуживают доверия, до сих пор нет.
Скорее всего, технологий XAI будет недостаточно, чтобы обеспечить полное доверие к искусственному интеллекту. Нужны длительный опыт использования решений, наработанная статистика и индустриальные стандарты.
Алексей Подрябинников, вице-президент и директор по работе с корпоративными заказчиками «Ростелекома», кандидат технических наук:
«Сегодня к мобильным сетям подключены около 6,7 млрд смартфонов. Современный смартфон — это очень мощный компьютер, постоянно подключенный к сети Интернет. Совокупная мощность всех смартфонов больше не только, чем самый мощный в мире суперкомпьютер, но и чем суммарная производительность всех суперкомпьютеров рейтинга топ-500. Причем вся эта вычислительная мощь на самом деле управляется не столько пользователями, сколько приложениями, точнее теми, кто их пишет. Но люди уже привыкли доверять смартфону в принятии множества решений. Теперь ИИ. Пользователи видят, что иногда нейросеть ошибается, но в целом привыкают ей доверять. Тем более что цена ошибки обычно невелика. Если «умный помощник» неверно указал вам дорогу, вы в худшем случае потеряете время.
Но в бизнесе все иначе. Нам нужно полностью доверять решениям, которые принимаются с помощью ИИ. Концепция XAI придумана именно для этого.
В бизнес-среде возможны три варианта.
- Использовать нейросети, которые работают по принципу «черного ящика», и принимать на себя возможные риски.
- Создавать доверенные модели ИИ и систему их сертификации. Это должны быть модели, обученные на понятных данных, с проверенной результативностью. С четким пониманием, какой процент ошибок они выдают и какого рода могут быть ошибки.
- Полагаться на оператора IT-инфраструктуры, предоставляющего ИИ-решения. В таком случае бизнес доверяет уже не какой-то модели, а конкретной компании, которая управляет решением и за него отвечает.
Думаю, что часть компаний будет так или иначе использовать «черные ящики», в том числе из-за страха отстать от конкурентов. Но многие компании, особенно связанные с критической инфраструктурой, будут ждать объяснимых моделей».
2. Квантовые вычисления
Технология использует законы квантовой механики для решения проблем, с которыми не справляются обычные компьютеры. Например, для моделирования сложных химических или физических систем и процессов.
Классические компьютеры используют двоичный код — вся информация кодируется в виде нулей и единиц. В квантовых машинах применяют кубиты (q-бит, квантовый бит), которые работают на принципах квантовой механики.
Кубит способен находиться в состоянии суперпозиции. То есть существовать сразу во всех возможных состояниях, пока не проведено измерение. Это увеличивает потенциал и скорость вычислений.
Как понять суперпозицию
Разницу между обычным и квантовым битом часто иллюстрируют на примере монеты. Классический бит — это подбрасывание с результатом «орел» или «решка». Но если бы можно было взглянуть на монету и увидеть сразу все промежуточные состояния, то монета оказалась бы в суперпозиции.
Недавно Google заявила, что ее квантовый компьютер мгновенно выполняет вычисления, на которые у лучших суперкомпьютеров на двоичном коде уйдет более 47 лет. Однако квантовым технологиям еще предстоит показать свою практическую полезность.
Алексей Федоров, руководитель научной группы «Квантовые информационные технологии» Российского квантового центра и директор Института физики и квантовой инженерии Университета МИСиС:
«За последние годы мы увидели существенный рост производительности квантовых компьютеров. Причем продолжают развиваться сразу несколько физических платформ, прежде всего сверхпроводниковые чипы, нейтральные атомы, ионы в ловушках, фотоника, а также показывающие последние годы очень стремительный прогресс полупроводниковые кубиты.
Также стоит сказать о постоянном внимании бизнеса к квантовым вычислениям: большинство крупных компаний уже сейчас работают над выявлением задач для будущих квантовых компьютеров. В других направлениях — квантовой защите информации и квантовой сенсорике — также можно отметить заметный прогресс.
Демонстрируемые сегодня кейсы квантового вычислительного преимущества базируются на решении тестовых задач, которые на данный момент не имеют прямых практических применений. Это можно сравнить с первым полетом в космос: была продемонстрирована возможность выйти в космическое пространство, но для превращения этого направления в полномасштабную индустрию потребовались годы и десятилетия развития.
Поэтому не стоит преуменьшать значения подобных экспериментов. Помимо демонстрации возможности квантового вычислительного преимущества вполне вероятен сценарий, при котором тестовым задачам будут найдены практические применения. Одна из задач для демонстрации вычислительного преимущества была изначально придумана как тестовая. Однако через некоторое время было показано, что у нее могут быть полезные применения, например в химических задачах и дизайне лекарств».
Где можно использовать
- Автомобилестроение, химическая промышленность, финансовые услуги и науки о жизни. В McKinsey считают, что первыми эффект от квантовых вычислений увидят именно в этих отраслях. Все это благодаря возможности моделировать процессы — от биохимических до финансовых.
Какие есть ограничения
Сейчас квантовые компьютеры моделируют относительно несложные процессы. Увеличить мощность машин и сложность вычислений мешают в том числе физические ограничения. Например, кубит должен быть полностью изолирован от окружающей среды, иначе возникают помехи. Поэтому пока компьютерам нужны условия, близкие к лабораторным.
3. Нейроморфные компьютеры
Технология, повторяющая принципы работы человеческого мозга. В основе — искусственные нейроны, у каждого из которых есть один выход (аксон). Сигнал с него может поступать на множество других нейронов, меняя их состояние.
Такая архитектура позволяет более эффективно обрабатывать информацию. Например, при обучении нейросетей для распознавания изображений не нужно каждый раз обращаться к хранилищу с данными — они всегда находятся в искусственных нейронах.
Алексей Подрябинников:
«Человеческий мозг для своей работы потребляет всего около 10 Вт электроэнергии в час. Системный блок компьютера — около 200–300 Вт. А суперкомпьютеры — мегаватты.
Разница в том, что компьютерный процессор всегда работает целиком. А мозг включает только участки, нужные для конкретной операции в данный момент.
Нейроморфные вычисления — это попытка повторить схему работы мозга. Такие процессоры задействуют лишь те участки, которые надо использовать прямо сейчас.
Потенциально эта технология может решить две проблемы.
- Сделает доступнее большие вычислительные мощности. Сейчас суперкомпьютеры есть только у гигантских IT-корпораций. По мере развития нейроморфных решений порог доступности сильно понизится.
- Сократит потребность в электроэнергии. Сейчас половина массы телефона — это батарейка, и ее нужно заряжать хотя бы раз в день. Устройства на нейроморфных процессорах станут легче и будут работать дольше».
Где можно использовать
- Сверхчувствительные датчики. Например, для отслеживания изменений температуры, давления и других факторов окружающей среды.
- Системы компьютерного зрения. Нейроморфная архитектура позволяет обрабатывать визуальную информацию так же, как зрительная система человека.
- Обучение ИИ, дата-центры, IoT-гаджеты и другие мобильные устройства. Возможность локально выполнять задачи без обращения к хранилищам данных повышает эффективность практически любых вычислений.
Какие есть ограничения
Эксперименты с нейроморфными вычислениями ведутся на относительно небольших объемах данных. Исследователям еще предстоит понять, насколько хорошо технология будет работать на более масштабных и сложных проблемах. Кроме того, понадобятся новые алгоритмы, которые будут эффективны на нейроморфном оборудовании. Пока эти проблемы не решены.