Что такое Азиломарские принципы и зачем они искусственному интеллекту

Что такое Азиломарские принципы

Азиломарские принципы — это 23 рекомендации, которых важно придерживаться в работе с искусственным интеллектом, чтобы использовать его исключительно в позитивном ключе. В 2017 году в Калифорнии прошла конференция Beneficial AI 2017, посвященная безопасному применению искусственного интеллекта для пользы человечества. В ней приняли участие ученые и эксперты в области IT, ИИ-технологий, робототехники и права. Результатом конференции как раз и стали Азиломарские принципы. [1]

Принципы охватывают различные аспекты, например безопасность, исследовательскую этику, равенство, прозрачность. Несмотря на то что документ не имеет юридической силы, он может выступать как этическое руководство для тех, кто участвует в исследованиях и разработке ИИ-технологий.

Азиломарские принципы подписали более 5700 человек, среди которых бизнесмен Илон Маск, физик-теоретик Стивен Хокинг, профессор Калифорнийского университета Стюарт Рассел, сооснователь и главный научный сотрудник OpenAI Илья Суцкевер, основатель DeepMind (позже компанию приобрела Google) Демис Хассабис.

Почему Азиломарские принципы необходимы

Искусственный интеллект обладает огромным потенциалом как для улучшения нашей жизни, так и для создания проблем или усугубления уже существующих. Одна из них — социальная дискриминация. Например, было обнаружено, что система распознавания лиц Rekognition предвзято относится к людям с темной кожей [2]. Алгоритм найма Amazon проявлял дискриминацию по отношению к кандидатам-женщинам [3], а у алгоритма вынесения приговора могут быть расовые предрассудки в отношении темнокожих обвиняемых [4]. Такие кейсы возникают из-за того, что массивы данных, на которых обучаются нейросети, содержат предвзятую информацию (bias), и алгоритмы начинают ее воспроизводить. Азиломарские принципы призваны минимизировать воздействие такой информации.

Кроме этого, нерегулируемое развитие ИИ может лишать людей работы и негативно влиять на экономику регионов. Поскольку роботы и нейросети все лучше и лучше справляются со сложными задачами, есть риск того, что со временем они могут вытеснить реальных сотрудников с их рабочих мест. Это приведет к безработице и экономическому спаду. Принципы диктуют, что любая ИИ-технология должна разрабатываться таким образом, чтобы не просто не отнимать работу, а приносить пользу всем членам общества.

Согласно Азиломарским принципам, ИИ-разработки должны быть прозрачными и подотчетными, так как именно это укрепляет доверие людей к новым технологиям. ИИ-системы часто считают «черными ящиками» — речь идет о сложности понимания и контроля над решениями и действиями, которые производят системы и алгоритмы ИИ. Это порождает скептицизм в отношении искусственного интеллекта, особенно в таких важных областях, как здравоохранение и уголовное правосудие. Системы ИИ должны быть спроектированы таким образом, чтобы суть их работы была ясна каждому. Людям нужно понимать, как принимаются решения, какие в проекте задействованы разработчики и кто несет ответственность за действия искусственного интеллекта.

Ключевые принципы

• Польза. ИИ-разработки должны нести пользу и благо для всех людей и окружающей среды.
• Безопасность. Системы ИИ должны проектироваться и эксплуатироваться так, чтобы свести к минимуму риск непреднамеренного причинения вреда людям.
• Прозрачность. Проектирование, разработка и развертывание систем ИИ должны быть прозрачными; системы ИИ должны объяснять людям свои решения и действия.
• Конфиденциальность. ИИ-технологии должны сохранять безопасность личных данных, а пользователи должны иметь возможность контролировать, какие из их личных данных ИИ-технологии могут использовать для своей работы.
• Справедливость. В ИИ-разработках не должны допускаться случаи дискриминации.
• Человеческий контроль. Люди должны иметь возможность контролировать системы ИИ, чтобы предотвращать причинение ими вреда.
• Общая выгода. ИИ должен приносить пользу обществу в целом, а не только небольшим группам людей или отдельным организациям.
• Ответственность. Люди, отвечающие за разработку и развертывание систем ИИ, должны нести ответственность за их влияние на общество.
• Отсутствие гонки ИИ-вооружений. Необходимо избегать противостояния государств ради достижения превосходства в сфере летального автономного оружия и других военных ИИ-систем.

В то же время ученый Техсин Зия, который руководит исследованиями в области ИИ в Университете Комсатс (Исламабад, Пакистан), отмечает и слабые места документа. Во-первых, принципы носят лишь рекомендательный характер, а значит, никто не обязан их соблюдать. Во-вторых, принципы не предлагают никаких конкретных мер по предотвращению или исправлению неблагоприятных ситуаций, а значит, их практическая ценность вызывает сомнения. В-третьих, принципы составлены довольно абстрактно, а значит, оставляют свободу для интерпретаций, отмечает Зия. [5]

Какие еще были попытки сделать область ИИ этичной

Общественный интерес к теме гуманности и этичности ИИ возник 1960-е годы, всего через несколько лет после того, как появилось само понятие «искусственный интеллект». Первыми, кто поставил и попытался решить вопрос морали в сфере ИИ, стали писатели-фантасты. Они рассуждали о том, нужны ли роботам свои «заповеди» и нравственные принципы — так возникло целое течение под названием «робоэтика».

В романе Карела Чапека «R.U.R.» (1920), где впервые и был предложен термин «робот», существовала Лига гуманности. По ее законам роботы не должны подвергаться бесчеловечному обращению.

К теме этичности ИИ вернулись в начале 2000-х годов, когда роботы стали появляться на предприятиях, улицах городов, в домах людей. В 2004 году в итальянском городе Сан-Ремо (Италия) прошел Первый международный симпозиум по робоэтике, а в 2017 году Европарламент принял Европейскую хартию робототехники. [7] Дискуссии о робоэтике вновь обострились из-за массового появления боевых автономных роботов и дронов, а также появления сексоботов.

Новый расцвет нейросетей и моделей глубокого обучения сделал вопрос этики ИИ еще более острым для крупнейших IT-компаний. В 2016 году Microsoft опубликовала «10 законов для искусственного интеллекта» [8]; собственные правила этики ИИ сформулировала и IBM [9]. Свои своды этических норм в области искусственного интеллекта есть у нескольких десятков крупных IT-компаний в мире.

В 2021 году в Москве прошел первый международный форум «Этика искусственного интеллекта: начало доверия». По его итогам был принят российский Кодекс этики в сфере ИИ [10]. Его подписали более 100 российских организаций. В его основе, как и в основе Азиломарских принципов, лежат непричинение вреда, прозрачность, осознание ответственности за действия ИИ и человекоориентированность. Кодекс также носит рекомендательный характер.

Практическое применение этических принципов

Все больше государственных организаций, коммерческих компаний и НКО стараются внедрять в работу подход ethics by design, согласно которому решать потенциальные этические дилеммы нужно еще на стадии проектирования и создания систем искусственного интеллекта. Такой подход требует дополнительных компетенций от разработчиков.

Еще один подход — AI Localism. Его суть заключается в том, чтобы отталкиваться не от решения глобальных моральных дилемм в теории, а собирать лучшие кейсы реальной работы с этическими вопросами в отдельных странах, городах и компаниях.

Еще один вариант применения этических принципов — собирать обратную связь от самих пользователей, людей, которым ИИ нанесли ущерб, дискриминируемых групп, а также исследователей и некоммерческих организаций, а не только от разработчиков, экспертов и регуляторных органов. Тогда этические нормы будут максимально точными и полезными для целевой аудитории.