Техновизионер IBM — об этике ИИ и финансировании разработок военными
Вопрос этики технологий стоит уже давно. И если в плане ответственности человека за решения, принятые алгоритмами, все относительно ясно, то как быть с финансированием технологических разработок военными? А с управлением поведением людей с помощью ИИ ради развития бизнеса?
Эксперт тренда
Олег Бяхов, директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского государственного университета по специальности «Логика». Соруководитель рабочей группы по подготовке первой Стратегии информационного общества в России, руководитель первого российского ИТ-форсайта (2005 — 2007 годы). С 2007 года работает в компании IBM.
Этика алгоритмов ИИ
На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2016-2018 году исследователи обнаружили, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.
Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, компания IBM в начале 2019 года выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают всего около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.
Важный аспект любого использования искусственного интеллекта — ИИ дополняет человеческий интеллект, а не заменяет его. Конечное решение всегда должно приниматься людьми.
В контексте этики использования ИИ можно привести несколько наших облачных сервисов для СМИ и маркетологов, например, IBM Personality Insights, IBM Watson Advertising, IBM Watson Media. Они предназначены для вовлечения аудитории онлайн за счет персонализации контентного или продуктового предложения, учета настроения потребителя.
Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт. Для этого искусственный интеллект необходимо встроить не только в рекомендательные алгоритмы e-commerce, но и во всю производственную цепочку. Это нужно, чтобы продукт или услуга были доступны в тот момент, когда у пользователя системы созреет соответствующий запрос.
Этика финансирования ИИ
IBM ведет разработку нового поколения ИИ — нейросимволического. Он будет обучаться по принципу обучения детей — то есть в основе алгоритма будет лежать механизм когнитивного поведения ребенка. Программу спонсирует Управление перспективных исследовательских проектов министерства обороны США (DARPA).
Эта организация внесла вклад в развитие огромного количества технологий. Например, интернет и системы машинного перевода возникли как проекты DARPA, а сейчас они лежат в основе цифрового мира. То есть даже если перспективные технологии исследуются правительством США, они, как и в случае других стран, могут иметь как гражданское, так и военное применение. Компании и организации не могут полностью ограничить использование своих технологий в военных целях — например, запатентованные разработки становятся публичным знанием. Ограничения же на оборот технологий накладывают правительства.
«Америка исторически использовала меры контроля над экспортом передовых технологий, разработанных здесь, у себя дома, чтобы гарантировать, что они не будут использоваться не по назначению за рубежом таким образом, чтобы это противоречило интересам национальной безопасности, приоритетам внешней политики или американским ценностям», — Кристофер Падилла, вице-президент IBM по связям с государственными и регуляторными органами.
В области искусственного интеллекта IBM имеет два глобальных центра совместных исследований с крупнейшими университетами: Массачусетский технологический институт (MIT) и Университет Нотр-Дам в США. IBM финансирует университетские исследования, потому что это помогает находить решения фундаментальных проблем, которые потом используются в широком спектре технологий. Мы также организуем стажировки молодых ученых из университетов, в том числе российских, в исследовательских лабораториях IBM Research.
Этика автономных систем на воде и на суше
IBM лишь косвенно вовлечены в разработку решений, касающихся автономного управления автомобилей — можно привести в качестве примера напечатанный на 3D-принтере автономный автобус Olli. Компания в настоящее время фокусируется на задачах управления морскими судами. В апреле 2021 года в путешествие отправится полностью автономное судно «Мэйфлауэр», которое недавно было спущено на воду в британском Плимуте.
Морское управление — более сложная история, чем управление на дорогах с твердым покрытием. В чьих интересах будет двигаться автономное судно, чтобы при возможной аварии нанести наименьший ущерб? Безопасность алгоритма управления ИИ в данном случае состоит в том, чтобы правильно рассчитать достаточное время для успешного маневра, а не принимать критически важное решение за две секунды до неминуемой трагедии.
Этика рынка труда: что будет с профессиями через десять лет
ИИ исключает рутинные задачи, но не обязательно приводит к сокращению рабочих мест. Рынок труда генерирует огромное количество цифровых задач, которые требуют включения ИИ в сам процесс. Например, в США ежегодно не заполняется порядка 70 тыс. вакансий специалистов в области информационной безопасности, потому что этих кадров не хватает. Но такие профессии, как водитель, где есть огромное количество проработанных на сегодняшний момент алгоритмов, могут стать неактуальными достаточно скоро. Такие профессии трансформируются из массовых в экспертные — рабочие места водителей на фиксированных маршрутах скорее всего исчезнут. Уже сейчас на некоторых карьерах можно видеть исключительно автономные самосвалы.
А вот профессии врача, судьи, юриста к 2030 году не должны исчезнуть. Ведь такие профессионалы не всегда работают по простым алгоритмам, а значит, их действия не могут быть четко регламентированы. Прибавьте сюда еще законодательство, которое постоянно совершенствуется, и этот процесс сопровождается множеством дебатов. ИИ поможет избавить человека от рутины, хранения в уме и анализа большого количества данных — ведь свод законов, например, Российской Федерации не способен удержать в голове ни один юрист.
Стандарты этики IBM
Искусственный интеллект в массовом сознании ассоциируется с потребительскими приложениями, виртуальными ассистентами и с аналитическими системами социальных сетей, потому что именно с ними люди сталкиваются в первую очередь. Для IBM ИИ-алгоритмы — это прежде всего ценный инструмент для оптимизации бизнеса клиентов.
Компания руководствуется тремя основными принципами этики в вопросах обучения ИИ и использования данных:
- полезность для бизнеса: алгоритмы глубоко встраиваются не только во фронт-офис, но и в каждый бизнес- и операционный процесс (как, например, роботизация производства);
- право собственности: данные принадлежат тому, кто их создал. IBM соблюдает авторские права и никому, кроме владельца, не предоставляет доступ к данным, которые хранит и обрабатывает, включая правительство любой страны. Исключение — судебные предписания, выданные в соответствующей юрисдикции;
- публичность данных: компания использует данные, которые являются общедоступными в силу закона или соглашения между субъектом персональных данных и тем, кто их обрабатывает.
Для того, чтобы соответствовать этим принципам, каждый проект в области ИИ в IBM проходит через одобрения этической коллегии (AI Ethics Board), в которую входят как технологические специалисты, так и юристы, эксперты по психологии и этике.
Подписывайтесь также на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.