Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Специалист по ИТ-этике: как научить робота отличать «хорошо» и «плохо»

Фото: Unsplash
Фото: Unsplash
ИИ и другие информационные технологии — инструменты, которые можно использовать как во благо, так и во вред человеку. Избежать ущерба от их работы поможет специалист по этике ИТ и ИИ. Рассказываем, как им стать

Кто такой специалист по ИТ- и ИИ-этике

Специалист по ИТ- и ИИ-этике решает сложные этические ситуации, которые возникают при использовании информационных технологий или искусственного интеллекта. Это одна из профессий будущего.

Автомобили, управляемые искусственным интеллектом, уже проходят тестирование на дорогах Москвы, проект беспилотных грузоперевозок по российским трассам получил экспериментальный правовой режим. При этом ни в одном кодексе нет четких указаний, кто будет нести ответственность, если авария произойдет по вине беспилотника: разработчик системы беспилотного управления, владелец автомобиля или вовсе сам ИИ.

Фото:Ben Stansall / WPA Pool / Getty Images
Индустрия 4.0 Военный беспилотник впервые атаковал человека без специального приказа

Другой пример — приложение «Социальный мониторинг», выпущенное в 2020 году для контроля самоизоляции больных COVID-19 в Москве. В 2020 году из-за нестабильной работы пользователи получали ошибочные штрафы в ₽4 тыс. — одну треть минимального размера оплаты труда в России — за каждый «выход» из дома. Критики назвали этот факт прямым нарушением прав человека. Хотя мэрия Москвы перестала получать жалобы на работу программы, «Социальный мониторинг» продолжает собирать отрицательные отзывы в App Store и Google Play.

К вопросам из сферы деятельности специалиста по ИИ-этике еще можно отнести:

  • пределы сбора и использования персональных данных, обеспечение их безопасности;
  • предвзятость в работе ИИ и прочих машинных алгоритмов;
  • прозрачность работы ИИ;
  • использование ИИ в искусстве и распределение прав на произведения, созданные с его помощью.

Ключевые навыки специалиста по ИТ- и ИИ-этике

Чтобы стать профессионалом в области прикладной этики, необходимо понимать, на чем строится та или иная технология. Еще понадобятся знания международного, ИТ-права и права на интеллектуальную собственность с их территориальной спецификой, понимание культурных различий между представителями разных стран и национальностей. Их важно учитывать, чтобы составлять общие кодексы и решать сложные этические кейсы в разных странах.

Фото:Franki Chamaki / Unsplash
Индустрия 4.0 Авторские правки: кому принадлежат права на творчество ИИ

Откуда придет профессия

В профессию можно прийти из нескольких сфер. Ближе всего — инженеры, разработчики и специалисты по информационной безопасности, которые знают технологии изнутри и хотят установить общие профессиональные этические стандарты. В эту область могут перейти и юристы, разбирающиеся в информационном праве, и госслужащие, в чьи задачи входит работа с данными.

Тренды и направления профессии

Необходимость решать вопросы, связанные с этическим использованием ИТ и искусственного интеллекта, — глобальный тренд. Еще в 2019 году консалтинговая компания KPMG назвала ИИ-этика одной из самых востребованных профессий в разработке ИИ.

Фото:Shutterstock
Индустрия 4.0 Техновизионер IBM — об этике ИИ и финансировании разработок военными

Массовая цифровизация услуг, в том числе государственных, и роботизация влекут за собой рост числа случаев, когда ИИ принимает спорные с точки зрения прав человека решения. Так, в 2018 году компания Amazon отказалась использовать собственную систему по подбору персонала на основе искусственного интеллекта: алгоритм снижал рейтинг резюме, в которых встречалось слово «женский» (women’s). Причиной такой дискриминации стал тот факт, что для обучения нейросети использовались преимущественно резюме мужчин.

При этом законодатели не успевают за развитием технологий и полноценным обеспечением безопасности граждан. Между тем американский сенатор Нэнси Пелоси чуть не лишилась работы из-за выложенного видео с ее измененным голосом — дипфейка. В ролике создавалось ощущение, что сенатор произносит речь в нетрезвом состоянии. А топ-менеджер энергетической компании из Великобритании после телефонного звонка перевел мошенникам около $250 тыс. — ИИ сымитировал голос его руководителя из Германии.

Также остро стоит вопрос авторских прав и интеллектуальной собственности. В 2019 году Huawei объявила, что ИИ оказался способным завершить Восьмую симфонию Франца Шуберта. Может ли алгоритм в таком случае считаться ее соавтором? К тому же есть и подводные камни в использовании цифровых двойников актеров в фильмах и рекламе. Сейчас эти права могут принадлежать кинокомпаниям или родственникам. Но тот же Питер Кушинг, которого «воскресили» для фильма «Изгой-один», не давал личного согласия на создание своей копии. Потомки могут только гадать, понравилась бы ему такая идея или нет. А студии задаются вопросом, насколько корректно использовать цифровых двойников еще живых актеров, если те отказались лично сниматься в сиквелах.

Фото:Unsplash
Индустрия 4.0 Что такое цифровые двойники и где их используют

Однако законодательные ограничения «наперед» могут быть бессмысленными. Ведь с точностью предугадать, в какую сторону пойдет технический прогресс, довольно трудно. Поэтому ориентироваться можно только на сегодняшние наиболее чувствительные к конфликтам технологии. К ним относят цифровые данные, искусственный интеллект и интернет вещей.

По этим причинам самой перспективной областью работы специалистов по ИТ- и ИИ-этике станет разработка этических стандартов и кодексов. Эти документы будут помогать компаниям и государствам учитывать моральные аспекты работы технологий и решать связанные с их деятельностью проблемы. В основе таких кодексов, вероятнее всего, будут заложены этические принципы гуманизма. Они же являются базой Всеобщей декларации прав человека. В частности, сейчас темой этических предписаний для инженеров и разработчиков занимается Институт инженеров в области электротехники и электроники (IEEE).

Как стать специалистом по ИТ- и ИИ-этике

ИТ- и ИИ-этика сегодня не самостоятельные дисциплины. Более того, в России почти нет вузов, где эта дисциплина входит в программу обучения инженеров, программистов или госслужащих. Поэтому получить знания обычному специалисту или студенту можно только на дополнительных курсах. Большинство из них — на английском языке. Такие можно найти на Coursera, например, от Университета Калифорнии или Технического университета Эйндховена, edX — от Университета Мичигана, Университета Эдинбурга или The Linux Foundation,

На русском языке можно посмотреть курс «Право и этика искусственного интеллекта» Дальневосточного федерального университета. Он размещен на платформе Stepik.

Также получить представление о текущих этических вопросах в ИТ и ИИ с точки зрения госуправления можно из двух докладов «Этика и цифра». Их выпустил Центр подготовки руководителей и команд цифровой трансформации РАНХиГС.

Обновлено 21.12.2021
Главная Лента Подписаться Поделиться
Закрыть