Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Инвестиции в искусственный интеллект: как учесть нормы этики и заработать

Фото: Юлия Спиридонова для РБК
Фото: Юлия Спиридонова для РБК
Как найти баланс между практическими и этическими соображениями при инвестировании в технологии распознавания лиц?

Об эксперте

Константин Синюшин, серийный ИТ-предприниматель, бизнес-ангел в области интернет- и мобильных решений, управляющий партнер фонда the Untitled Ventures, специализирующегося на инвестициях в стартапы на посевных стадиях.

Моральная дилемма

Пандемия подлила масла в неутихающую дискуссию об этической стороне разработки систем искусственного интеллекта. Использование ИИ-технологий для отслеживания контактов заразившихся коронавирусом, обнаружения новых случаев и анализа данных массового тестирования вызвало новую волну вопросов о приватности личных данных. Большинство из них сводятся к тому, сможет ли вклад ИИ в борьбу с вирусом перевесить ограничение прав человека на частную жизнь.

Печально известный кейс: алгоритм канадского ИИ-стартапа BlueDot обнаружил вспышку вируса в Ухане примерно за десять дней до того, как китайские власти объявили о ней. А китайская интернет-компания Alibaba заявила о разработке ИИ-системы, идентифицирующей коронавирус на снимках компьютерной томографии за 20 секунд и с 96-процентной точностью. Нужно ли разрабатывать такие системы? Думаю, да.

Фото:РБК Тренды
Индустрия 4.0 Большие данные против коронавируса: 24 модели окончания пандемии

В то же время, чтобы сдержать распространение вируса и мониторить соблюдение карантина, Китай мобилизовал различные ИИ-системы слежения за населением — от дронов до CCTV-камер (камеры видеонаблюдения. — РБК Тренды). Другие страны, включая Израиль, Сингапур, Южную Корею и Германию, используют комбинации геолокационных данных, видео с CCTV-камер, данных кредитных карт и других источников, чтобы отслеживать распространение вируса.

Этично ли следить за людьми в этом контексте? Кажется, общество уже нашло свой ответ. Проблема не в разработанной технологии, а в том, кем она используется и какой цели служит. Большинство населения упомянутых стран может одобрять слежение через CCTV-камеры и системы распознавания лиц, но лишь временно, пока вирус не взят под контроль. Однако поддержат ли они использование таких систем на постоянной основе, в «мирное» время? И как будут храниться и защищаться данные, собранные во время пандемии? На эти вопросы ответов пока нет, равно как и на опасения, что усиленный видеомониторинг станет новой нормой.

И из этого рождается еще один вопрос: как именно такие данные будут использоваться после пандемии и о чем они будут информировать власти? К примеру, в сенате США уже не первый год обсуждается вопрос о том, как именно ФБР использует многомиллионную базу данных изображений и водительских удостоверений. Одна из главных претензий — ошибки при идентификации личности и задержании людей на основе данных системы. А власти Великобритании пытаются разобраться, как лучше использовать обновленные CCTV-камеры со встроенной технологией распознавания лиц и не навлечь на себя гнев налогоплательщиков. Безопасность и защита прав и свобод человека, к слову, указываются как основные принципы развития искусственного интеллекта в России — по крайней мере, в тексте Национальной стратегии развития искусственного интеллекта на период до 2030 года.

Фото:HQuality / Shutterstock
Индустрия 4.0 Что такое компьютерное зрение и где его применяют

В целом машинное зрение, на котором строятся технологии распознавания лиц, отлично работает для множества прикладных задач — от разблокировки телефона и осуществления платежей до пограничного контроля и медицинских исследований. Но только если у человека есть возможность дать или не дать согласие на обработку своих данных. И здесь мы подходим к ключу моральной дилеммы — проблемы возникают тогда, когда этого согласия не спрашивают.

Выбор инвесторов

Венчурные инвесторы, для которых ИИ — один из наиболее освоенных сегментов, тоже стоят перед дилеммой. С одной стороны, искусственный интеллект прокладывает себе путь в здравоохранении и финансах. С другой — правительства заинтересованы в другом его приложении — автономном оружии.

Семь ключевых игроков — США, Китай, Россия, Великобритания, Франция, Израиль и Южная Корея — уже вступили в так называемую гонку ИИ-вооружений. Однако, по аналогии с гонкой ядерных вооружений, инвестиции в такое приложение искусственного интеллекта создают угрозу человечеству. В этой «гонке» скорость разработки имеет приоритет над безопасностью и этическими соображениями и в конечном счете вредит самой индустрии. ИИ-стартапы и инвестирующие в них фонды в массовом сознании ассоциируются с пособниками Большого Брата, которые прикрывают реальные цели своих разработок мирными приложениями.

Фото:Shutterstock
Индустрия 4.0 Техновизионер IBM — об этике ИИ и финансировании разработок военными

С другой стороны, не инвестировать в искусственный интеллект — значит, оставаться за бортом мирового технологического рынка. Несмотря на снижение активности во втором квартале 2020 года (объем сделок с ИИ-стартапами достиг трехлетнего минимума в $7,2 млрд), это по-прежнему один из крупнейших сегментов венчурных инвестиций. За последние десять лет ИИ-компании привлекли более $61 млрд венчурных денег, причем центры притяжения инвестиционной активности довольно разнообразны: Европа, Китай, США.

На разработках в сфере искусственного интеллекта фокусируется и фонд the Untitled Ventures. В нашем портфолио — ИИ-проекты из Восточной Европы, включая разработчика маркетинговых решений Sarafan, сервис для подбора размерного ряда Sizolution, система персонализированного контента Adnetic, AI-генератор модных образов SuitApp. Эти проекты имеют конкретное коммерческое приложение и обрабатывают данные лишь после согласия пользователя.

С точки зрения венчурного инвестора, новые технологии хороши сами по себе, потому что они открывают целый спектр новых возможностей. Крупные сделки последних лет — когда Toyota вложила $400 млн в китайского разработчика беспилотных автомобилей Pony.ai в феврале 2020 года или раунд на $319 млн в туристический стартап Vacasa — лишь доказывают это.

Если инвестор сталкивается с моральной дилеммой, решая, инвестировать ли в искусственный интеллект, рекомендую ответить на следующие вопросы. Они помогут расставить приоритеты.

  1. Это конкретное приложение ИИ способствует свободе человека или скорее ограничивает ее?
  2. Разработчики технологии предусмотрели, как получить согласие пользователя на сбор и обработку личных данных?
  3. Не противоречит ли применение технологии вашим личным моральным принципам?

Если уж речь зашла о приоритетах, наиболее интересно сейчас выглядит применение ИИ, интернета вещей (IoT) и машинного зрения для построения «умных» технологических линий на производстве. Промышленная робототехника развивается в сторону компоновки производственных линий под малую серию или даже индивидуальные заказы. Такие линии из автономных универсальных роботов могут обслуживать кастомизированные заказы и сокращать затраты на логистику. Стартапы, разрабатывающие такие системы, потенциально могут принести больше пользы обществу, чем те, что работают над распознаванием лиц с камер видеонаблюдения.


Подписывайтесь также на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Обновлено 01.12.2020
Главная Лента Подписаться Поделиться
Закрыть