Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Большой брат: чего добивается движение за визуальную приватность

Фото:Blanc
Фото: Blanc
В крупных городах мы находимся под постоянным наблюдением систем распознавания, только в Москве таких почти 200 тыс. Их внедряют для безопасности, но регулирование отрасли во многих странах далеко от идеала

Об авторе: Филипп Егоров, сооснователь российского стартапа Blanc, разрабатывающего полнолицевые защитные модульные маски; руководитель финтех-направления Vinci Agency.

Ответом на внедрение систем распознавания стало движение за визуальную приватность, которое предлагает регулировать визуальные данные в зависимости от обстоятельств как цифровое commodity, производную личной информации или частную собственность.

Общество под наблюдением

В 2010 году на платформе Facebook появилась функция распознавания пользователей на фото — запуск тогда остался в локальной повестке IT-рынка, во многом потому что в тот период точность алгоритмов идентификации была низкой, системы работали медленно, стоили дорого. Тогда никто не мог представить, что через десять лет функцией распознавания лиц обзаведется большинство флагманских смартфонов, а идентифицировать граждан будут буквально везде — в магазинах, подъездах, на улицах города.

По данным Surfshark, к 2020 году из 194 стран 109 уже внедрили алгоритмы распознавания или законодательно одобрили их использование. Качество технологии тоже улучшилось — с 2014 по 2018 год точность РЛ-систем выросла в 20 раз. Идентификация по лицу стала базовой надстройкой: технологией оснащают смартфоны и ноутбуки, облачные хранилища автоматически распознают и сортируют изображения, а банкоматы и платежные терминалы в магазинах и ресторанах используют аналоги FaceID. Обычно люди сами дают согласие на распознавание — ради удобства и безопасности, но добровольное использование технологии — это лишь верхушка «айсберга», который оценивается в $3,8 млрд.

Наиболее перспективное и прибыльное направление — камеры с функцией распознавания лиц, охват технологии растет с каждым годом. В Китае за последние три года количество умных CCTV-систем выросло со 176 млн до 626 млн, а на локальном рынке возникло несколько стартапов-единорогов, например, Megvii и Yitu, которые за десять лет стали лидерами китайского сегмента.

В число мировых лидеров по количеству камер с распознаванием входят также Великобритания и США, не отстает и Россия: только в столице насчитывается 178 тыс. устройств с РЛ, а до конца года их число вырастет до 187 тыс.

Технологию применяли, например, для отслеживания нарушителей самоизоляции и поимки преступников: до 70% преступлений в Москве раскрывается с помощью CCTV-систем, а именно распознавание лиц помогло раскрыть 3 тыс. преступлений.

Системы видеофиксации помогают находить преступников по всему миру, так, Интерпол с 2016 года благодаря распознаванию нашел 650 человек, находящихся в розыске, а в Китае вездесущие камеры помогают находить людей, которые пропали еще детьми.

Что такое цифровой тоталитаризм и возможен ли он в России

Безопасность vs анонимность

Безопасность — главное ценностное предложение систем распознавания. Первое время технологию применяли для борьбы с терроризмом — например, Усаму бен Ладена после ликвидации идентифицировали с помощью распознавания лиц, а спустя три года экс-сотрудник ЦРУ Эдвард Сноуден рассказал о создании огромной базы фотографий, которую собирает управление — разумеется, в целях безопасности.

Развитие технологий искусственного интеллекта усовершенствовало алгоритмы, а прогресс в индустрии полупроводников сделал умные камеры более доступными. Так системы распознавания стали массово применять полицейские и госведомства для поимки преступников, идентификации людей на протестах и порицания правонарушителей, как в Китае, где публично размещают фотографии и адреса тех, кто нарушил правила дорожного движения. На этом фундаменте развивается surveillance capitalism, подразумевающий отказ от части прав и свобод в пользу систем слежения и сбора данных в обмен на некую общественно-социальную выгоду. В случае с распознаванием лиц, она была очевидной — в среде, где круглосуточно ведется видеонаблюдение, находиться безопаснее. Внедрение технологии долгое время считали безусловным благом и не ставили под сомнение, про поголовную деанонимизацию никто кроме цифровых анархистов не вспоминал.

При этом понятия «защиты от распознавания» на институциональном уровне не существует в принципе — по крайней мере в России. В США закон постепенно встает на сторону людей: например, в Портленде осенью запретили использовать распознавание лиц из-за риска злоупотребления технологией, запрет касается всех госведомств, включая полицию, а также ограничивает применение РЛ в общественных местах. В Америке и ряде других стран начинают осознавать самые очевидные минусы, которые так или иначе связаны с обилием серых пятен в регулировании, которые по умолчанию трактуются в пользу систем распознавания.

Вас снимает скрытая камера: чем опасна технология распознавания лиц Фото:Bobby Yip / Reuters

Другая проблема таких систем — непрозрачность, во многом обусловленная внутренними ограничениями технологии.

Обычный прохожий, шагая по улице, не подозревает, какой алгоритм обрабатывает его изображение, и какую базу данных они пополняют. Часто это несовершенные датасеты, в которых на уровне данных заложены предрассудки и дискриминация.

Например, средняя погрешность алгоритма при распознавании белого мужчины составляет 1%, а в случае с темнокожей женщиной — уже 35%. Иногда базы данных обновляются недостаточно оперативно. Недавно подобный случай произошел в Москве: человека разыскивали по обвинению в краже, затем дело закрыли, мужчина был исключен из реестра, но из-за плохо отлаженных процессов межведомственного взаимодействия все камеры московской подземки в течение года продолжали реагировать на его появление.

В случае с любыми датасетами возникает риск утечки. Данные с московских CCTV, к примеру, можно купить на черном рынке: доступ к камерам наблюдения нелегально продают в чатах и на форумах.

Александр Чулок — РБК: «Риск утечки данных катастрофически растет»

Право на визуальную приватность

Полный запрет РЛ-систем, очевидно, утопия — точно такая же, как тотальная слежка в стиле паноптикума по Бентаму (проекта идеальной тюрьмы). Людям нужен выбор, право на визуальную приватность, которое будет утилизироваться по мере необходимости. Технология распознавания сама по себе нравственно нейтральна, но качество систем и области применения важно регулировать: основная проблема для большинства стран — это отсутствие социального паритета, сбалансированного правового регулирования для каждого сценария.

Не существует никакого механизма обратной связи, невозможно дать согласие на обработку визуальных данных или, наоборот, выйти из-под наблюдения. Предполагается, что нахождение в общественных местах уже равносильно согласию.

Реальное отношение людей к умным CCTV-системам определить сложно: статистика не дает полную картину, а глобальные исследования по теме пока не проводились. По данным Левада-Центра, 47% москвичей выступает за распознавание, а 42% против. При этом 53% опасается тотальной слежки, контроля и недобросовестного использования технологии. В США безопасность персональных данных заботит 58% американцев — для сравнения, действия власти волнуют 52%, а о проблеме насилия с применением оружия задумывается 51%.

Кто и зачем собирает большие данные?

Движение за визуальную приватность развивается как ответ на асимметричное регулирование технологии. Пока это в основном точечные «партизанские» решения: маски, украшения, трафареты для грима, очки с отражателями или лазерные указки — одни из главных инструментов протестующих в Гонконге. Большинство проектов в сегменте из-за неопределенностей с регулированием, хотя и привлекают внимание, не получают массового распространения. Крупные компании присматриваются к зарождающемуся тренду, но пока технологии в области визуальной приватности — вотчина социальных активистов и инженеров-любителей.

А вот разработчики ИИ-систем с такими решениями активно борются. Постоянно совершенствуются алгоритмы, увеличивается точность распознавания в ночных условиях, при перепадах освещенности, частичной и даже полной маскировке лица, в плохих погодных условиях. Весной 2020 года медицинские маски вводили в заблуждение большинство систем распознавания, но за пару месяцев те научились распознавать людей по видимым частям лица и мимике под маской.

Движение за анонимное перемещение

Рынок защиты от распознавания в регуляторной повестке большинства стран ЕС, в США и СНГ находится в глубокой «серой» зоне: визуальная идентичность не является ни объектом физического владения, ни частью цифровой личности. Технология применяется по стандартам «военного времени» — внедряется повсеместно и без ограничений. Однако на уровне регулирующих органов (Еврокомиссия, местные органы самоуправления США) стало заметно возвратное движение законодательного маятника, разрабатывается корректирующая регуляторика, в рамках которой безусловное распознавание будет применяться только в тех зонах, где находится критически важная инфраструктура — например, в аэропорту, на пограничных пунктах, на территориях с пропускным режимом.

Facebook и Google подвергаются все большей критике со стороны властей, а их деятельность в области оцифровки и использования данных отслеживают и ограничивают — то же самое ожидает и тех, кто разрабатывает технологии распознавания. Это ни в коем случае не означает, что рынок схлопнется — в системы распознавания по-прежнему будут инвестировать, но фокус разработчиков сместится на совершенствование алгоритмов и проприетарность (динамическую фильтрацию датасетов, сокращение погрешности при распознавании в конкретных сценариях).

Возможен и другой сценарий: surveillance capitalism всегда предлагает некую выгоду в обмен на приватность. Вполне вероятно, что компании и государство предоставят людям дополнительные бонусы и преимущества, если те согласятся находиться под постоянным наблюдением. Этот сценарий ближе к антиутопии, но именно он реализуется в Китае, где система социального скоринга позволяет получать бонусы за законопослушное поведение и ограничивает в правах тех, кто не готов подчиняться. Остается надеяться, что глобальное усилие стран в этой области в ближайшее время будет направлено в сторону, противоположную «Дивному новому миру» и «1984».


Подписывайтесь также на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Следующий материал: