Кибербезопасность, 20 ноя 2020, 15:00

Как слежка государств за гражданами ведет к эрозии прав человека

Читать в полной версии
Фото: Shutterstock
Сегодня люди постепенно превращаются в товар, которым торгуют корпорации, и в объект слежки для государства. Почему это ведет потере человеком цифровых прав?

Об эксперте: Алена Попова — юрист, правозащитник, основатель аналитического центра «Этика и технологии» (создан при поддержке научного совета по методологии искусственного интеллекта РАН РФ). Одна из авторов закона против домашнего насилия.

Внедрение новых технологических решений происходит с огромной скоростью и не всегда во благо человека. Общество не успевает ни обнаружить, ни распознать угрозы. Тем более не успевает оно сформировать запрос на создание защитных мер. Законодательство тоже отстает и не может обеспечить граждан необходимой защитой.

Технооптимисты против техноскептиков

В сфере этики и технологий существует два лагеря экспертов: технооптимисты и скептики. Первые видят огромные плюсы в том, что технологии отнимают у личности часть автономности и почти полностью приватность. Вторые указывают на угрозы, которые разрушают основу государства — права человека. Любимая фраза скептиков, к которым отношусь и я, — «мы должны понимать последствия использования этой технологии».

Например, в октябре этого года стало известно о скандале с утечкой персональных данных гражданина России Рафаэля Халилова, воспользовавшегося ранее каршерингом. Злоумышленники оформили на Рафаэля банковский кредит. Но это не самое плохое: мошенники стали вымогать у мужчины деньги, чтобы его данные не утекли в Сеть вместе с «разоблачением» в том, что он является педофилом. Деньги Рафаэль платить не стал, а потому по базе из 26 тыс. адресов полетела фейковая информация с реальными персональными данными Рафаэля: фото, паспортом, пропиской и его социальными сетями.

Избыточный сбор персональных сведений — это вопрос, который идеологически разделяет скептиков и технооптимистов. Последние утверждают, что история Халилова — скорее исключение, и нам давно стоит забыть про права человека в том виде, какими мы их знаем. Нужно жить в новой реальности, потому что прогресс не остановить, а этика и излишнее внимание к защите цифровых прав человека будут тормозить развитие технологий. Однако права не могут испариться только потому, что есть прогресс.

Искусство манипуляции

Футуролог и историк Юваль Ной Харари утверждает, что психологический взлом человека — самое страшное, что может случиться в XXI веке. Представьте, что будет, если ваш недруг или государство в лице бюрократического аппарата решат взломать вас как биологический алгоритм? В России скандал с британской Cambridge Analytica до сих пор не считается чем-то диким. Многие просто не понимают, что в этом ужасного, если человека с помощью микротаргетинга можно заставить считать, что правда — это ложь, а сила — это слабость.

В марте 2018 года стало известно, что британская аналитическая компания Cambridge Analytica собирала данные пользователей через свое приложение в Facebook и использовала их для размещения политической рекламы, в частности во время президентской кампании в США и референдума о выходе Великобритании из Евросоюза в 2016 году. Вмешательство могло коснуться в общей сложности 87 млн пользователей соцсети. Скандал обернулся для Facebook крупнейшим в истории штрафом $5 млрд, а для Cambridge Analytica — потерей всех клиентов и банкротством.

В недавно вышедшем документальном фильме Netflix «Социальная дилемма» бывшие инженеры и топ-менеджеры ведущих мировых ИТ-корпораций рассуждают о том, что плохого в потере человеком его цифровых прав. На вопрос «Чего вы боитесь больше всего с учетом тотального сбора персональных данных людей?» один из них ответил: «Гражданской войны». Мы живем в реальности, где люди утратили автономность, ими манипулируют с помощью четко подобранной под каждую личность информации. Люди легко начинают верить в ложь — например, в то, что коронавирус — вымысел.

Опасна потеря автономности и с точки зрения отношения граждан и государства. Глобальный контроль информационных потоков, внедрение систем распознавания лиц, объединение персональных данных в единые базы, взятие под контроль баз данных ключевых частных корпораций, создание социального рейтинга, препятствие регулированию в сфере персональных данных — все это лишь часть действий, предпринимаемых правящими режимами для ужесточения контроля над автономностью граждан. То есть над способностью критически мыслить и самостоятельно, не под влиянием искусных манипуляций, принимать решения.

Одни и те же технологии можно использовать по-разному. Все зависит от людей, принимающих решения. При отсутствии должного регулирования и контроля со стороны общества руководство страны будет стремиться укреплять свой режим, а руководство частных компаний — извлекать больше прибыли. В итоге, например, технологии искусственного интеллекта будут использоваться не столько для увеличения продолжительности жизни и улучшения качества образования, сколько для развития технологий слежки за гражданами. При этом руководители государств и корпораций будут прикрывать свои истинные намерения благими целями. Без систем тотальной слежки государство, оказывается, не может эффективно бороться с преступностью. А сбор огромных массивов персональных данных частными компаниями объясняется лишь заботой об угадывании желаний клиентов и персонализацией сервисов.

Уже сейчас многие государства тратят огромные средства на разработку и производство полностью автономных систем вооружения, а могли бы направить эти средства на создание автономного транспорта, который ежегодно сохранял бы жизни огромному числу граждан. Но функция новых методов убийства людей часто оказывается важнее функции сохранения жизни. В рамках кампании против полностью автономных систем вооружения (Campaign to Stop Killer Robots) мы уже много лет призываем в ООН подписать запрет на разработку и использование таких машин убийств. Однако наиболее милитаризованные страны не хотят даже слышать об этом.

Не взирая на лица

Контроль со стороны общества на фоне отсутствия регулирования — критический элемент сдерживания государства и частных компаний от использования технологий во вред гражданам. Ключевую роль приобретает гражданская самоорганизация. Инициативные сотрудники крупных корпораций объединяются и заставляют своих работодателей не только менять политику по отношению к тому или иному вопросу, но и отказываться от выгодных контрактов. Например, сотрудники Google добились разрыва контракта компании с Пентагоном на сумму $10 млрд, подразумевавшего разработку искусственного интеллекта для анализа больших данных Министерством обороны США. Теперь от подобных контрактов отказываются и другие компании.

Во многих городах общественные кампании и организации заставили местные власти отказаться от чрезмерного использования технологий слежки. В итоге системы распознавания лиц людей (то есть тотальная слежка) были запрещены в таких городах США, как Сан-Франциско, Окленд, Сомервилль, Портленд. В Москве сейчас, наоборот, все активнее действует система распознавания лиц. В сентябре 2020 года, например, было возбуждено уголовное дело в отношении полицейских, которые, по версии следствия, торговали данными граждан из базы системы.

При ограничении доступа госорганов и частных компаний к персональным данным можно избежать многих проблем. В Европе на этот вызов ответили принятием жесткого регулирования оборота персональных данных — General Data Protection Regulation (GDPR, Общий регламент по защите данных). Однако большинство стран в мире не стали следовать примеру Европы: слишком заманчивые возможности открываются для правящих режимов и частных компаний при бесконтрольном использовании данных о гражданах.

Сейчас обществу крайне необходим моральный фундамент, который станет компасом при ускоряющихся технологических изменениях. Нельзя полагаться только на законы — в лучшем случае они будут приниматься со значительным опозданием. Гражданское общество должно само стать контролирующим органом. Это осуществимо в демократических государствах, где мнение граждан учитывается при принятии решений и где уже развиты институты гражданского общества. В авторитарных режимах возможности общества остаются сильно ограниченными. Вероятно, нас ждет появление первых цифровых диктатур. Их прообраз, как уверяют международные правозащитники, сложился в Синьцзян-Уйгурском автономном районе Китая. Именно здесь для уйгуров — мусульманского меньшинства Поднебесной — существует режим тотальной слежки за целым народом лишь из-за его религии.

Поэтому та этика, за которую бьются скептики, — это на самом деле правила и нормы по защите прав человека: права на неприкосновенность частной жизни и автономность в принятии решений. Приватность и автономность — это то, что делает нас личностями, которые могут самостоятельно жить именно своей жизнью, принимать решения самостоятельно, а не под влиянием контроля или манипуляций.


Подписывайтесь также на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Кибербезопасность Регуляторы в инновациях IT Человек меняющийся Нейросети Культурные тренды
Главное