Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Что такое цифровой тоталитаризм и возможен ли он в России

Изучаем опыт цифрового тоталитаризма в Китае: как это работает, почему китайцы этому рады и по каким причинам в России эта история «не прокатит»

Правительство России грозится ввести дополнительные технологические меры для контроля населения в период эпидемии коронавируса — в Татарстане уже работают СМС-пропуска на выход на улицу, а на бросок до магазина, аптеки или выгул собак дается не больше часа. Обещание усиления цифрового надзора может из антикризисной меры перерасти в политическую проблему в стране, где население хорошо помнит колючую проволоку. Главный вопрос жителей таков: а что будет, когда эпидемия закончится?

Об авторе: Алексей Маслов, и.о. директора Института Дальнего востока РАН, профессор Высшей школы экономики

Почему Китай — пример цифрового тоталитаризма

В масштабах страны контроль на уровне гаджетов впервые применил именно Китай, там есть все возможности, чтобы сделать цифровой тоталитаризм реальностью. Почему это прокатило?

Камеры наблюдения: мера безопасности или тотальная слежка?

Население страны было готово к контролю, поскольку исторически Китай сталкивался с проблемой управления огромным количеством населения. Оно было велико во все века. Ни у одной страны в мире нет опыта управления почти полутора миллиардами человек так, чтобы не вызвать возмущения.

Дело в том, что властями Китая было взято абсолютно верное направление: максимальное обеспечение со своей стороны запросов граждан. Китайские власти, будем честны, выполняют взятые на себя обязательства. Это уменьшение налогов, реальные улучшения условий жизни, введение пенсионной системы, расширение доступа к качественному образованию, так что каждый китаец чувствует перемены на себе. На этом фоне вводить контроль за обществом было куда более безопасно, потому что этот шаг не требует от общества определенных обязательств в ответ.

Я сейчас внимательно изучаю, что происходит в российской сети по теме коронавируса. В Китае было бы невозможно делать то, чем занимаются у нас. Есть ряд групп, которые, даже не являясь экстремистскими, с начала 2020 года продуцируют ряд фейковых материалов и монетизируют их на хайпе эпидемии. Им не до общества, где их действия страшно расшатывают психологический фон. Теоретически само общество должно блокировать людей, сеющих ложь и панику, а не государство. По сути, контроль за интернетом — это еще и искреннее осознание обществом того, что нравственно, а что нет.

Коронавирус
Россия Москва Мир
0 (за сутки)
Выздоровели
0
0 (за сутки)
Заразились
0
0 (за сутки)
Умерли
0 (за сутки)
Выздоровели
0
0 (за сутки)
Заразились
0
0 (за сутки)
Умерли
0 (за сутки)
Выздоровели
0
0 (за сутки)
Заразились
0
0 (за сутки)
Умерли
Источник: JHU,
федеральный и региональные
оперштабы по борьбе с вирусом
Источник: JHU, федеральный и региональные оперштабы по борьбе с вирусом

Мы привыкли, что в сети есть свой загончик для ценителей порнографии, для фанатов разного вида оружия и других субкультур по интересам, но у нас нет цифрового загончика для идиотов и городских сумасшедших.

Иногда в отсутствие социальных инициатив приходится передавать решение проблемы в руки государства, которое, правда, может с контролем несколько и переборщить.

Система социального кредита (рейтинга) начала разрабатываться правительством Китая с 2010 года. Это система на основе новейших технологий, в частности ИИ, для оценки отдельных граждан или компаний с помощью данных, которые собираются через цифровые приложения, гаджеты и камеры наблюдения, которые установлены в Китае практически повсеместно.

Политбюро ЦК КПК главной целью введения системы видит «построение гармоничного социалистического общества». С 2016 года для обладателей низкого рейтинга правительство ввело такие санкции, как запрет на работу в госучреждениях, отказ в соцобеспечении, особо тщательный досмотр на пропускных пунктах, запрет на занятие руководящих должностей в пищевой и фармацевтической промышленностях, невозможность выбирать люксовые опции в ресторанах и отелях, отказ в покупке билетов и запрет на обучение детей в престижных школах и университетах.

Из неподтвержденных санкций — регулирование скорости интернета и низкий приоритет в местном dating-приложении Baihe.

Как все началось (и при чем тут Винни Пух)

Российский интернет до недавних времен был территорией полной свободы. Китайский же таковым никогда не являлся, поэтому введение жестких правил игры китайцами не воспринимается как что-то антигуманное.

До того, как возникла система социального кредита, Китай «тренировался» на интернет-сети, это было просто, потому что она обеспечена одним крупным провайдером, в отличие от России. Твиттер, DropBox, Instagram и все сервисы Google, как известно, в Китае заблокированы. В ответ на это вводилась альтернативная цифровая реальность, где китайцу пребывать оказалось даже удобнее.

В паутине 5G: как будет выглядеть главный «умный» город Китая Фото: Jason Lee / Reuters

Любому заблокированному ресурсу в Китае соответствует аналог, который сделан с учетом местного потребительского менталитета. Например, клон YouTube — это YouKu, где интерфейс почти полностью идентичен заморскому оригиналу. Однако YouKu полностью заточен под вкусы и привычки китайских граждан, можно сразу заметить, что ролики там гораздо короче привычных нам, а их авторы сразу переходят к сути вопроса или действиям, без особых рассуждений.

Китайцы очень хорошо знают правила игры — ни при каких обстоятельствах нельзя выкладывать ролики, где можно усмотреть критику современной структуры власти, тогда государственная машина включается по полной программе, что может грозить, как минимум неприятной беседой с сотрудником соответстующих служб. При этом вы можете критиковать местную экономику, местный рынок, руководителя на уровне уезда или города, что даже полезно. Поэтому из китайской сети старательно изымаются все эвфемизмы, намекающие на Си Цзиньпина. Это в частности касается образа Винни Пуха, в картинках, видео или тексте, потому что он похож на Си. А, как известно, такого Китай юмора не понимает. В частности, когда Си Цзиньпин встречался с Обамой, цензуре подверглась картинка, где Винни прогуливается с осликом Иа-иа.

Основной целью такой цензуры стала блокировка ресурсов, которые создавали альтернативу политической реальности. Нужно было направить поток пользователей в какой-то доминирующий, очень удобный всем и при этом контролируемый государством сервис, таким стал WeChat, он же — «Вэйсин» по-китайски. С вводом системы WePay в этом так называемом суперприложении можно совершать любые платежи, в том числе коммунальные, или фиксировать схему передвижений — например, соврать, что вы не были в провинции Хубэй во время вспышки коронавируса, не выйдет, все данные налицо. Не пользоваться приложением тоже невозможно, потому что других официальных способов для безналичных платежей, уплаты налогов, покупки билетов, хранения данных вроде водительских прав, которые можно предъявить при надобности, попросту теперь нет.

Сколько стоит хороший китаец

Начиная с 2014 года, получив оцифрованных в «вэйсине» китайцев почти в полном комплекте, правительство начало вводить систему социального кредита.

Как единая она не введена до сих пор, процесс тотального охвата населения должен теоретически завершиться к концу 2020 года, но срок может быть и продлен. Контроль касается не только людей, но и компаний, даже учитывая тот факт, что частные бренды вроде AliExpress или Alibaba все равно отдают свои данные в общий правительственный котел.

Если вы в онлайне покупаете игры, то ваш кредит социального доверия очевидным образом падает. А вот за книги, онлайн-курсы или тем более отчисления в благотворительные фонды — вам добавят значительное количество баллов.

Рейтинг также складывается на основе данных из банков и административных судов, где ваше хорошее поведение и дисциплинированность в уплате кредитов поощряется баллами. Или наоборот.

The New York Times: как компании следят за нашей жизнью через приложения Фото: Matthew T Rader / Unsplash

Единой системы не существует до сих пор, самый развитые системы введены в крупных городах, например, Шанхай, Ханчжоу, причем считается, что пока такая система находится в процессе тестирования, а в конце будет выбран наиболее оптимальный вариант. Один из вариантов таков: каждому человеку в начале выдается «карма» — примерно 1000 баллов, а дальше идет их убавление, и ваша задача — все время держать их на изначальном уровне или близко к нему. Заработать баллы можно также, активно проявляя себя в социуме — сейчас это, например, поехать добровольцем в Ухань, стать донором крови, делать донаты в различные социальные организации. Социальный рейтинг также работает и для иностранцев — если вы живете в Китае, у вас неминуемо есть WeChat, а у властей — все опции контроля над вами. Я как-то в Китае потерял несколько баллов, потому что не вовремя оплатил счет за мобильную связь, при этом заработать мне их уже непросто — пока в этой системе есть недоработки.

Почему китайцу норм, а русскому не очень

Китайцы обожают цифровую реальность, даже тоталитарную. Главным образом систему контроля приветствуют за то, что, наконец, появилась возможность поощрений для тех, кто живет правильно.

В отличие от европейцев и россиян, в частности, это другой народ. У нас есть понятие внутреннего самоконтроля как ответственности перед Богом, так называемое понятие греха — я могу обмануть человека, но не Бога, и вообще человек греховен изначально. Китайцы в принципе не имеют внутреннего ментора, который диктует правоту поступков. Вместо этого есть понятие вины или стыда перед обществом — если окружающие считают, что мое поведение социально приемлемо, то я поступаю правильно, если нет — то я «теряю лицо», что можно сделать только перед обществом, а не перед Богом.

Поэтому система социального кредита фиксирует исторически сложившиеся формы поведения, и сейчас это позволяют сделать технологии. Для нас эта система не сработает, потому что здесь совершенно иные морально-нравственные императивы.

Мой товарищ — русский, который живет в Шанхае — недавно решил переехать на другую квартиру и пришел посмотреть ее вместе с риэлторами. Его тут же остановила охрана со словами «вы потенциально заразный иностранец и нарушитель изоляционного режима» и вызвала полицию. Полицейские в свою очередь приехали арестовать «сбежавшего из карантина», но считав QR-код с его WeChat-аккаунта, тут же отпустили, потому что там черным по белому написано, что этот человек за последние три месяца не выезжал из Шанхая. В этой ситуации, например, в России, полиция могла бы воспользоваться своим служебным положением, здесь же у тебя есть неопровержимое доказательство правоты своих действий.

Андрей Прохорович: «Китайцы боятся России еще больше, чем мы их»

Все мои знакомые-китайцы, с которыми я обсуждал феномен кредита социального доверия, утверждают, что это очень здорово. Мол, появилась возможность контролировать всякое неприятное поведение. Ваш сосед постоянно шумит? Конечно, можно ежедневно вызывать полицию. А можно тихо написать заявление в местный суд, и после сбавки баллов сосед не получит кредит в банке и не сможет купить себе билет на поезд в «горячий сезон», так что лишний раз подумает, как себя вести. С этой установкой не только между соседями, но и на улицах воцарился относительный порядок, камеры висят даже в самых маленьких городских переулках, что сильно уменьшило уровень криминогенности.

Многие не раз обращали внимание на то, как развязно и крайне шумно ведут себя китайские туристы в России — это связано с тем, что с них спадает система контроля, никто не наблюдает за их поведением, оголтелый шопинг и ругательства никак не повлияют на их социальный статус на родине. Дома они просто знают, что живут под «неусыпным оком».

Можно ли обмануть технологии

Для того, чтобы освободиться от IP-привязки, есть всем известная система VPN. Для китайцев, которые таки решают вырваться вовне, привычна бесконечная череда создания и блокирования VPN-адресов.

Но, как же ученые и журналисты? Им выдают специальное разрешение на доступ в «заблокированный» интернет, и они выходят туда с рабочего IP — но из дома почти никогда.

Тут, конечно, возникает соблазн обмануть не только технологии, но и людей, которые контролируют технологии. То есть — попросту разрушить чей-то рейтинг в отместку, и вы пишите заявление в полицию о том, что этот человек делает нечто противозаконное. Но все не так просто: каждое заявление тщательно проверяется с использованием данных о вас и о вашем обвиняемом.

Для этого существуют целые отделы и даже «интернет-суды», в Пекине рассмотрением таких дел занимается нейронная сеть — это виртуальная женщина-судья, которая принимает и анализирует заявки, консультирует в сети по различным вопросам. Ей под силу обработать куда большее количества данных, чем судье-человеку. Поэтому, если вы не хотите инициировать пересмотр вашего рейтинга, который в случае ложного обвинения может обрушится как карточный домик, лучше не пытаться обмануть систему. Ей известно больше, чем думает рядовой китаец. Но пока это все перепроверяется человеком, чтобы ни на кого не «возвели напраслину».

Бесчеловечный арбитраж: смогут ли роботы заменить юристов Фото: Сергей Бобылев / ТАСС

Если уж так хочется серьезно «настучать», то, например, пять лет назад во всех китайских государственных ведомствах висели «ящики доверия». Если вам не нравилось, как работает или поступает тот или иной человек из числа сотрудников, вы могли написать негативный отзыв и опустить в этот ящик. Такие же ящики висели на улицах и в некоторых кварталах, а сейчас жалобы принимаются только в цифровом виде.

Что ждет утратившего социальное доверие

В 2019 году почти 13 млн китайцев были занесены в списки лиц, «не вызывающих доверия». В системе введено несколько санкционных ограничений в зависимости от баллов, которые вы по какой-то причине теряете. С одной стороны, это разгружает юридические сервисы, но тут же возникает вопрос досудебного ограничения свобод.

Интересно, что этот факт беспокоит не столько китайцев, сколько европейцев, которые непрестанно критикуют цифровой тоталитаризм за покушение на какую-то не очень понятную китайцу свободу.

Первое, что вы заметите, если стали плохим гражданином, это ограничение в передвижении. Вы не можете купить онлайн билеты на поезд, самолет или куда угодно по приемлемым ценам или для вас их просто нет в наличии. Для хороших китайцев билеты есть всегда и со скидками около 40%, например, на очень ранние и поздние рейсы. Это особенно ощущается теми, кто намерен провести каникулы вне дома и не может купить билет, а если может — то втридорога. Дальше — вы можете прийти в банк за кредитом или ипотекой, а вам предложат услуги под бешеный процент или не дадут вообще.

Карманные банки: кто переносит в смартфоны сложные финансовые инструменты Фото: Gilles Lambert / Unsplash

Очень болезненная санкция, особенно для студентов, это ограничения на аренду велосипедов, которые в Китае очень распространены. В случае снижения рейтинга помимо арендной платы приходится вносить также и залог, что для студента очень большая сумма.

Компаниям с низким рейтингом могут не давать кредиты или насылать на них аудит.

Цифровой пристав: как применяется искусственный интеллект в налогах Фото: Kholood Eid / Bloomberg

Сейчас идет много споров вокруг учета социального рейтинга родителей при поступлении ребенка в университет. В некоторых провинциях были попытки не принимать детей с «испорченной репутацией» в университет вообще, но это вызывало резкую отрицательную реакцию.

Что из китайского опыта сработает в России

Вот тут пора поговорить про эту непонятную китайцу свободу. Для нас свобода — это очень важное нравственное понятие. За свободу я могу умереть, и это основной постулат европейской культуры. Китаец как минимум не поймет — почему и за что?

Китаец может умереть за семью, за своего руководителя, за народ и правителя, а свобода сама по себе — это абстракция, которая не имеет воплощения.

Если посмотреть перевод слова «свобода» (цзы ю) с китайского, то это можно буквально назвать как «сам себе таков». Понятие же нравственности на китайском звучит очень просто — «дао дэ», то есть «путь и добродетель», и это вовсе не какая-то нравственность перед Богом.

Вот поэтому цифровой тоталитаризм, который прекрасно реализован в Китае, совершенно комфортен для населения, он устанавливает простые правила нравственной игры.

На заметку игроману: чему нас могут научить компьютерные игры

В России же попытка ввести государством цифровой контроль воспринимается как ограничения правил игры. Здесь сложилась полувековая традиция неудовлетворенных запросов населения к государству — мол, вы, там наверху, сначала сделайте нам что-то хорошее, а потом мы будем соблюдать ваши законы и разделим вашу озабоченность. В такой среде недоверия сложилась система с акцентом на наказания, а не на поощрения. Цифровой контроль россиянин может стерпеть только в формате оценки социально правильных поступков, за которые можно получить тот или иной бонус. Нами довольно безболезненно будут восприняты QR-коды, которые откроют доступ к разного рода документам и определенному спектру личных данных, которыми мы так или иначе пользуемся на каждом шагу, и они все равно практически открыты. А вот все, что касается ограничения доступа к определенным интернет-ресурсам — крайне болезненный вопрос для россиян.

Думаю, что без ужесточения цифрового контроля, особенно в связи с эпидемией, мы не обойдемся.

Пусть нас считывает ИИ по мимике, походке, голосу, любимым сериалам в сети, которые мы смотрим, и еде, которую заказываем на дом. Но мы хотим, чтобы власть, которая вводит эту систему, должна быть точно также ей же и подчинена, как и все мы, без исключения.

И мы согласны на это только в рамках сознательного подхода, а не запретительного — нас за все хорошее и честное должны ценить и поощрять.

Следующий материал: