В 2016 году, выступая на Всемирном экономическом форуме в Давосе, его президент — Клаус Мартин Шваб — рассказал о «Четвертой промышленной революции»: новой эпохе тотальной автоматизации, которая порождает конкуренцию человеческого интеллекта с искусственным. Эту речь (а также одноименную книгу) считают переломным моментом в развитии новейших технологий. Многим странам пришлось выбирать, по какому пути они пойдут: приоритет технологий над личными правами и свободами или наоборот? Так технологический перелом превратился в социальный и политический.
О чем еще говорил Шваб и почему это так важно?
Революция изменит соотношение сил между людьми и машинами: искусственный интеллект (ИИ) и роботы создадут новые профессии, но и убьют старые. Все это породит социальное неравенство и прочие потрясения в обществе.
Цифровые технологии дадут огромное преимущество тем, кто вовремя сделает на них ставку: изобретатели, акционеры и венчурные инвесторы. То же касается и государств.
В гонке за мировое лидерство сегодня побеждает тот, у кого больше влияния в области искусственного интеллекта. Мировая прибыль от применения технологии ИИ в ближайшие пять лет оценивается в $16 трлн, причем бóльшая доля достанется США и Китаю.
В своей книге «Сверхдержавы искусственного интеллекта» китайский ИТ-эксперт Кай-Фу Ли пишет о борьбе Китая и США в области технологий, феномене Кремниевой долины и колоссальной разнице между двумя странами.
США и Китай: гонка вооружений
США считается одной из самых развитых стран в области искусственного интеллекта. Мировые гиганты, сосредоточенные в Кремниевой долине — такие, как Google, Apple, Facebook или Microsoft — уделяют огромное внимание этим разработкам. К ним присоединяются десятки стартапов.
В 2019 году Дональд Трамп поручил создать Американскую Инициативу в области ИИ. Она работает в пяти направлениях:
- Исследования и разработки: инвестиции в ИИ-компании.
- Ресурсы: чтобы у компаний был доступ к федеральным базам данных и алгоритмам.
- Стандарты: для разработки надежных и безопасных систем ИИ.
- Кадры: подготовка и обучение сотрудников.
- Международные связи: США, в отличие от того же Китая, делают ставку на обмен технологиями и специалистами, привлекая их лучшими условиями и внушительным объемом венчурных инвестиций.
В Стратегии ИИ Министерства обороны говорится о применении данных технологий для военных нужд и кибербезопасности. При этом еще в 2019-м в США признавали превосходство Китая по некоторым показателям, связанным с исследованиями ИИ.
В 2019 году правительство США выделило около $1 млрд на исследования в области искусственного интеллекта. Однако к 2020 году только 4% руководителей компаний США планируют внедрить технологию ИИ, против 20% в 2019-м. Они считают, что возможные риски от технологии гораздо выше ее возможностей.
Китай стремится обогнать США в области искусственного интеллекта и других технологий. Точкой отсчета можно считать 2017 год, когда появилась Национальная стратегия развития технологий ИИ. Согласно ей, уже к 2020 году Китай должен был сравняться с мировыми лидерами в этой области, а суммарный объем рынка ИИ в стране — превысить $22 млрд. $700 млрд планируют вложить в умное производство, медицину, города, сельское хозяйство и оборону.
Глава Китая, Си Цзиньпин, считает ИИ «движущей силой технологической революции» и экономического роста. Экс-президент китайского Google Ли Кайфу связывает это с тем, что AlphaGo (разработка головного офиса Google) победила китайского чемпиона по игре го Кэ Цзе. Это стало технологическим вызовом для Китая.
Главное, в чем страна уступала США и другим лидерам до сих пор — это фундаментальные теоретические исследования, разработка базовых алгоритмов и чипов на базе ИИ. Чтобы это преодолеть, Китай активно заимствует у мирового рынка лучшие технологии и специалистов, не позволяя, при этом, зарубежным компаниям конкурировать с китайскими внутри страны.
Одновременно среди всех компаний в области ИИ в несколько этапов отбирают лучших и продвигают их в лидеры отрасли. Подобный подход уже применяли в сфере телекоммуникаций. В 2019 году в Шанхае начали строить первую пилотную зону для инноваций и применения искусственного интеллекта.
В 2020 году правительство обещает выделить еще $1,4 трлн на 5G, ИИ и беспилотные авто. Ставку делают на крупнейших поставщиков облачных вычислений и анализа данных — Alibaba Group Holding и Tencent Holdings.
Больше всего преуспели компания Baidu — «китайский Google» — с точностью распознавания лиц до 99%, стартапы iFlytek и Face. Рынок китайских микросхем за один только год — с 2018 по 2019 год — вырос на 50%: до $1,73 млрд.
В условиях торговой войны и ухудшения дипотношений с США Китай усилил интеграцию гражданских и военных проектов в области ИИ. Главная цель — не только технологическое, но и геополитическое превосходство над США.
Хотя Китаю удалось обогнать США по части неограниченного доступа к большим и персональным данным, он все еще уступает в области технологических решений, исследований и оборудования. При этом китайцы публикуют больше цитируемых статей по ИИ.
Но для того, чтобы развивать ИИ-проекты, нужны не только ресурсы и господдержка. Необходим неограниченный доступ к большим данным: именно они дают базу для исследований и разработок, а также — обучения роботов, алгоритмов и нейросетей.
Большие данные и гражданские свободы: какова цена прогресса?
К большим данным в США тоже относятся серьезно и верят в их потенциал для развития экономики. Еще при Обаме правительство запустило шесть федеральных программ по развитию больших данных на общую сумму $200 млн.
Однако с защитой больших и персональных данных здесь не все так просто. Переломным моментом стали события 11 сентября 2011 года. Считается, что именно тогда государство предоставило спецслужбам неограниченный доступ к личным данным своих граждан.
В 2007 году приняли Закон о борьбе с терроризмом. И с этого же года в распоряжении ФБР и ЦРУ появилась PRISM — один из самых продвинутых сервисов, который собирает персональные данные обо всех пользователях соцсетей, а также сервисов Microsoft, Google, Apple, Yahoo и даже записи телефонных разговоров. Именно об этой базе рассказал Эдвард Сноуден, который до этого работал в команде проекта.
Помимо разговоров и сообщений в чатах, электронных писем, программа собирает и хранит данные геолокации, истории браузера. Такие данные в США защищены гораздо меньше, чем персональные. Все эти данные собирают и используют те самые ИТ-гиганты из Кремниевой долины.
При этом единого пакета законов и мер, регулирующих применение больших данных, до сих пор нет. Все основывается на политике конфиденциальности каждой конкретной компании и формальных обязательствах по защите данных и анонимизации пользователей. Кроме того, в каждом штате действуют свои правила и законы на этот счет.
Некоторые штаты все-таки пытаются защищать данные своих граждан, хотя бы от корпораций. В Калифорнии с 2020 года действует самый жесткий в стране закон по защите данных. По нему интернет-пользователи имеют право знать, какую информацию собирают о них компании, как и почему ею пользуются. Любой пользователь может потребовать удалить ее или запретить сбор. Годом ранее здесь же запретили использовать распознавание лиц в работе полиции и спецслужб.
Анонимизация данных — популярный инструмент, которым пользуются американские компании: когда данные обезличиваются, и по ним нельзя идентифицировать конкретного человека. Однако это открывает компаниям большие возможности для сбора, анализа и применениях данных в коммерческих целях. При этом требования конфиденциальности на них уже не распространяются. Такие данные свободно продаются через специальные биржи и отдельных брокеров.
Продвигая законы о защите от сбора и продажи данных на федеральном уровне, Америка может столкнуться с техническими проблемами, которые, вообще-то, касаются всех нас. Так, можно отключить отслеживание геолокации на телефоне и в приложениях, но как быть со спутниками, которые передают эти данные? Сейчас на орбите их около 800, и отключить их невозможно: так мы останемся без интернета, связи и важных данных — включая снимки надвигающихся штормов и ураганов.
В Китае с 2017 года действует Закон о кибербезопасности. Он, с одной стороны, запрещает интернет-компаниями собирать и продавать информацию о пользователях их согласия. В 2018 году даже выпустили спецификацию о защите персональных данных, которая считается одной из самых близких к европейскому GDPR. Однако спецификация — это просто свод правил, а не закон, и не позволяет гражданам защищать свои права в суде.
С другой стороны, закон требует от сотовых операторов, интернет-провайдеров и стратегических предприятий хранить часть данных внутри страны и передавать властям по запросу. Что-то подобное в России предписывает и так называемый «Закон Яровой». При этом у надзорных органов есть доступ к любой личной информации: звонкам, письмам, перепискам в чатах, истории браузера, геолокации.
Всего в Китае действует более 200 законов и правил, касающихся защиты личной информации. С 2019 года все популярные приложения для смартфонов начали проверять и блокировать, если они собирают данные о пользователях вопреки законам. Под прицел попадали и те сервисы, которые формируют ленту постов или показывают рекламу, опираясь на предпочтения пользователя. Чтобы максимально ограничить доступ к информации в сети, в стране действует «Золотой щит», который фильтрует интернет-трафик в соответствии с законами.
С 2019-го Китай начал отказываться от зарубежных компьютеров и ПО. С 2020 года Китайские компании обязали перейти на облачные вычисления, а также предоставлять подробные отчеты о влиянии ИТ-оборудования на нацбезопасность. Все это — на фоне торговой войны с США, которые поставили под сомнение безопасность 5G-оборудования от китайских поставщиков.
Такая политика вызывает неприятие в мировом сообществе. ФБР заявило, что передача данных через китайские серверы небезопасна: к ней могут получить доступ местные спецслужбы. Вслед за ним выразили обеспокоенность и международные корпорации, включая Apple.
Всемирная правозащитная организация Human Rights Watch указывает на то, что в Китае выстроена «сеть тотальной государственной электронной слежки и изощренную систему интернет-цензуры». С ними согласны и 25 государств-членов ООН.
В качестве самого яркого примера приводят Синьцзянь, где государство следит за 13 млн уйгуров — мусульманским национальным меньшинством. В ход идут распознавание лиц, отслеживание всех перемещений, разговоров, переписок и репрессии. Критике подвергают и систему «социального кредита»: когда доступ к различным услугам и даже полетам за рубеж есть только у тех, кто обладает достаточным рейтингом благонадежности — с точки зрения госслужб.
Есть и другие примеры: когда государства договариваются о единых правилах, которые должны максимально защитить личные свободы и конкуренцию. Но и тут, как говорится, есть нюансы.
Как европейский GDPR изменил мировой подход к сбору и хранению данных
С 2018 года в Евросоюзе действует GDPR — Всеобщий регламент по защите данных. Он регулирует все, что касается сбора, хранения и использования данных онлайн-пользователей. Когда закон вступил в силу год назад, он считался самой жесткой в мире системой защиты конфиденциальности людей в Интернете.
В законе приводится шесть законных оснований для сбора и обработки данных интернет-пользователей: например, личное согласие, юридические обязательства и жизненно важные интересы. Также предусмотрено восемь базовых прав каждого пользователя интернет-услуг, включая право на информирование о сборе данных, исправление или удаление данных о себе.
Компании обязаны собирать и хранить самый минимум данных, который необходим им для предоставления услуг. Например, онлайн-магазин не должен спрашивать вас о политических убеждениях, чтобы доставить товар.
Все персональные данные необходимо надежно защищать в соответствии со стандартами закона для каждого вида деятельности. Причем под персональными данными здесь понимается, в том числе, информация о местоположении, этническая принадлежность, религиозные убеждения, файлы cookie из браузера.
Еще одно непростое требование — переносимость данных из одного сервиса в другой: например, Facebook может переносить ваши фотографии в Google Photos. Не все компании могут себе позволить такую опцию.
Хотя GDPR был принят в Европе, его действие распространяется на все компании, которые работают на территории ЕС. GDPR касается всех, кто обрабатывает персональные данные граждан или резидентов ЕС или предлагает им товары или услуги.
Созданный защитить, для ИТ-индустрии закон обернулся самыми не приятными последствиями. Только за первый год Еврокомиссия оштрафовала более 90 компаний на общую сумму более €56 млн. Причем максимальный штраф может доходить до €20 млн.
Многие корпорации столкнулись с ограничениями, которые создали серьезные препятствия для их развития в Европе. В их числе оказался и Facebook, а также авиакомпания British Airways и сеть отелей Marriott. Но в первую очередь закон ударил по малому и среднему бизнесу: им приходится подстраивать все свои продукты и внутренние процессы под его нормы.
GDPR породил целую отрасль: юридические и консалтинговые фирмы, которые помогают привести ПО и онлайн-сервисы в соответствие закону. Его аналоги стали появляться и в других регионах: Южной Корее, Японии, Африке, Латинской Америке, Австралии, Новой Зеландии и Канаде. Большое влияние документ оказал на законодательство США, России и Китая в этой области.
Может сложиться впечатление, что международная практика по применению и защите технологий в сфере больших данных и ИИ состоит из каких-то крайностей: тотальная слежка или давление на ИТ-компании, неприкосновенность личной информации или полная беззащитность перед государством и корпорациями. Не совсем так: удачные примеры тоже есть.
ИИ и большие данные на службе Интерпола
Международная организация криминальной полиции — сокращенно Интерпол — одна из самых влиятельных в мире. Она включает в себя 192 страны. Одна из главных задач организации — составление баз данных, которые помогают правоохранительным органам по всему миру предупреждать и расследовать преступления.
В распоряжении Интерпола 18 международных баз: о террористах, опасных преступниках, оружии, украденных произведениях искусства и документах. Эти данные собирают из миллионов разных источников. Например, глобальная цифровая библиотека Dial-Doc позволяет выявлять украденные документы, а система Edison — поддельные.
Чтобы отслеживать перемещения преступников и подозреваемых, используют продвинутую систему распознавания лиц. Она интегрирована с базами, где хранятся фотографии и другие персональные данные из более 160 стран мира. Ее дополняет специальное биометрическое приложение, которое сравнивает формы и пропорции лица, чтобы совпадение было максимально точным.
Система распознавания выявляет и другие факторы, которые меняют лицо и мешают его идентифицировать: освещение, старение, грим и макияж, пластическая хирургия, последствия алкоголизма и наркомании. Чтобы избежать ошибок, результаты поиска системы проверяют вручную.
Систему внедрили в 2016 году, и сейчас Интерпол активно работает над ее усовершенствованием. Раз в два года проводят Международный симпозиум по идентификации, дважды в год рабочая группа Face Expert обменивается опытом между странами. Еще одна перспективная разработка — система распознавания голоса.
За новейшие технологии в сфере международной безопасности отвечают Международный научно-исследовательский институт ООН (ЮНИКРИ) и Центр искусственного интеллекта и робототехники. В Сингапуре создали крупнейший международный центр инноваций Интерпола. Среди его разработок — робот-полицейский, который помогает людям на улицах, а также технологии на базе ИИ и больших данных, позволяющие прогнозировать и предотвращать преступления.
Как еще используют большие данные в госслужбах:
-
NADRA (Пакистан) — база мульти-биометрических данных граждан, которой пользуются для эффективной социальной поддержки, налогового и пограничного контроля.
-
Администрация социального обеспечения (SSA) в США использует большие данные, чтобы точнее обрабатывать заявки на получение инвалидности и отсекать мошенников.
-
Департамент образования США использует системы распознавания текста, чтобы обрабатывать нормативные документы, отслеживать изменения в них.
-
FluView — американская система для отслеживания и контроля за эпидемиями гриппа.
Вообще-то, большие данные и искусственный интеллект помогают нам во многих сферах. На них построены онлайн-сервисы вроде тех, что оповещают о пробках или скоплении людей. С помощью больших данных и ИИ в медицине проводят исследования, создают лекарства и протоколы лечения. Они помогают организовать городскую среду и транспорт так, чтобы каждому было комфортно. В масштабах государства — помогают развивать экономику, социальные проекты и технические инновации.
Вот почему так важен вопрос о том, как устроена сбор и применение больших данных, а также алгоритмы ИИ, которые с ними работают. При этом, важнейшие международные документы, которые регулируют эту сферу, приняты совсем недавно — в 2018-19 годах. До сих пор нет однозначного решения главной дилеммы, связанной с применением больших данных для безопасности. Когда с одной стороны — прозрачность всех судебных решений и следственных действий, а с другой — защита персональных данных и любой информации, которая может навредить человеку, если ее опубликовать. Поэтому каждое государство (или союз государств) решает для себя этот вопрос по-своему. И этот выбор, часто, определяет всю политику и экономику на ближайшие десятилетия.
Подписывайтесь на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.