Разработчики против сотрудничества с военными
В 2018 году в Кремниевой долине случился громкий скандал. Десятки сотрудников Google уволились, еще 4 тыс. высказали недовольство, когда узнали, что все последние месяцы работали на военных. Пентагон заказал у Google «умных» дронов с искусственным интеллектом (ИИ). Проект, известный как Maven, предполагал разработку военных беспилотников, которые умеют запоминать и распознавать объекты, в том числе людей. Это позволило бы сделать удары максимально точными.
Разработчики Google подписали открытое письмо, в котором говорилось, что работа на военных серьезно ударит по репутации компании. Что своим участием в проекте интернет-гигант ставит под угрозу доверие пользователей, а также игнорирует «моральную и этическую ответственность».
Контракт стоил $10 млн, для одной из известнейших технологических компаний — деньги отнюдь не сумасшедшие. Но в перспективе он мог привести к более широкому сотрудничеству с Пентагоном. Официально топ-менеджмент Google уверял, что проект Maven имеет относительно небольшую ценность и компания просто предоставляет Министерству обороны США программное обеспечение с открытым исходным кодом.
Однако из внутренней электронной переписки стало ясно, что в руководстве Google смотрели на контракт как на огромную возможность выгодных связей с военными и спецслужбами. В компании давно работали над разработкой алгоритмов обучения машин для Пентагона. Речь идет о создании сложной системы видеонаблюдения, которая могла бы контролировать целые города.
Сотрудники Google отказались принимать в этом участие, и руководство было вынуждено пойти им навстречу. Договор на участие в проекте Maven интернет-гигант продлевать не стал.
Но то, что Google закрыл контракт, не означает, что разработки оказались похоронены. Старший вице-президент Google по глобальным связям Кент Уокер в электронном письме сотрудникам сообщил, что работу над проектом Maven продолжит другая компания (название он не озвучил). Она будет использовать «стандартную облачную платформу Google для поддержки некоторых рабочих нагрузок».
Меньше чем через год — новые протесты. Теперь в Microsoft. Компания выпустила HoloLens 2 — гарнитуру дополненной реальности, которая проецирует перед пользователем интерактивное голографическое изображение. Предполагалось, что технология поможет медикам научиться оперировать, архитекторы и инженеры поймут, как строить здания и автомобили, музыканты будут играть на виртуальном пианино.
Однако за $480 млн Microsoft согласилась передать новую технологию военным для использования в бою. Разработчики компании возмутились. «Мы не подписывались на разработку оружия, и мы требуем возможности высказать свое мнение о том, как используется наша работа… Хотя [Microsoft] ранее предоставляла лицензию на технологию военным США, она никогда не переходила черту в разработке оружия», — высказали свое отношение сотрудники в открытом письме. Кроме того, они посчитали, что новая гарнитура рискует «превратить войну в симулированную видеоигру».
В Microsoft доводы сотрудников выслушали, приняли к сведению и заключили с Минобороны США новый контракт, в этот раз на $22 млрд. Сделка предполагает, что в ближайшие 10 лет американская армия получит 120 тыс. устройств, созданных на базе очков дополненной реальности HoloLens.
Госконтракты в Кремниевой долине
Некоммерческая организация Tech Inquiry посчитала: Google, Amazon, Microsoft, Dell, IBM, Hewlett Packard и даже Facebook заключают тысячи контрактов с силовиками, о которых заинтересованные стороны молчат. Это заказы от Министерств обороны и юстиции, таможенной службы, ФБР, Агентства по борьбе с наркотиками, Федерального бюро тюрем и других ведомств.
Исследованием Tech Inquiry руководил Джек Поулсон, бывший сотрудник Google. Он уволился после громкой истории с проектом Dragonfly, когда для Китая разрабатывался специальный алгоритм цензуры, который отслеживал, какие запросы пользователи вбивают в поисковики.
Китайское правительство считает конфиденциальной информацию о политических оппонентах, свободе слова, демократии, правах человека и мирных протестах. О проекте Dragonfly знало лишь 0,35% персонала Google, это 300 человек из 88 тыс. сотрудников. Тем, кто был в курсе проекта, приказали молчать. Когда о Dragonfly стало известно, несогласные ушли, Поулсон был одним из них.
Теперь он рассказывает, почему часто трудно найти контракты между технологическими компаниями и военными. Дело в том, что большинство сделок связаны с субподрядами, когда договор заключается с одной компанией, которая отдает заказ другой компании, а та может заказать выполнение работ третьей. Это запутанная и непрозрачная схема. Она мешает проследить, насколько давно и глубоко определенная компания взаимодействует с военными.
«Часто описание контракта на высоком уровне между технологическими компаниями и военными выглядит очень банальным и приземленным, — говорит Джек Поулсон. — Но только когда вы смотрите на детали контракта, который вы можете получить только через [определенные] запросы, вы видите работу того, как на самом деле будет задействована настройка от технической компании».
Из всех компаний, фигурирующих в расследовании Tech Inquiry, Microsoft с 2016 года заключила более 5 тыс. субподрядов с Министерством обороны и правоохранительными органами, включая ФБР. У Amazon насчитывается более 350 таких субподрядов, у Google — более 250.
Как данные пользователей используют военные
Компания Tech Inquiry расследует связи техкомпаний с правительственными структурами, в частности, с военными и силовиками. В команде Джека Поулсона еще четыре хайтек-специалиста: Ирен Кнапп, Лора Нолан, Лиз О'Салливан и Шона Гордон-МакКеон. За два года существования компании они узнали немало любопытного.
Так, в своем последнем отчете Tech Inquiry рассказывает, что стало с проектом Maven, из которого вышла компания Google. Флаг перехватили Microsoft и другие ИТ-компании поменьше. Они не афишируют свою работу над искусственным интеллектом для дронов и вообще стараются не привлекать к этому лишнего внимания.
Исследование показывает, как обычные пользователи, не зная того, работают на военных. К примеру, компания SmileML разработала игру, в которой люди зарабатывают очки, повторяя эмоции смайликов. Пользователи с удовольствием играли, и в результате была получена внушительная база человеческих лиц, которые демонстрируют разную мимику. Это достаточные данные для того, чтобы обучить искусственный интеллект распознавать эмоции людей. Компания-разработчик игры продала эту технологию структуре Минобороны США за $235 тыс.
Военные активно используют информацию из обычных приложений себе на пользу. Это одна из последних тенденций. Например, компания X-Mode Social владеет данными о местоположении миллионов своих пользователей. Она выросла из компании Drunk Mode, основанной американским студентом Джошуа Антон. Это мобильное приложение препятствует тому, чтобы пользователи не могли позвонить или написать сообщение в нетрезвом состоянии. Приложение было бесплатным, его скачали более 1 млн раз. Каждый раз при обращении к программе по умолчанию фиксировалась локация человека. Другой продукт компании — молитвенное приложение Muslim Pro — заинтересовало военных. За $200 тыс. Управление военной разведки получило к нему доступ.
Ни одну из этих сделок не афишировали, найти прямую связь между Пентагоном и компаниями, было очень сложно. SmileML была субподрядчиком британской оборонной фирмы BAE Systems. А компания X-Mode Social, которая позже сменила название на Outlogic, заключила контракт через компанию под названием Systems & Technology Research.
Такая ситуация постоянной секретности не нравится Пентагону. Военные пытаются улучшить свой образ среди технологических компаний и наладить с ними отношения. Пентагон создал подразделение оборонных инноваций (DIU), которое отвечает за связи с хайтек-разработчиками в Кремниевой долине.
«Это миф, что талантливые инженеры не хотят работать с военными. У нас около 200 сотрудников сейчас, вдвое больше, чем год назад, и очень много желающих работать. В общем и целом, вы найдете полных энтузиазма сотрудников, заинтересованных в помощи правительству в решении этих задач», — уверяет сооснователь Shield AI (компании, которая специализируется на ИИ для беспилотников) Брэндон Цзэн, ранее служивший в подразделении специального назначения ВМФ США.
Пока же Кремниевая долина похожа на глобус с двумя противоположными полюсами. На одном компании, которые категорически отказываются от любых связей с армией. На другом — те, кто считает, что лишь бы платили.