6 октября 2021 года состоялось слушание по делу бывшей сотрудницы Facebook Фрэнсис Хоген, которая передала СМИ и Конгрессу США документы, разоблачающие внутреннюю политику компании. «Это не просто вопрос агрессии, нестабильности некоторых пользователей соцсетей или радикализации сторон; речь идет о том, что Facebook хочет расти любой ценой, становясь компанией, стоящей почти $1 трлн и получающей прибыль, жертвуя нашей безопасностью», — заявила Хоген на слушании. Марк Цукерберг отверг ее обвинения.
Правила пользования Facebook распространяются не на всех
Согласно расследованию The Wall Street Journal, благодаря скрытой системе XCheck VIP-аккаунты Facebook не могут быть заблокированы — даже если контент, который они распространяют, нарушает правила соцсети. Изначально систему создали, чтобы контролировать справедливость санкций для аккаунтов знаменитостей. Однако к 2020 году в Facebook было не менее 5,8 млн «привилегированных» пользователей — политиков, актеров, журналистов и других медийных личностей. У системы есть несколько уровней: пользователи из «белых списков» полностью освобождены от санкций, другие же могут публиковать запрещенные материалы с последующей проверкой сотрудниками Facebook, которая часто игнорируется.
Компания признала существование системы XCheck еще в 2018 году. В 2021-м Facebook сообщил The Wall Street Journal, что соцсеть планирует избавиться от «белых списков» и закрыть сотрудникам свободный доступ к внесению новых пользователей в программу.
В марте 2018 года выяснилось, что британская аналитическая компания Cambridge Analytica собирала данные пользователей Facebook с помощью своего приложения. Полученную информацию компания использовала для размещения политической рекламы — например, в ходе президентской кампании в США и голосованием по Brexit в 2016 году. Вмешательство могло коснуться 87 млн пользователей соцсети.
В сентябре 2021 года группа акционеров подала на Facebook судебный иск. Согласно обвинению, Facebook заплатила Федеральной торговой комиссии США $5 млрд, чтобы защитить Марка Цукерберга от индивидуального судебного преследования по делу Cambridge Analytica.
Instagram вызывает психологические проблемы у подростков
Еще одна статья The Wall Street Journal показывает, что собственное исследование Facebook выявило серьезную проблему с психическим здоровьем подростков, которые пользуются Instagram (с 2012 года Instagram принадлежит Facebook Inc.), особенно девушек. Они сравнивают себя с идеальными фотографиями в соцсети, в результате чего у них развиваются психологические проблемы — от непринятия своего тела до депрессии. Согласно The Wall Street Journal, у 13% британских и 6% американских подростков с суицидальными наклонностями желание покончить с собой появилось именно из-за Instagram. По мнению издания, компания проигнорировала эту проблему.
В ответ на это обвинение Цукерберг написал на своей личной странице в Facebook:
«В нашем посте в Newsroom мы писали: «Исследования показали, что многие тинейджеры чувствуют, как использование Instagram помогает им бороться с трудностями, свойственными подросткам. На самом деле в 11 из указанных 12 случаев, включая такие серьезные проблемы как одиночество, тревога, грусть и проблемы с питанием, большинство девочек-подростков заявили, что Instagram сделал эти трудные времена скорее лучше, чем хуже.
Мы готовы делать все возможное, но на каком-то уровне правильным органом для оценки компромиссов по социальным вопросам является наш демократически избранный Конгресс. К примеру, с какого возраста подросткам можно начать пользоваться интернет-услугами? Как интернет-сервисы должны проверять возраст людей? И как компаниям следует сохранять конфиденциальность подростков, позволяя родителям следить за их деятельностью?»
Facebook пообещал делиться данными с исследователями, но отправляет их в неполном виде
В 2018 году Марк Цукерберг пообещал предоставлять исследователям отчеты о взаимодействии пользователей с контентом для исследования фейковой информации и влияния социальных медиа на выборы и демократию. Однако в сентябре 2021 года выяснилось, что Facebook отправлял ученым данные не всех пользователей социальной сети, а лишь наиболее политически активных — около половины юзеров из США. В пресс-службе компании сообщили, что проблема была вызвана технической ошибкой. Большинство научных и социологических проектов исследователей оказалось под угрозой.
В августе 2021 года из-за нарушения конфиденциальности пользователей Facebook заблокировал приложение Ad Observer, которое Нью-Йоркский университет разработал для изучения дезинформации. Многие разработчики с этим обвинением не согласны: блог компании Mozilla поддержал проект и объяснил, что программа не собирает личные данные и не нарушает правила соцсети — до начала использования приложение предлагает ознакомиться, какую информацию пользователь предоставит исследователям. Программа Ad Observer была создана для отслеживания прозрачности политической рекламы, за которой особенно следят после скандала с Cambridge Analytica в 2018 году.
Решения о блокировках подобных программ вызывают опасения о препятствии академической деятельности со стороны Facebook.
После заседания по делу Хоген Марк Цукерберг написал на своей странице в Facebook:
«Многие из претензий не имеют смысла. Если бы мы хотели игнорировать исследования, зачем бы мы сами создали ведущую в отрасли программу для исследований, чтобы разобраться в таких важных вопросах? Если мы не заботимся о борьбе с вредоносным контентом, то почему мы привлекаем к этому гораздо больше сотрудников, чем любая другая компания в нашей отрасли — даже большая, чем мы? Если бы мы хотели скрывать результаты, зачем бы мы устанавливали ведущий в отрасли стандарт прозрачности и отчетности о нашей деятельности?»
WhatsApp, вероятно, просматривает личные сообщения пользователей
В 2019 году Марк Цукерберг рассказал о новой политике конфиденциальности на примере WhatsApp — мессенджера, который принадлежит Facebook Inc. Бизнесмен заявил, что сквозное шифрование приводит любые сообщения в нечитаемый формат для третьих лиц — их не видят даже сотрудники Facebook. Однако в WhatsApp есть функция «Пожаловаться на сообщение», которая ставит под вопрос надежность конфиденциальности.
В сентябре 2021 года независимое издание ProPublica опубликовало расследование, согласно которому более 1 тыс. подрядчиков в США и за рубежом изучают сообщения, фото- и видеофайлы, на которые поступили жалобы. С помощью специального ПО Facebook они просматривают сообщения и выносят вердикты по каждому нарушению менее чем за минуту.
Директор по коммуникациям WhatsApp Карл Вуг подтвердил, что группы подрядчиков просматривают сообщения WhatsApp, чтобы выявлять и блокировать злоумышленников. При этом компания не считает свои действия модерацией контента.
ИИ Facebook пишет оскорбительные комментарии к видео
В сентябре 2021 года пользователи соцсети заметили, что при просмотре некоторых видео с участием темнокожих людей Facebook предлагает «продолжить смотреть видео о приматах». Бывшая сотрудница компании Дарси Грувз опубликовала в Twitter скриншот с такой подписью и написала: «Эта рекомендация «продолжить смотреть» неприемлема, @Facebook. И хотя это видео было опубликовано больше года назад, вчера мой друг получил такую же рекомендацию. Друзья в FB, пожалуйста, разберитесь. Это вопиющий случай». После этого руководство Facebook занялось исследованием инцидента. Пресс-секретарь компании Дани Левер заявила: «Хотя мы и улучшили наш искусственный интеллект, мы знаем, что он не идеален, и нам еще предстоит развивать его. Мы приносим свои извинения всем, кто мог видеть эти оскорбительные рекомендации».
Facebook отклонял инициативы команды «социальной честности»
По данным Time, ранее Facebook создавал команду «социальной честности» (civic-integrity team), чтобы бороться с дезинформацией и агрессивным контентом. Участники группы давали неофициальную клятву — «в первую очередь служить интересам людей, а не Facebook». Компания неоднократно отклоняла предложения команды:
- Согласно The Information, в 2019 году сотрудники из группы «социальной честности» предложили исключить тысячи политических аккаунтов из программы XCheck. Их исследование показало, что пользователи с большей вероятностью верят в ложную информацию, если ей делится политик. Руководство Facebook отклонило это предложение.
- По данным WSJ, за несколько лет до президентских выборов 2020 года в США исследования команды «социальной честности» выявили, что функция групповых рекомендаций Facebook настраивает пользователей радикально и провоцирует политическую поляризацию сообществ. Согласно BuzzFeed News, компания отклонила запросы команды «социальной честности» на отключение функции. За несколько недель до голосования руководство Facebook передумало, разрешило блокировать политические группы и согласилось изменить алгоритмы новостных лент для скрытия потенциальной дезинформации. Однако вскоре после выборов нововведения отменили. По мнению Хоген, компания хотела вернуть прежний рост и тем самым спровоцировала штурм Капитолия 6 января 2021 года в Вашингтоне.
По словам бывших сотрудников компании, несмотря на сопротивление руководства, работа команды «социальной честности» была успешной — например, они удачно провели кампанию промежуточных выборов в 2018 году. Однако всего через месяц после президентских выборов 2020 года группу распустили. Эффект стал заметен еще через месяц, когда во время штурма Капитолия бастующие использовали Facebook, чтобы объединяться в сообщества и распространять дезинформацию о выборах.
В заявлении Time вице-президент по управлению Facebook Гай Розен сообщил: «Мы не распустили команду по социальной честности, мы интегрировали ее в более крупную команду Central Integrity, чтобы невероятную работу, которую впервые проделали для выборов, можно было применить еще шире, например, в вопросах, связанным со здоровьем». Однако, по словам Хоген, многие участники команды ушли из Facebook примерно в одно время с ней, в мае 2021 года. Руководитель группы Самид Чакрабарти ушел в отпуск в декабре 2020-го, а августе 2021 года уволился из компании.
Facebook не блокирует агрессивный контент и дезинформацию
Согласно внутреннему отчету Facebook, попавшему в распоряжение СМИ, в преддверии выборов 2020 года самые популярные страницы Facebook для христиан и темнокожих пользователей в США управлялись «фабриками троллей» из Восточной Европы. Эти страницы были лишь частью более крупной сети групп с ложной информацией, которая охватила почти 50% всех американских юзеров. При этом они не выбирали этот контент — его продвигали внутренние алгоритмы Facebook, поскольку считали его более вовлекающим. Кроме того, согласно документам Хоген, весь бюджет, предусмотренный для обеспечения безопасности платформы, Facebook тратит только на англоязычный контент.
По данным отчета, контент «фабрик троллей» в месяц видят 140 млн пользователей в США, при том что 75% из них на эти страницы не подписаны. Автор документа, бывший старший специалист по анализу данных в Facebook Джефф Аллен, отмечает главные причины высоких охватов ложной информации:
- Согласно внутренним исследованиям компании, юзеры ставят лайки, комментируют и пересылают друзьями чаще всего некачественный, негативный контент. Тем не менее алгоритмы Facebook продолжают продвигать в новостных лентах именно такой вовлекающий контент.
- В соцсети отсутствует система наказаний за плагиат. Из-за этого «фабрики троллей» копируют и распространяют вирусные посты, а новостные организации и издательства не могут монетизировать свой контент: до 60% прочтений приходятся на «украденные» материалы.
Facebook распространяет не только политическую дезинформацию: в мае 2021 года социальную сеть обвиняли в распространении ложной информации об изменении климата, а в июле президент США Джо Байден заявил, что Facebook допускает дезинформацию о пандемии коронавируса и вакцинах и тем самым «убивает людей».
В интервью CBS Фрэнсис Хоген сообщила, что главная проблема — в ставке на вовлекающий контент: в компании «осознали, что если они будут выпускать больше злобного, вызывающего разногласия и поляризующего контента, то получат больше просмотров. <...> Если они изменят алгоритм и сделают его более безопасным, люди будут проводить меньше времени на сайте, будут кликать на меньшее количество рекламы, а они будут зарабатывать меньше денег».
На своей странице в Facebook Цукерберг ответил: «В основе этих обвинений лежит идея о том, что мы ставим прибыль выше безопасности и благополучия пользователей. Это просто неправда. Например, был поставлен под вопрос наш шаг, когда мы ввели правило Meaningful Social Interactions (важные социальные связи) в ленте новостей. Это нововведение стало показывать меньше вирусных видео и больше контента от друзей и родственников. Мы знали, что из-за этого люди станут проводить меньше времени на Facebook, но исследования показали, что это хорошо для здоровья пользователей. Разве нечто подобное может сделать компания, ориентированная на прибыль, а не на людей?»
По словам бывшего советника Цукерберга Роджера Макнами, на деле правило Meaningful Social Interactions привело к сокращению журналистских материалов в ленте новостей и все большему распространению дезинформации.