Об авторе: Роман Нестер, профессор ВШЭ, куратор магистратуры «Коммуникации, основанные на данных». Основал компанию Segmento, чья платформа позволяет таргетировать рекламу на основе офлайн- и онлайн-данных.
Сегодня алгоритмы показа сопровождают качественный и вовлекающий контент новых медиа. Набор правил в продуктах позволяет отфильтровать информацию и показать пользователю только самую интересную и релевантную выборку. Поисковые системы, соцсети и стриминговые сервисы используют разные алгоритмы: как правило, они разрабатываются отдельно под каждый сервис. Пожалуй, самый известный набор правил pagerank принадлежит Google, который со временем доработал и усложнил его. У Netflix есть собственное решение, которое использует данные пользователей для рекомендаций и уникальных подборок фильмов под каждого зрителя.
У производителей контента и создателей алгоритмов есть конфликт интересов: первые хотят виральности и попадания в топ, а вторые — пользы для конечного потребителя. Третья заинтересованная сторона требует раскрыть наборы правил, которые категоризируют контент как интересный и поднимают в топ выдачи. Речь о государстве, которое постоянно атакует медиасервисы, пытаясь установить контроль над процессом потребления информации пользователями. Если это произойдет, мы можем забыть про существование свободного интернета, каким знаем его сегодня.
Почему раскрыть алгоритмы не так просто?
Сервисы, которые определяют судьбу контента, тщательно скрывают свои алгоритмы. На первый взгляд может показаться, что они защищают собственную разработку, но на самом деле — сохраняют баланс сил в Сети ради пользователя. Если Google все-таки удовлетворит ультиматум Британского суда и раскроет секреты своих алгоритмов SEO-консультанту, интернет охватит хаос: многочисленная армия его коллег начнет целенаправленно обманывать поисковую систему, коммерциализировать свои инсайты и в итоге заполнят поисковую выдачу нерелевантным контентом. По сравнению с этим времена радикального экстремизма и фейковых новостей в лентах социальных Сетей покажутся раем.
Многие компании скрывают набор правил, который стоит за алгоритмами, еще и потому, что сами до конца не способны его описать. Чтобы добраться до сути принципов, по которым приоритизируется контент, могут потребоваться большие, нерентабельные расходы на работу специального департамента: он будет извлекать признаки, которые используют нейросети на основе глубокого машинного обучения, и описывать их понятным сторонним пользователям языком. В этом заключается проблематика интерпретируемости алгоритмов.
Какие секреты алгоритмов все-таки можно раскрыть?
Сервисы, в основе которых лежат алгоритмы, должны осознавать свою ответственность, ведь программные решения влияют на жизнь человека. Как только, например, социальная сеть намеренно усиливает внимание к какому-либо посту для повышения собственной прибыли, она перестает быть дистрибьютором контента и становится полноценным СМИ (сегодня соцсети и поисковые системы в юрисдикции США не несут ответственности, так как показывают чужой контент).
Иными словами, им придется отвечать за принятые решения по вынесению в информационное поле той или иной новости. Так устроена работа классических СМИ с редакциями.
И хотя ответственность за продвижение определенного контента не подразумевает обязательное раскрытие секретов алгоритмов, сервисы должны придерживаться принципа прозрачности. Они могут предоставить доступ к обновляемой информации о том, что в данный момент времени рекомендуется пользователям, каким именно группам и с какой интенсивностью. Сейчас этого добиваются в США авторы фильма «Социальная дилемма», созданного по инициативе Center for Humane Technology.
Если попытки обернутся успехом, бренды смогут узнать, какие именно посты и для какой целевой аудитории продвигает Facebook или YouTube. Аналогичных изменений смогли добиться регуляторы от социальных сетей в отношении таргетированной политической рекламы в Facebook, но при этом они не сокрушили бизнес медиагиганта.
Два потенциальных эффекта для индустрии:
- Нейтральный. Появление волны стартапов, которые помогут производителям контента (например, редакциям) выпускать материалы, мгновенно попадающие в топ выдачи. Медиа будут работать еще быстрее.
- Негативный. Высокий порог входа для начинающих компаний. Сервисы обяжут соответствовать требованиям регуляторов и постоянно обновлять функционал, а это означает рост расходов. Обеспечение прозрачности обработки пользовательских данных и персонализации может увеличить их в три-пять раз, согласно оценкам медиа-эксперта Бенедикта Эванса.
Почему государство пытается регулировать алгоритмы?
Некоторые медиа, политики и общественные деятели запугивают социум терминами «капитализм слежки» и «информационный пузырь», а также иностранным вмешательством и потерей свободы. На фоне развития технологий они представляют обществу алгоритмы как опасность. Чтобы от нее избавиться, государство прямо или опосредовано запускает рычаги регулирования.
На практике это превращается в «закручивание гаек» и популизм: простые решения нравятся избирателям, но не работают на практике. Например, члены московского отделения Ассоциации юристов России предложили подвергать рекомендательные сервисы социальных сетей, онлайн-кинотеатров, маркетплейсов и новостных агрегаторов независимому аудиту и даже отключать их по желанию пользователей. А депутат Антон Горелкин еще раньше заявил о том, что база для будущего законопроекта уже готова. По его словам, сейчас идет концептуальное обсуждение норм и мер для регулирования рекомендательных алгоритмов, прежде всего в социальных сетях.
«Яндексу» и вовсе грозит штраф в рамках возбужденного дела. В феврале 2021 года ФАС вынес предупреждение ИТ-компании, обвинив ее в дискриминации конкурентов, которые не могут попасть в «колдунщики» — интерактивные виджеты в поиске, которые располагаются между рекламой и органической выдачей. По оценкам ведомства, «Яндекс» дает преимущество собственным сервисам. У компании был месяц, чтобы исправить ситуацию и избежать наказания, а также раскрыть секреты механизмов по продвижению ссылок и привлечению внимания пользователей. Однако в ФАС заявили, что предупреждение не было исполнено.
За океаном ситуация развивается схожим образом. США пытается применить тактику «разделяй и властвуй», обвиняя Facebook в монополизации социальных сетей и требуя продажи Instagram и Whatsapp. Однако такие резкие меры могут привести к угрозе существования концепции свободного интернета.
Регуляция интернета — вызов для системы государственного управления, который требует современных решений. Аналитик Бен Томпсон, комментируя вызов руководителей Twitter, Facebook и Google в Сенат, заявил: «Не понимая интернет, сенаторы воспринимают его как какую-то магию. Из-за этого их требования похожи на приказ волшебнику: а ну-ка взмахни палочкой, и сделай как я хочу. Не хочешь или говоришь, что это невозможно? Значит, ты злодей, твоя магия злая, мы тебя накажем».
Государству нужно отказаться от сиюминутных решений, вникнуть в суть технологий и начать системную работу над регуляцией, чтобы нести пользу индустрии и обществу. Реализовать это может лишь регуляторный аппарат, состоящий из профессионалов. Яркий пример — администрация Байдена, к которой недавно присоединился профессор Тим Ву, автор термина «сетевой нейтралитет»: он стал специальным советником президента по вопросам технологий и политики в области конкуренции. А Лина Хан, автор знаменитого эссе «Парадокс Amazon», стала членом Федеральной торговой комиссии.