Читайте РБК без баннеров

Подписка отключает баннерную рекламу на сайтах РБК и обеспечивает его корректную работу

Всего 99₽ в месяц для 3-х устройств

Продлевается автоматически каждый месяц, но вы всегда сможете отписаться

Искушенный интеллект: как работают алгоритмы TikTok

Фото:Shutterstock
Фото: Shutterstock
Бесконечную ленту TikTok контролирует ИИ, обученный давать людям то, что они хотят видеть. РБК Тренды разобрались, как устроена первая глобальная сеть родом из КНР, и что скрывают ее алгоритмы

Примерно в середине дня 21 февраля 2019 года 19-летний парень из бразильского города Куритиба покончил с собой. Действие транслировалось в прямом эфире на платформе TikTok. Спустя 40 минут трансляцию автоматически прервали алгоритмы сервиса (причина — недостаток движения в кадре), затем снова восстановили и уже окончательно заблокировали через полтора часа после начала из-за обращений пользователей.

Подобный контент — однозначно исключение. TikTok — это платформа для коротких развлекательных видео. На экране, как правило, люди, которые танцуют, поют, общаются, разыгрывая сцены из жизни. Каждое видео длится не дольше 60 секунд, а загружают их сами пользователи — десятками и сотнями тысяч ежедневно. И тем не менее, трагический случай с бразильским подростком обнажает суть работы TikTok — то, что вы увидите на экране, определяют алгоритмы.

TikTok — единственная из пяти самых популярных социальных сетей в мире, которая не принадлежит при этом Facebook, и первый успешный глобальный технологический продукт родом из Китая. В 2016 году китайская компания ByteDance запустила сервис Douyin, спустя год появилась его международная версия — TikTok. Примерно тогда же ByteDance покупает американское караоке-приложение Musical.ly и объединяет его с TikTok. Результат слияния — к августу этого года приложение скачали более 2 млрд раз, а месячная аудитория TikTok превысила 700 млн человек.

Как работают алгоритмы: сторона тиктокера

Взрывная популярность TikTok стала возможной, по крайней мере отчасти, благодаря продвинутым алгоритмам искусственного интеллекта, разработанным в ByteDance. Именно они отсматривают гигантский объем видеоконтента, за которым человеческий интеллект уследить уже не в силах, и решают, что показать каждому пользователю.

Оценивается все: от содержания видео до того, в какой программе он смонтирован. На что обращают внимание алгоритмы:

  • Что происходит в кадре: что делают и говорят люди, какие вокруг предметы.
  • Как сделано видео: снято на камеру телефона или ноутбука, захвачено с экрана или это отрисованная анимация.
  • Как монтировалось видео: в редакторе TikTok или в другом, использованы ли фильтры, маски и другие спецэффекты.
  • Какая музыка на фоне: насколько популярная и откуда взята — из библиотеки TikTok или из собственной.
  • Описание к видео: какие слова и хэштеги используются.
  • Соблюдение авторских прав: есть ли фрагменты чужих роликов.

Чтобы видео понравилось алгоритмам, оно должно пройти через многоступенчатую инспекцию. Она идет в автоматическом режиме, а спорные случаи проверяют модераторы.

Если видео напрямую нарушает правила сообщества — наркотики, порнография, разжигание розни, травля, насилие и, к слову, самоубийства — пользователь получает бан. Но можно нарушить и неписанные правила и отправиться в так называемый «теневой бан» — аккаунт не трогают, но видео перестают показывать зрителям или удаляют. Сюда входит, например, все вышеперечисленное, но в шуточной форме: фокус с отрезанным пальцем, кровь из кетчупа, разжигающий юмор или игрушечный нож в кадре. Также не в почете мат, спам, реклама «в лоб», чужой контент (его желательно выкладывать не больше 30%) и, что любопытно, нежелание пользоваться редактором и спецэффектами TikTok.

Блог мне судья: зачем нужен цифровой этикет

Вся эта сложная система правил должна побудить авторов создавать оригинальный контент. Для новичков работает что-то вроде испытательного срока: видео должны вовлекать зрителя сразу — через просмотры, лайки, комментарии, репосты и подписки. Если новичок выдерживает темп в первых 10-20 роликах, алгоритмы TikTok начинают его активно продвигать.

Эти же правила работают и в обратную сторону. Если популярный тиктокер теряет форму — реже выкладывает видео или не придумывает новые ходы — он довольно быстро остается без просмотров. Сервис таким образом убивает сразу двух зайцев: обеспечивает и постоянный приток оригинального контента, и его ротацию.

Удерживать создателей контента помогает ключевая особенность алгоритмов TikTok — непредсказуемость. Долгое время никто не знал, как они работают.

Поначалу тиктокеры пытались разобраться в работе алгоритмов сами, опытным путем. Цель — попасть на главную страницу, которую видит пользователь, она называется ‘For You’. Одни считали, что достаточно ставить везде тег #ForYou, другие — что алгоритмы делят пользователей на группы, а затем показывают видео по очереди каждой из них, третьи — что видео попадают в рекомендации абсолютно случайно. Тиктокеры адаптировали свои ролики под ту версию работы алгоритмов, которую считали правдивой.

Отчаянные попытки снискать благосклонность ИИ-алгоритмов и попасть в рекомендации чем-то напоминают ритуальные пляски древних людей, обращенные к богам.

И лишь в июне 2020 года TikTok приоткрыл тайну своих рекомендательных алгоритмов. В пресс-релизе на официальном сайте компания рассказала, как видео попадают в ленту к пользователям. Речь идет о критериях, которые перечислены выше — содержание видео, реакции пользователей и способ создания — разумеется, в общих чертах, без деталей.

Теперь тиктокерам есть от чего отталкиваться. Глава TikTok Кевин Мейер вселил еще больше надежд, когда в конце июля высказался о том, что «прозрачность алгоритмов» способна сделать мир лучше. Правда, уже через месяц он ушел в отставку.

Победа алгоритмов: что ждет в будущем системы искусственного интеллекта Фото:vchal / Shutterstock

Как работают алгоритмы: сторона зрителя

Чтобы ролики набирали миллионы просмотров, нужны те, кто не будет отлипать от экранов. И это тоже обеспечивают алгоритмы.

Когда вы впервые заходите в TikTok, перед вами сразу возникает бесконечная лента коротких видео — та самая ‘For You’. Логичным было бы сначала спросить пользователя об интересах, предложить подписаться на кого-то из популярных тиктокеров. Но как раз в отсутствии этого и заключается одна из главных инноваций сервиса.

TikTok показывает не то, что, как вы думаете, вам понравится, а то, что вам действительно нравится.

Первое время видеоролики в вашей ленте будут довольно случайными. Все, что от вас требуется — просто скроллить. Те видео, на которых вы задерживаете внимание, помечаются как значимые и формируют основу для персональных рекомендаций. Спустя несколько дней или даже несколько часов ваша ‘For you’ лента будет адаптирована под ваши особенности и интересы.

Такой подход называют графом интересов. Традиционно социальные сети создавались вокруг идеи социального графа: онлайн-профиль человека — это те люди, с которыми он общается, и которые следят за его жизнью, его социальный слепок. Граф интересов — это слепок интересов конкретного человека, социальные связи сюда не входят.

Эти идеи сегодня активно внедряют и другие соцсети, особенно те, что ориентированы на видео. Отличие TikTok как социальной сети в том, что она не такая уж социальная, так как изначально строилась вокруг идеи графа интересов. С точки зрения зрителя, это больше похоже на сервис по подбору развлекательного контента с элементами социальной сети.

Co-media строгого режима: сферу развлечений и СМИ ждет цифровой перелом

Исследований, посвященных TikTok, пока мало. В тех, что начинают появляться, речь идет о том, что для видеоплатформ вроде TikTok характерны слабые социальные связи. Тиктокеры не чувствуют связи с фанатами, а сообщества фанатов нестабильны. Это неудивительно, ведь алгоритмы заточены на частую смену трендов и героев.

Контент всегда свеж, что не дает зрителю заскучать и выйти из приложения. А если такие мысли у зрителя появляются, то в ход идет тот же принцип, что удерживает на площадке создателей контента — непредсказуемость.

Ролики на TikTok притягательны по двум причинам: непредсказуемость сюжета и минимум когнитивных усилий.

Первый принцип активно используется в казино — игрок должен время от времени выигрывать, получая положительные подкрепления. Когда в этом нет системности, кажется, что вот-вот снова повезет. Примерно так же работает и бесконечная лента, только источники удовольствия здесь — увлекательные видео, которые не хочется упускать. О том, чтобы они попадались регулярно, позаботятся алгоритмы TikTok.

Увлекательными видеоролики делает не только сюжет, но и сам формат. Движущиеся картинки для восприятия проще и понятнее, чем, скажем, текст. Еще охотнее люди реагируют на лица — неслучайно TikTok активнее всего продвигает видео с людьми в кадре. Между двумя задачами, требующими разных умственных усилий, люди выберут ту, что попроще. После того, как выбор сделан, работает автоматическая лента.

Темная сторона

Если алгоритмы TikTok и можно уподобить богам, то это должны быть боги развлечений. Но, как учит нас древняя мифология, у бесконечных развлечений часто бывают последствия.

  • Психологическая зависимость.

Психологи сходятся во мнении, что гаджеты и социальные сети способны вызывать зависимость. Спорят только о масштабе проблемы. Социальный психолог Адам Адлер в книге “Irresistible” отмечает:

Два важных «ингредиента» социальных сетей, на которые клюет наш мозг — это переменные позитивные подкрепления и жажда признания.

Вопрос в том, выделяется ли на этом фоне TikTok. Его главная аудитория — дети и подростки. Их психологи как раз считают наиболее уязвимой группой: у них и не до конца сформировавшийся мозг, плохо умеющий контролировать импульсивные порывы, и особая нужда в признании. Если прибавить сюда технологии удержания внимания, то по этой логике выходит, что на TikTok должны подсаживаться сильнее, чем на конкурентов.

Семь смертных грехов искусственного интеллекта Фото:Фото: Chris McGrath / Getty Images

С другой стороны, исследований на эту тему практически нет. В одной из работ авторы сравнили, как использование Facebook, Twitter, Instagram и TikTok во время пандемии влияет на благополучие людей. Их вывод: TikTok не делает хуже. Но это касается именно субъективных ощущений, но не аддиктивности.

  • Эхо-камеры и пузыри фильтров

Оба этих феномена возникают, когда свойственные людям когнитивные искажения усиливаются умными алгоритмами. Среди таких искажений: склонность к подтверждению своей точки зрения и желание иметь вокруг людей, похожих на тебя.

Пузыри фильтров — это система персональных рекомендаций, дошедшая до логического завершения: алгоритмы показывают то, что человек хочет увидеть, а не то, что происходит на самом деле. В итоге, каждый начинает существовать в своем информационном пузыре. Например, TikTok обвиняли в создании таких пузырей для пола, возраста и расы. Подписка на молодую брюнетку или лайк парню азиатской наружности добавит в ленту роликов с людьми аналогичной внешности.

Это работает и с политическими взглядами, только здесь пузыри с похожим содержимым сливаются и образуют эхо-камеры. В них люди одинаковых убеждений общаются между собой и только утверждаются в собственной правоте, постепенно радикализируясь. Профессор философии Университета Юты Тхи Нгуен проводит важное различие:

Информационный пузырь — это когда ты не слышишь людей с иной точкой зрения. Эхо-камера — когда ты им не доверяешь.

В итоге общество поляризуется, и TikTok вносит в это свой вклад: одни тиктокеры пиарят президента США Дональда Трампа и распространяют конспирологические теории, другие — пытаются сорвать его предвыборные встречи.

  • Манипуляция и цензура

Одно из самых популярных мнений насчет цифровой слежки звучит как «мне нечего скрывать». Однако дело не обязательно в преследовании. Главная проблема — людьми становится легче манипулировать. Когда алгоритмы имеют подробный граф интересов для каждого из нас и порой знают человека лучше, чем он сам, они способны продать ему что угодно — от очевидно ненужных товаров до «правильных» моделей поведения и политических взглядов.

То, что не получается тонко скорректировать, можно просто не показывать. Как-никак, сервис родом из Китая, известного своим особым подходом к свободе информации. Один из скандалов вокруг TikTok был связан с удалением видео Ферозы Азиз из США. В обучающем ролике про уход за ресницами последним пунктом она предлагала загуглить информацию про жизнь уйгуров в Китае, для которых местное правительство организовало цифровой концлагерь. Осенью прошлого года ролик набрал 9 млн просмотров, но был удален, как позже прокомментировал TikTok, из-за ошибки модератора.

Что такое цифровой тоталитаризм и возможен ли он в России

В «ошибку» верится с трудом, учитывая внутренние инструкции для модераторов TikTok, которые позднее, в марте этого года, опубликовало издание The Intercept, и которые сервис не стал опровергать. TikTok предписывает модераторам банить пользователей за политические высказывания о Китае. Формулировки должны быть знакомы российскому читателю: «неуважение к представителям власти», «фальсификация истории страны», «угроза национальным интересам».

Цензура TikTok касается не только политики. Модераторы должны ограничивать продвижение роликов, где люди слишком «уродливые», «бедные» или имеют особенности развития.

Додумывать, что конкретно означают эти термины, модераторам не нужно — компания позаботилась, чтобы инструкции были подробными. «Очевидный пивной живот», «аномальная форма тела», «уродливая внешность», карликовость, «слишком много морщин», «заболевания глаз» и другие «низкокачественные» черты у людей, а также ветхое жилье с трещинами на стенах, трущобы и сельская местность — все это сделает ролик невидимым для пользователей.

Алгоритмы TikTok определяют то, что мы увидим на экране, и то, что мы не увидим. Алгоритмы — это не мистическая сущность и не невидимая рука, которая просто подбирает для вас самый лучший контент. Это вполне осязаемая рука вполне конкретной корпорации, одной из самых дорогих частных компаний на планете.

В TikTok действительно много интересного контента — смешного, удивительного, познавательного, глупого, общественно значимого, неудобного и даже временами шокирующего. Контент генерируют пользователи.

Компания же преследует собственные интересы, которые могут совпадать с интересами пользователей, но далеко не всегда. Когда бразильский подросток покончил с собой в прямом эфире, первое, что сделал TikTok — разработал пиар-стратегию. И только спустя три часа вызвал полицию.


Подписывайтесь также на Telegram-канал РБК Тренды и будьте в курсе актуальных тенденций и прогнозов о будущем технологий, эко-номики, образования и инноваций.

Следующий материал: