В июне 2023 года после четырехлетнего перерыва на Netflix вышел новый, шестой сезон сериала «Черное зеркало», который рассказывает об антиутопических технологиях. Первый эпизод — «Джоан ужасна» — посвящен растущим тенденциям к автоматизации и использованию ИИ в индустрии развлечений.
Спойлер
Героиня серии Джоан (Энни Мерфи) обнаруживает, что стриминговый сервис Streamberry запустил шоу, которое каждый вечер рассказывает о прошедшем дне из ее жизни. При этом роль героини исполняет Сальма Хайек, вернее — дипфейк с лицом актрисы. Из-за того что каждая серия раскрывает личную информацию о Джоан, ее жизнь начинает разваливаться, и она привлекает внимание Хайек к решению проблемы, чтобы вместе попытаться закрыть сериал. Им удается проникнуть в штаб-квартиру Streamberry и сломать Quamputer — квантовый компьютер, который будет генерировать бесконечный сериал обо всех подписчиках сервиса. Попутно Джоан узнает от главы сервиса Моны Джавади (Лейла Фарзад), что она сама — тоже персонаж из чужого сериала-биографии. Разрушив квантовый компьютер, Джоан, как и другие персонажи, получает свободу. В финале мы видим реальную Джоан (прототип героини), которая начала новую жизнь.
«РБК Тренды» разобрались, о каких технологиях создания контента повествует серия, какие из них уже применяются в кинематографе и как влияют на эту отрасль.
Квантовый компьютер: разблокировка бесконечных возможностей
В серии «Джоан ужасна» для создания бесконечного контента используется так называемый Quamputer. Он генерирует только негативные сюжеты о героях. Как объясняет Мона Джавади, это позволяет больше увлечь аудиторию, так как людям интереснее наблюдать за собой в роли отрицательных персонажей и видеть отражение своих скрытых страхов и комплексов. В итоге разработчики алгоритма специально обучали его для выбора негативных сценариев. В целом глава Streamberry и сама не знает, как работает Quamputer. Когда Джоан пытается разбить машину, она лишь восклицает: «Мы не знаем, как это работает! По сути, это магия!» В итоге простое механическое воздействие прекращает работу и компьютера, и алгоритма, заключенного в нем.
В чем суть?
Квантовые компьютеры в отличие от обычных в решении любых задач используют не привычные биты информации, а квантовые — кубиты. Их особенность заключается в том, что кубиты могут существовать одновременно в нескольких состояниях. В итоге при проведении вычислений квантовый компьютер не перебирает последовательно все возможные комбинации, как обычный, а делает вычисления моментально. Это приводит к тому, что та задача, на выполнение которой у обычного компьютера ушла бы неделя, может выполняться на квантовом компьютере за секунду. В сериале мы видим демонстрацию технологии — каждый эпизод об одном дне из жизни Джоан появляется в тот же вечер, так как Quamputer успевает собрать и обработать данные с различных устройств и «набросать» сценарий. Это, по словам Джавади, «бесконечный креатор контента, способный создавать целые мультивселенные», генерируя сюжеты обо всех 800 млн подписчиков Streamberry.
Эта идея не так далека от реального воплощения. Ведущие игроки рынка уже разрабатывают как специализированные квантовые вычислители для конкретной задачи (D-Wave), так и универсальные квантовые компьютеры для решения разных задач (IBM, Google). IBM предоставляет доступ к своим квантовым вычислителям исследователям, компаниям и стартапам. А Google позволяет исследователям запускать свои программы на квантовых процессорах компании через квантовую вычислительную платформу Cirq для создания и тестирования алгоритмов. Также им открыт доступ к таким библиотекам, как OpenFermion, TensorFlow Quantum. Это позволяет экспериментировать с моделями машинного обучения на квантовых вычислителях. Дальнейшее развитие QCaaS (Quantum-Computing-as-a-Service) сделает доступ к платформам квантовых вычислений через облако более простым и менее затратным для широкого круга компаний. В теории это смогут использовать и стриминговые платформы, чтобы генерировать бесконечный контент.
Как отмечает соучредительница сообщества Black in AI и основательница Исследовательского института распределенного искусственного интеллекта (DAIR) Тимнит Гебру, изучающая тему алгоритмической предвзятости, нынешнее увлечение ИИ стало «золотой лихорадкой». По ее словам, отрасль нуждается в более эффективном регулировании, чтобы избежать доминирования «мотива прибыльности» как основного в стимулировании ее развития.
CGI и ИИ: переопределение реальности через цифровую манипуляцию
В финале эпизода становится ясно, что Джоан — это просто еще один симулякр реального человека. Quamputer создает бесконечное множество выдуманных уровней, опираясь на реальные истории, и весь эпизод — это такая же симуляция. При этом ИИ, который генерирует уровни, не внедряет в них оригинальные сюжеты, а опирается на исходный. Таким образом, Quamputer производит истории, которые далее копируют сами себя. Как утверждает автор серии Тед Чанг, ChatGPT и другие генеративные модели ИИ работают именно так, обрабатывая и сжимая доступную им информацию и возвращая ее пользователю в грамматически приемлемой форме. По словам автора, он пытался показать процесс «сжатия с потерями», при котором алгоритмы пытаются воссоздать контент, в основном угадывая его. Текст, который появляется в итоге, как утверждает Чанг, подобен размытому JPEG-файлу. Этот процесс хорошо иллюстрируют моменты, когда Сальма Хайек упоминает свой «хитовый фильм «Фрида» или называет ИИ-машину quam-puta. При этом зритель до конца не понимает, что наблюдал лишь симуляцию, благодаря максимально реалистичным образам персонажей и их окружения — продуктам компьютерной графики.
В чем суть?
В «Джоан ужасна» демонстрируется еще одна технология современного кинематографа — CGI (Computer-generated imagery, сгенерированные компьютером изображения). Это могут быть 2D- или 3D-анимации, объекты, эффекты или изображения, которые используются в клипах, фильмах, рекламе, видеоиграх.
CGI используют, когда требуется внедрить отдельного персонажа или создать анимацию целой локации. Технология применяется в сочетании с VFX (визуальными эффектами) — совмещением с помощью компьютера видео, снятого на камеру, с объектами, созданными в программах, прямо в процессе монтажа. Это отличает VFX от обычных спецэффектов (SFX), которые добавляются уже после съемки. Если предположить, что CGI генерирует квантовый компьютер, который, как мы помним, способен одновременно обрабатывать огромный объем данных, то генерация реалистичного контента происходит практически одновременно с тем, как исходный герой выполнил то или иное действие.
Наличие множества слоев ставит перед зрителем еще один интересный вопрос — а не можем ли мы быть частью компьютерной симуляции? Впервые гипотезу о симуляции озвучил еще Платон, а идею компьютерной симуляции начал развивать шведский философ Ник Бостром, который в 2003 году опубликовал статью «Живете ли вы в компьютерной симуляции?». Бостром использовал три аргумента в доказательство гипотезы.
- Наличие продвинутых цивилизаций: если технологические цивилизации продолжат развиваться и не вымрут, то они смогут создавать высокореалистичные симуляции, охватывающие целые вселенные.
- Изобилие симуляций: количество симулированных реальностей будет значительно превышать количество базовых в рамках каждой цивилизации.
- Высокая вероятность оказаться в симуляции: если цивилизация может создать такую среду, то и мы можем жить в одной из этих симуляций, а не в базовой реальности.
Однако современные знания пока не подтверждают эту гипотезу. В частности, почему на обычном компьютере, каким бы мощным он ни был, не получится симулировать вселенную, в своей статье объясняет профессор теоретической физики из Кембриджа Дэвид Тонг.
Приватность и защита данных: отсутствие границ в цифровую эпоху
Герои «Джоан ужасна» сталкиваются с тем, что все права на их образы принадлежат Streamberry: в случае с Джоан она дала согласие, когда подписала договор на использование сервиса, а с Хайек был заключен контракт, параграф которого допускал любые действия с ее образом. В итоге героиням не оставалось ничего, кроме как сломать Quamputer, поскольку любой суд встал бы на сторону Streamberry.
В чем суть?
В случае с Джоан мы видим типичную проблему «мелкого шрифта» в договорах на услуги. Современные пользователи устройств и сервисов сталкиваются с такими документами практически ежедневно, и большинство из них кликают по кнопке «Соглашаюсь и принимаю условия», не читая договор полностью. Встречались случаи, когда сами производители устройств нарушали право на частную жизнь пользователей, занимаясь их отслеживанием и прослушкой. Можно вспомнить случай с «умными» камерами Amazon Cloud Cam, видео с которых, как сообщал Bloomberg, могли просматривать сотрудники компании.
В ситуации с Хайек затрагивается аспект права на использование образов актеров в цифровую эпоху. Шоу создается с привлечением искусственного интеллекта, изображений актрисы и технологии дипфейков, а также информации с микрофона телефона. Это означает, что сама Сальма Хайек не участвует в производстве, но дала компании право использовать ее цифровой образ.
Эпизод «Джоан ужасна» вышел на фоне забастовки голливудской Гильдии сценаристов Америки. Одна из причин их протеста — это страх, что ИИ будет быстро и дешево производить посредственный контент и отнимет у сотрудников киноиндустрии работу. Актеры также объявили о намерении бастовать, поскольку они хотят сохранить права на свои собственные образы.
В связи с этим можно вспомнить недавний эпизод с Энтони Бурденом, американским шеф-поваром, писателем и телеведущим. После его смерти режиссер-документалист Морган Невилл выпустил документальный фильм о Бурдене Roadrunner: A Film About Anthony Bourdain. В нем нейросеть озвучивает письмо покойного его голосом. Однако в реальности телеведущий никогда не писал таких слов. В итоге фильм вызвал неоднозначную реакцию не только среди актеров, но и у публики. Таким образом, проблема, описанная в «Джоан ужасна», — уже часть нашей реальности.
Дипфейки: размывание границы между реальностью и вымыслом
В «Джоан ужасна» вкупе с реалистичной графикой используется также технология дипфейков. Именно поэтому мы видим на экране вполне реальную Сальму Хайек, хотя на самом деле это всего лишь ее цифровой двойник.
В чем суть?
Дипфейк (от англ. deep learning — «глубокое обучение» и fake — «подделка») — это синтетический контент, в котором лицо, голос или фотографию одного человека можно заменить на лицо, голос или фото другого. В итоге может получиться полноценная цифровая копия человека. В мире пока не сформировано законодательство в отношении использования дипфейков и прав на них. Однако отдельные шаги в этом направлении уже предпринимаются, но пока они в основном касаются криминализованного применения подделок. В Калифорнии еще в 2019 году приняли два закона: первый делает незаконным размещение любых видео с манипуляциями в политических целях, а второй позволяет жителям штата подать в суд на любого, кто использует дипфейк в порнографическом видео. В ноябре 2022 года правительство Великобритании объявило, что планирует сделать незаконным распространение дипфейк-порно без согласия. В России также задумались о внедрении понятия «дипфейк» в законодательство.
Между тем компании продолжают выпускать новые продукты для создания дипфейков. В 2022 году Apple разработала нейросеть NeuMan, которая обучается на видеороликах буквально за секунды и может генерировать дипфейки. При этом алгоритм копирует из видео изображение человека и окружающей среды.
Не всех актеров устраивает стремительное развитие технологии. Например, Киану Ривз выразил беспокойство по поводу популярности дипфейков. По его мнению, из-за них теряется личность человека. «Если вы попадаете в страну дипфейков, то там нет вашей точки зрения. Это пугает», — отмечал Ривз.
Какие вопросы ставит эпизод «Джоан ужасна»
Эпизод «Черного зеркала» представляет нашему воображению будущее, в котором любая жизнь может стать интеллектуальной собственностью компании благодаря правовым «дырам» и стремительному развитию технологий. В серии проблему решает простое уничтожение Quamputer, но вопрос ответственности руководителей Streamberry и их дальнейшая судьба никак не освещены. Однако в реальности борьба с технологиями выглядит непродуктивной — очевидно, что нужно регулировать вопросы использования достижений, а не запрещать их.
В центре эпизода находится искусственный интеллект — именно он генерирует бесконечные сюжеты, хоть и благодаря мощности квантового компьютера. Несмотря на опасность замещения человеческого труда со стороны ИИ, пока он скорее выступает как помощник в работе. Сам создатель «Черного зеркала» Чарли Брукер признал, что пытался использовать ChatGPT для написания сюжета, но результат его не устроил. По его словам, чат-бот просто суммировал синопсисы нескольких эпизодов сериала и выдал «нечто, что на первый взгляд выглядит правдоподобно, а на второй — гадостью». «Если вы копнете немного глубже, то скажете: о, на самом деле здесь нет никакой по-настоящему оригинальной мысли», — отметил Брукер.
Работу ИИ, как и любой прорывной технологии, нужно регулировать. Некоторые страны, включая США, Канаду и государства ЕС, уже рассматривают соответствующие законопроекты. В том числе они касаются и приватности данных пользователей, которые могут использоваться для обучения алгоритмов. А ряд бизнесменов, ученых, глав крупнейших IT-корпораций и филантропов призвали приостановить разработку систем мощнее GPT-4, чтобы подготовить законодательную базу для более мощного ИИ.
Проблема с цифровыми клонами актеров кажется более решаемой. Некоторые из них уже начали продавать права на создание своих цифровых копий, но при этом агенты проводят большую работу, чтобы выяснить юридические последствия и определить пределы, в которых может использоваться клон. По мнению Тома Хэнкса, грамотное применение технологии позволит продлить карьеру актеров по всему миру. При этом технология дипфейков поможет актерам участвовать одновременно в нескольких проектах, а также ближе взаимодействовать с пользователями. Вероятно, в будущем она даже позволит зрителям самим выбирать нужных актеров, а также влиять на ход сюжета.
Вопрос конфиденциальности пользователей стоит особняком. Общий регламент защиты персональных данных ЕС (General Data Protection Regulation) декларирует наличие явного согласия со стороны человека на обработку его данных и их передачу третьим сторонам. Однако GDPR работает только в отношении компаний, которые ведут бизнес на территории Евросоюза, и регламент по сей день сталкивается с противодействием крупных компаний, которые пытаются найти в нем лазейки.
Пока же главный позитивный итог серии — после выхода «Джоан ужасна» взлетело количество поисковых запросов, связанных с условиями самого Netflix. По данным измерителя Casino Alpha, всего через 80 часов после выхода шоу количество поисковых запросов в Google со словами «условия и положения Netflix» подскочило на 596% по всему миру, а к 24 июня 2023 года оно достигло пятилетнего максимума, увеличившись на 1524%.