Игры существовали задолго до появления человека. Выдры скатываются с грязевых склонов, птицы парят на воздушных потоках — играя, животные не только получают удовольствие, но и в безопасных условиях исследуют возможности своего тела. Люди с помощью игр научились совершенствовать свой ум, например развивать способность к логическому мышлению и принятию решений. Игровые механики стали основой для общественных институтов с их гласными и негласными правилами. В XX веке была создана теория игр, предсказывающая поведение игроков на основе чистой математики. В своей книге «Реальность на кону» нейробиолог и физик Келли Клэнси исследует, какие риски несут нам современные подходы к обучению и труду, спроектированные с учетом теории игр.
Кто автор?
Келли Клэнси — нейробиолог и физик, сотрудничающая с Массачусетским технологическим институтом и Лондонским университетским колледжем. Ее статьи публиковались в The Wall Street Journal, Wired, Harper's Magazine, The New Yorker, Massachusetts Review и других изданиях. «Реальность на кону» была признана «Книгой года» по версии The New Yorker, The Economist, The Guardian и Behavioral Scientist.
О чем книга?
Хотя продукт эволюции — геном — определяет в значительной степени наше развитие и поведение, далеко не все наши действия жестко запрограммированы в ДНК. Значительная часть человеческих реакций и паттернов поведения формируется под действием среды и персонального жизненного опыта, получаемого в том числе и из игр. Шахматы, детские дворовые игры или онлайн-аукционы — все они могут влиять и на то, как участники будут соревноваться за победу, и на их решения вне игры.
В древние века игровые доски и другие приспособления использовались также и для прорицания будущего. В новейшей истории эта функция игр повлияла на то, как мы обучаемся и конфликтуем.
Наука войны
Широко известно использование шахмат в образовательных целях: так представители высших классов и военачальники совершенствовались в логике и стратегии. В XIX веке на основе этой древней игры в Германии был разработан кригшпиль, имитирующий военные кампании. Игровое поле отображало рельеф местности, а фишки — воинские подразделения. Офицеры использовали кригшпиль для проверки конкретных тактик и разработки планов целых кампаний.
Например, перед вторжением в Советский Союз генералы Третьего рейха провели симуляцию наступления и пришли к выводу, что к ноябрю немецкие войска должны уничтожить 240 советских дивизий, оставив в строю лишь 60. Немцы не стали продолжать игру: прогнозируемый ими перевес был настолько значителен, что, по их мнению, Красная армия должна была быть фактически уничтоженной. Однако кригшпиль был известен и в среде советских военных, и проведенная Георгием Жуковым симуляция предсказывала такие же результаты. Это повлияло на решения советского руководства. На оборону в первые месяцы войны, как описывает автор, были брошены все силы: «хотя русские и потеряли в боях 248 дивизий, [Иосиф] Сталин мобилизовал столько войск, что для дальнейшего отпора у него оставалось 220 дивизий, а не 60».
Вторая мировая послужила почвой для развития новых областей технологий и знаний. В частности, стремление математиков и экономистов разглядеть рациональные мотивы в европейской политике воплотилось в ставшей классической книге Джона фон Неймана и Оскара Моргенштерна «Теория игр и экономическое поведение».
Теория игр
К текущему моменту за исследования теории игр присудили 15 Нобелевских премий по экономике. Эти работы включали в себя целый спектр прикладных тем, от регулирования монополий до игр с асимметричной информацией, таких, например, как рынок труда. Положения теории игр стали основой для новых платформ и экономических систем — «от алгоритма, подбирающего американским студентам-медикам идеальные для них места в ординатуре, до многомиллиардных аукционов по продаже радиочастотных лицензий». Прогнозирование логистических потоков, проектирование протоколов связи для сетевых устройств и даже эффективность онлайн-торговли основаны на логике теории игр. Эта работа повлияла на военные стратегии и современные социальные системы и продолжает менять то, как устроен наш мир.
Вместе с тем критиков теории игр не меньше, чем ее последователей. Ее логика основана на играх с «нулевой суммой» — чистых конфликтах вроде шахмат или покера, где выигрыш одного игрока означает равный проигрыш соперника. Кроме того, работа фон Неймана и Моргенштерна основана на предположении, что игроки рациональны, а результаты — количественно измеримы, при этом сложно поддающиеся измерению последствия — «экологические издержки, гражданские раздоры, испорченные дипломатические отношения — просто не учитываются при подсчете очков». В результате попытки геймифицировать различные процессы зачастую сталкиваются с одной и той же проблемой: часть игроков обучается демонстрировать количественные показатели успеха, но упускает из вида суть. Это касается и людей, и нейросетей.
Этика измеримых целей
Исследователи из OpenAI тренировали свою систему на видеоигре про гонки на катерах, используя обучение с подкреплением. Программе необходимо было максимизировать набранные очки. Несколько недель система набиралась игрового опыта. Люди предполагали, что ИИ-агент научится вести катер к финишу. Вместо этого он стал накручивать свой счет, вертясь на одном месте, чтобы поражать постоянно возникающие цели. Подсчет очков оказался плохим показателем эффективности того поведения, которому хотели обучить программу исследователи.
Аналогично суть нередко ускользает и при игровом обучении других нейросетей. К примеру, языковая модель GPT тренируется, предсказывая слова. Модель получает различные фрагменты текстов и пробует угадать наиболее вероятные слова, соответствующие пропущенным кускам. Постепенно она усваивает статистические связи, существующие в языке, и может генерировать связные и вполне осмысленные тексты. Проблема в том, что языковые модели не обладают функцией фактчекинга, и созданный такой системой определитель грибов может давать «неверные подсказки, следование которым может привести к употреблению в пищу смертельно ядовитых поганок».
Несмотря на успешные примеры использования игровых механик в научных конкурсах, Келли Клэнси считает, что «беззубые» этические нормы, на которых строятся многие программы геймификации и обучения, могут скорее навредить участвующим в них людям. От использования баллов государственных экзаменов в качестве единственных критериев качества образования до замены девственных лесов измеримыми лесопосадками, попытки оптимизировать определенный показатель подвержены так называемому закону Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой».
Геймификация мира
Келли Клэнси считает особенно опасной геймификацию трудовых отношений. Разработчики игровых механик обещают сотрудникам, что с их внедрением рутина станет более интересной, а выполнение рабочих задач превратится в увлекательный процесс. На деле же такие системы зачастую эксплуатируют внутреннюю мотивацию и нейронный контур сотрудников и могут наносить работникам вред. «Сотрудников складов Amazon и водителей такси Uber — корпораций, активно использующих геймифицированные рабочие платформы, — подталкивают к тому, чтобы переместить еще одну посылку, принять еще один заказ». В результате такая геймификация может приводить к переработкам и проблемам со здоровьем. Причем страдать могут не только сами работники, но и те, с кем они взаимодействуют. Любого участника корпоративных игровых механик можно подтолкнуть к дегуманизации своих клиентов, особенно опасно это может быть в медицине.
Публичные игры, даже такие потенциально полезные, как геймифицированные приложения для изучения иностранных языков, зачастую ориентированы не столько на качество получаемого навыка, сколько на время и ресурсы игрока. Злоупотребления могут быть не только со стороны коммерческих компаний, заинтересованных в удержании внимания пользователей, но и в новых экономических институтах, спроектированных на основе игровых механик.
К примеру, в 2020 году экономисты Роберт Уилсон и Пол Милгром получили Нобелевскую премию за работу по созданию новой государственной системы распределения спектра частот в США. Решение заключалось в том, чтобы одновременно выставить все лицензии на аукцион, где участники могут делать ставки анонимно. Желающие получить определенный диапазон спектра в ходе нескольких раундов торгов могли самостоятельно определить, сколько они готовы заплатить за него. По итогам каждого раунда предложения публиковались, чтобы участники могли скорректировать свои или пересмотреть диапазон частот, на который они претендовали. Анонимность ставок, казалось, должна была помочь избежать сговора или других методов нечестной игры. Однако по завершении торгов оказалось, что некоторые компании смогли идентифицировать себя и подавать сигналы другим участникам с помощью самих ставок. К примеру, «телекоммуникационная компания Mercury PCS посылала конкурентам сигнал отступить, делая ставки, три последние цифры которых соответствовали коду региона самой важной для нее лицензии», а в аукционах за частоты, в которых была заинтересована корпорация AT&T, известная своей мстительностью (как утверждает автор), конкурентов было гораздо меньше. Доказать такой сговор юридически практически невозможно, но корпорации, использовавшие тактику «подачи сигналов», платили примерно на 40% меньше, чем другие.
Как бы тщательно ни были продуманы современные игровые механики, по мнению автора, они не могут исключить злоупотреблений властью и требуют более строгих этических норм.
Цитаты
- «Игра способна подменять подлинные предпочтения людей теми, что поощряются ее системой подсчета очков».
- «Компьютерные протоколы стали полем битвы за то, какие ценности встроены или прописаны в нашей реальности, поскольку они определяют игры, в которые мы, как конечные пользователи, вынуждены играть».
Зачем читать книгу?
Книга будет полезна всем, кто изучает и внедряет геймификацию, а также задумывается о целенаправленном создании лучших версий стимулирующих механик как в коммерческом секторе, так и в общественном поле.
➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.