Инстинкт справедливости и монетизация одиночества: как игры формируют нашу реальность

Келли Клэнси — нейробиолог, физик и писательница, чья работа находится на стыке науки о мозге, искусственного интеллекта и философии познания. Она получила докторскую степень по нейробиологии в Калифорнийском университете в Беркли и работала в ведущих исследовательских центрах, изучая, как мозг обрабатывает информацию и принимает решения. Она также работала исследователем в занимающейся ИИ-разработками компании DeepMind и является регулярным автором таких изданий, как Wired, Harper’s, The Wall Street Journal и The New Yorker.

В книге «Реальность на кону. Как игры объясняют человеческую природу» Клэнси предлагает взгляд на историю человечества через призму игр. Она прослеживает, как игры — от древних настольных состязаний до современных компьютерных симуляций — формировали наше понимание мира, влияли на развитие математики, экономики, военной стратегии и даже искусственного интеллекта.

Клэнси подчеркивает, что игра — это не просто развлечение, а фундаментальный способ, которым мы моделируем реальность, учимся предсказывать будущее и принимать решения в условиях неопределенности.

Кроме того, она показывает, что способность «играть с реальностью» — это то, что сделало нас людьми и продолжает двигать технологический прогресс.

Книга «Реальность на кону. Как игры объясняют человеческую природу» выходит в феврале в издательстве «Альпина нон-фикшн». Forbes публикует отрывок.

В 50-х годах специалисты по теории игр обнаружили, что некоторые повторяющиеся игры допускают бесконечное число стратегий с устойчивым равновесием. Этот вывод получил название «народной теоремы», поскольку доказательство тут было настолько очевидным, что никто не потрудился его официально опубликовать. Допустим, два игрока должны решить, как разделить шоколадный торт. Торговаться нельзя: каждый игрок втайне от другого решает, какую долю потребовать, записывает ее и передает сложенный листок судье. Если в сумме эти требования превышают 100%, все игроки проигрывают и торт достается судье. В противном случае игроки получают то, что потребовали, а остаток торта отправляется в корзину. В ходе многократных повторений игроки найдут устойчивое равновесие. Разделить торт пополам кажется естественным решением, но таким же решением будет и одна треть и две трети или одна четверть и одна вторая — и так до бесконечности. Годится любая стратегия, при которой сумма не превышает 100%. В этом и заключается «народная теорема»: она определяет, какие решения выполнимы. Неважно, жаден ли игрок, если ему в пару поставили игрока с подходящей скромностью. Смешанные популяции игроков с разными стратегиями могут успешно сосуществовать. Однако справедливое решение — поделить торт 50/50 — остается наиболее эффективным. 

Чтобы понять, почему так, философ Брайан Скирмс для простоты представил, что у участника игры с шоколадным тортом есть лишь три возможные стратегии ведения торга: требовать половину (назовем таких справедливыми игроками), требовать одну треть (скромные игроки) или требовать две трети (жадные игроки). Хотя популяции скромных и жадных игроков вместе порождают состояние устойчивого равновесия, это неэффективная стратегия. Всякий раз, когда сталкиваются два жадных игрока, они не получают ничего. Всякий раз, когда сталкиваются два скромных, они теряют треть торта. Справедливая стратегия является самой эффективной, поскольку ведет к наименьшим потерям и к наибольшей приспособленности всей популяции. Скирмс моделировал такие повторяющиеся игры, задавая начальные популяции с разным соотношением приверженцев этих трех стратегий. После множества циклов популяция тяготеет к справедливой стратегии, при которой теряется меньше всего кондитерской продукции. Справедливость можно рассматривать как эвристику, помогающую человеку выбрать из бесконечного множества осуществимых стратегий ту, которая выгодна наибольшему числу игроков. Мораль, иными словами — это просто элегантная игровая тактика. 

Поскольку справедливое решение является устойчивым равновесием, нам не нужно выдумывать понятия вроде религиозного долга или Левиафана, чтобы обеспечить стабильность общественного договора. Справедливость возникает в ходе повторяющихся игр, но не закладывается в них как исходное условие. 

Суть «народной теоремы» — что повторяющаяся игра может в принципе иметь бесконечное число решений — прекрасно согласуется с огромным разнообразием выработанных человечеством социальных структур. Не существует единственного способа организовать человеческое общество, что опровергает миф о монолитном изначальном состоянии. Мы не связаны жесткими биологическими императивами. Широко известна запись Дарвина в одном из его блокнотов: «Тот, кто понимает бабуина, больше продвинулся по части метафизики, чем Локк». Напротив, Бинмор отмечает: «Да, мы голые обезьяны, но из этого не следует, что для понимания наших правил поведения за столом нужно наблюдать за обедающими бабуинами». 

Наш инстинкт справедливости лежит в основе универсальной нравственной грамматики, или, как говорил философ Джон Ролз, «некой моральной геометрии». Наша любовь к справедливости не возникла как результат древнего торга, а, видимо, укоренилась в нас в процессе эволюции. Даже другие млекопитающие и птицы ценят справедливость. В лабораторных экспериментах макаки, получившие в награду малоценное лакомство, например, огурец, выбрасывают его, если видят, что их сородичу достался фрукт. 

Справедливость — это внутренняя ценность. «Традиционалисты яростно противятся этому предположению, — пишет Бинмор, — поскольку думают, что в наших генах не записано ничего, кроме кровожадной дикости природы». Но народная теорема доказывает отсутствие препятствий для того, чтобы люди приходили к эффективным и кооперативным стратегиям. Во многих обществах охотников-собирателей люди поровну делят высокоценную пищу, например, мясо, независимо от того, кто убил зверя — это логичный вывод из исходного положения охотников, которые, уходя утром, не знают, кто из них вернется с добычей. Люди не максимизируют бездумно свою ожидаемую выгоду, а справедливость не является какой-то невозможной добродетелью, противопоставленной беспощадной социальной эффективности. Это не выдуманное достоинство, проявлять которое людям стоит огромных усилий, а нечто встроенное в нашу личность и необходимое для нашего коллективного благополучия. 

Модели никогда не следует принимать за чистую монету. И все же игры могут помочь нам поразмышлять о пространстве возможных общественных договоров, очертить границы вообразимого — что может быть динамикой, а что нет. Теория игр предлагает решения, которые совместимы с человеческой природой — или, точнее, с природой эгоистичных агентов. С тех пор, как Адам Смит первым представил эгоизм добродетелью, экономисты превозносят это свойство как движущее начало производительности и изобретательности. Но эгоизм отнюдь не единственное человеческое достоинство, и мы не должны зацикливаться на нем в ущерб остальным. Человека можно приближенно представлять как максимизирующего агента, стремящегося к удовлетворению собственных предпочтений. Однако нельзя игнорировать тот факт, что эти предпочтения обычно включают в себя стремление к справедливости и равенству. 

Современные мыслители вернулись к платоновской надежде на то, что игры могут учить игроков совершенствоваться и становиться лучшими гражданами. В своей книге «Кузнечик. Игры, жизнь и утопия» философ Бернард Сьютс утверждал, что, если человечество когда-либо достигнет утопии, в которой все наши потребности будут удовлетворяться, игры могут стать нашим основным занятием. В последние несколько десятилетий гейм-дизайнеры пошли еще дальше. Игры будут не просто официальным времяпрепровождением Утопии; они помогут проложить к ней путь. Геймификация преобразит рутину современной жизни. Фитнес-приложения сулят нам безупречные тела, заработанные с удовольствием; Duolingo обещает освоение языков без особых хлопот; приложения-органайзеры примиряют со списками дел даже самых закоренелых прокрастинаторов. Игры, обещают такие гейм-дизайнеры, — это технология для совершенствования тела и разума. Со временем офисная работа алхимическим образом превратится в увлекательное приключение, образование станет легким и непринужденным, а выполнение даже самых нудных задач начнет приносить удовольствие. 

Очевидно, что пока этого не произошло. Геймификация может сделать повседневные дела более приятными. Но, по словам гейм-дизайнера Эдриана Хона, она не может чудесным образом сделать приятным любое занятие. В принципе, геймификация — прекрасная идея: задействовав наши природные игровые инстинкты, мы можем улучшить свою жизнь. На практике же она была перехвачена крупными компаниями и светочами корпоративной мысли, применяясь самыми скучными из всех мыслимых способов. Начнем с того, что большинство игровых механик, которые компании навешивают на свои системы, на самом деле вовсе не доставляют удовольствия. Многие из них изначально создавались, чтобы сделать игры более затягивающими, а не более приятными, то есть разрабатывались, чтобы приковать игроков к игровым платформам. Они оптимизированы, чтобы выкачивать из игроков время, деньги и внимание. Эти механики, прозванные экспертами «темным дизайном», часто способствуют возникновению аддикции. Некоторые игры, такие как World of Warcraft, не имеют финала. Игрок может войти в игру в любое время и с любого места, обнаружив, что там происходит что-то увлекательное. Наша инстинктивная любовь к азартным играм эксплуатируется в идее «лутбоксов», которые игроки покупают ради шанса получить редкие внутриигровые предметы. Другие механики утоляют жажду игроков подняться в таблице лидеров, накопить достижения или собрать коллекцию. Игроки могут часами «гриндить» (совершать скучные повторяющиеся действия), чтобы собрать внутриигровые предметы, на которые создан искусственный дефицит. Другие платят реальные деньги, чтобы избежать такого гринда: в 2023 году один скин для оружия в Counter-Strike был продан более чем за $400 000. 

Механики геймификации не просто высасывают из нас материальные ресурсы: некоторые из них эксплуатируют более глубокую человеческую потребность в смысле и социальных связях. Гейм-дизайнер Джейн Макгонигал превозносит достоинства игр: в отличие от жизни, пишет она, игры дают игрокам четкое ощущение осмысленности и самореализации. Игры приносят удовольствие, потому что заставляют игроков чувствовать себя продуктивными. В этом же состоит и их подвох. Многие видеоигры составлены так, чтобы игроки верили, что совершенствуют свои навыки, тогда как на самом деле они лишь получают по мере прохождения уровней все лучшее снаряжение. Игры предлагают игрокам ясно определенные задачи и более достижимое, чем на работе или в личной жизни, чувство самореализации. Но такие поддельные достижения могут и вредить игрокам — например, когда они кропотливо ухаживают за виртуальной фермой, пренебрегая своими реальными обязанностями. 

То же самое верно и в отношении социальных связей. Социальный статус — важный компонент психического здоровья, и игры часто пишутся так, чтобы повышать чувство собственной значимости игроков. Игрок превращается в героя, в самого богатого рудокопа, в деревенского донжуана. Игры могут стать убежищем для игроков, страдающих от социальной тревожности или испытывающих трудности в реальных отношениях, что делает их еще более совершенными машинами по производству аддикции. Зависимость от компьютерных игр чаще всего встречается у тех игроков, которые сообщают о своем одиночестве и высоких уровнях стресса, хотя неясно, что тут является причиной, а что следствием. Справедливости ради, многие геймеры обретают благодаря своему увлечению чувство принадлежности к сообществу, но нельзя игнорировать тот факт, что игры все чаще создаются с расчетом на монетизацию одиночества. Реабилитационные центры берут десятки тысяч долларов за лечение зависимых геймеров с разрушенными жизнями и отношениями. 

Геймификация повлияла на дизайн интернет-платформ, определив очертания виртуального публичного пространства. Социальные сети используют такие механизмы, как лайки, репосты и цифровые монеты, чтобы превратить публикацию постов в игру с начислением очков, — динамика, которая, как нам теперь известно, отравила атмосферу многих онлайн-форумов. Изучая сообщества игры World of Warcraft, политтехнолог Стивен Бэннон понял, что из лишенных корней белых мужчин с их «силой монстров» можно составлять целые армии онлайн-троллей, как это произошло во время скандала из-за мизогинии в геймерской культуре, получившего название «Геймергейт» (Gamergate). С тех пор «альтернативные правые» неоднократно использовали эту тактику для запугивания своих идеологических противников. Геймификация может также использоваться как форма контроля: в некоторых китайских городах репутация граждан оценивается в баллах, а повседневные возможности каждого отдельного человека определяются системой наказаний и поощрений. На ком лежит ответственность за принятие нравственных решений, когда поведение людей конструируется в угоду корпоративным и государственным интересам? 

Особенно коварна геймификация трудовых отношений. Она основана на идее, что продуманный дизайн может сделать приятными в остальном неприятные задачи. На деле это сводится к приведению реальных предпочтений людей в соответствие с предпочтениями их работодателей, к эксплуатации их внутренней мотивации и нейронных контуров подкрепления для незаметного насаждения корпоративных интересов. Иными словами, геймификация подменяет то, чего реально хотят люди, тем, чего хотят корпорации. Это уже не раз наносило вред работникам. Сотрудников складов Amazon и водителей такси Uber — корпораций, активно использующих геймифицированные рабочие платформы — подталкивают к тому, чтобы переместить еще одну посылку, принять еще один заказ. Проведенные исследования связали это с проблемами со здоровьем и несчастными случаями среди работников: под влиянием геймификации они начинают работать слишком усердно и слишком подолгу. Это может быть вредно не только для самих работников, но и для тех, на ком сказывается их работа. Любого, кто имеет дело с людьми — медработника, сотрудника отдела кадров, работника социальных служб — можно подтолкнуть к дегуманизации своих клиентов. Точно так же, как геймификация военных операций увеличивает психологическую дистанцию между солдатами и войной, которую они ведут, геймифицированная рабочая среда может подталкивать работников к сомнительным в нравственном отношении действиям, спрятанным под глянцевой оболочкой игры. 

Впрочем, тут мы, вероятно, приписываем геймификации слишком большое могущество; ее возможности не безграничны. Многие рабочие места, которые легко поддаются геймификации, куда выгоднее будет автоматизировать. Любой навык, который можно каким-то образом оценить и оптимизировать, поддается замене машинным трудом. Энтузиасты ИИ давно обещают, что их детище приведет к созданию общества пост-занятости, где люди смогут тратить свое время так, как им заблагорассудится. Пророки геймификации дают более скромный прогноз: люди по-прежнему будут работать, но им это будет нравиться. С появлением генеративных моделей мы начинаем наблюдать формирование совсем иной динамики. Робототехник Ханс Моравек заметил, что навыки, которые эксперты изначально считали трудными для автоматизации, например, игру в шахматы, оказались для инженеров более простой задачей, чем «немыслительные» способности вроде ходьбы. В последнее время генеративные модели делают успехи в автоматизации создания образов и текстов, однако от автоматизации тяжелого физического труда нас пока отделяют многие годы. Когда-то люди мечтали, что роботы возьмут на себя повседневную рутину, оставив нам возможность заниматься искусством и поэзией. Вместо этого произошло обратное. 

Еще одна проблема с геймификацией всего и вся заключается в том, что люди оказались втянуты в игры, на участие в которых они никогда не соглашались, — как на индивидуальном, так и на общественном уровне. Возьмем библию пикаперов, книгу «Игра», согласно которой мужчина «побеждает» в жизни, переспав с как можно большим числом женщин. Если женщины — это очки, то они не являются игроками с собственной агентностью и, таким образом, становятся невольными пешками в игре, участвовать в которой они не давали согласия. Что-то подобное мы видим во многих сферах жизни. Ни в чем не повинные вкладчики банков вынуждены принимать на себя риски, связанные со ставками своих банкиров. Мелкие инвесторы отданы на милость хищников с Уолл-стрит, которые считают рынок игрой с нулевой суммой и действуют так, что это неизбежно оказывается правдой. Мошенники оправдывают свое порочное поведение бездушной подделкой под здравый смысл: «Не вини игрока, вини игру». Если мы сознательно конструируем наши общественные и финансовые системы как игры, мы должны убедиться, что это игры, в которые согласны играть все члены общества, и что выиграть в них может каждый. 

Военные стратеги с помощью теории игр доказывали, что страны мира оказались в ловушке неумолимой гонки вооружений, что привело к распространению ядерного оружия. Многие руководители корпораций говорят об ИИ так, будто у них нет иного выбора, кроме как продолжать его разработку. По их словам, гонка за лидерство в области ИИ — это одновременно и неизбежность, и величайший нравственный провал нашего времени, поскольку она может привести к вымиранию человечества. Вместо того, чтобы прибегнуть к моральному суждению, такие руководители с готовностью снимают с себя ответственность, перекладывая ее на свои сформированные теорией игр модели мира. Ирония в том, что опасности, на которые они указывают (что, если модель, которой поручено делать скрепки, превратит в скрепки всю Вселенную?) — это прямое следствие того, что сами их модели являются неустанными максимизаторами. Те, кто бьют тревогу по поводу ИИ, говорят об опасности встраивания максимизации в наши модели, но, как нарочно, не видят опасности максимизации как бизнес-стратегии. Современный капитализм с его сосредоточенностью исключительно на повышении стоимости акций уже чреват опасностями близорукой максимизации. 

И все же сами по себе игры — это полезная для понимания человеческого выбора и агентности область. Игры дают игрокам чувство контроля, что само по себе немалое достоинство. Ощущение собственной агентности — это важнейшая, но часто упускаемая из виду составляющая психологического здоровья. Даже малейшее препятствие для проявления агентности — скажем, залипание кнопки компьютерной мыши — способно привести в ярость. Потеря телесной автономии — например, паралич в результате несчастного случая — сокрушительна. И комедия, и трагедия коренятся в несоответствии агентности, когда возможности не отвечают нашим амбициям. Игры позволяют игрокам испытать чувство компетентности и контроля и поэтому могут быть чрезвычайно целебными для психики. Ребенок, которого травят в школе, может гордиться тем, что он лучший арбалетчик в видеоигре. Однако это не меняет того факта, что ребенка травят. Примерно так же игры, служа убежищем для эскапистов, могут все чаще использоваться, чтобы маскировать ущемление прав в масштабах целого общества. В эпоху размывания свобод — расцвета систем слежки, ослабления социальной мобильности, милитаризации полиции — игры способны служить опиумом для ослабленной агентности. В утопическом будущем игры могут запросто стать нашим основным времяпрепровождением, но с тем же успехом они могут и скрашивать собой антиутопию. Виртуальные миры станут источником симулякров дефицитных в реальности благ вроде социального статуса, в то время как реальные свободы и материальное благополучие игрока будут сходить на нет. Чем в большей мере реальность захватывается играми — метавселенной, геймификацией трудовой деятельности, социальными сетями, тем более уязвимыми мы оказываемся для этих симулякров. 

Возможно, самое многообещающее в играх то, что они являются технологией эмпатии. Игровой процесс укрепляет социальные связи. Многие млекопитающие, если им не давать в детстве играть, во взрослом возрасте страдают от эмоциональных проблем и хуже по сравнению с обычными сверстниками выстраивают отношения. Игры, неизменно присутствующие во всех человеческих обществах, могли возникнуть как структурная основа для построения людьми ментальных образов друг друга. Возможно, они сохранялись и развивались из поколения в поколение благодаря тому, что помогали членам сообщества учиться рассуждать друг о друге. Игроки, чтобы обеспечить для себя наилучший результат, должны понимать представления и предпочтения других участников игры. Выражаясь научно, они должны обладать способностью моделировать психические состояния других (включая их эмоции, желания, представления и знания). Игровая борьба, вероятно, развилась у животных, чтобы они могли отрабатывать головокружительные позы, выходящие за рамки их повседневного опыта, и тем самым лучше понимали свое тело. Подобным же образом участники игр мысленно примеряют на себя новые типы мышления и роли, приходя к более глубокому осознанию самих себя. Игры — это безопасные социальные эксперименты: инструменты для понимания соперников, примерки новых идентичностей и проверки наших отношений.