Эволюция доверия

интерактивный путеводитель по теории игр: как и почему мы доверяем друг другу

загрузка...

ВКЛ

ВЫКЛ

ЭВОЛЮЦИЯ
ДОВЕРИЯ

длительность: 30 мин • nicky case, июль 2017
перевели максим toby3d лебедев и александр minoru батищев
original English version

загрузка...

ИГРАТЬ →

Посреди Первой мировой войны грянуло перемирие.
Это произошло на западном фронте в Рождество 1914-го года.
Несмотря на строгие приказы не расслабляться, британские
и немецкие солдаты покинули свои окопы и пересекли нейтральную
землю, чтобы похоронить погибших, обменяться подарками и поиграть.
Сейчас 2017-й год. Запад не знал войны многие десятилетия, а мы сосём
с доверием. Опросы показывают, что за последние сорок лет все меньше
людей говорят, что доверяют друг другу. Итак, вот наша головоломка:
Почему даже в мирное время друзья становятся врагами?
И почему — даже во время войны — враги становятся друзьями?
Я считаю, что теория игр может помочь нам объяснить эту
эпидемию недоверия и найти способ всё исправить!
Итак, чтобы во всём этом разобраться...

...давай сыграем в игру. →

ты
доверился

ты
обманул

он
доверился

он
обманул

ты
↙

другой игрок
↘

ИГРА НА ДОВЕРИЕ
У тебя есть выбор. Перед тобой машина: если положить в неё монету, твой соперник получит три монеты — и наоборот. Вы оба можете либо ДОВЕРИТЬСЯ (положить монету), либо ОБМАНУТЬ (не класть монету).

Скажем, другой игрок обманывает и не кладет монету.
Что должен сделать ты?

В точку! Зачем давать этому попрошайке клянчить клянчить?

Увы, подставив другую щеку, ты лишь получишь ещё!

Если ты доверишься и он обманет, то ты потеряешь монету, а он получит 3. (счёт: -1 vs +3) Однако, если вы оба сжульничаете, то никто ничего не получит и не потеряет. (счёт: 0 vs 0) Как следствие, ты должен СЖУЛЬНИЧАТЬ.

Но предположим, что другой игрок доверился и кладет монету.
Что теперь должен сделать ты?

Вау, это грубо... и является правильным ответом!

Ну да, это кажется правильным... ИЛИ НЕТ??

Потому что если вы оба доверяетесь, то вы оба жертвуете одной монетой, чтобы получить три. (счёт: +2 vs +2) Но если ты обманываешь, а он верит, то ты получаешь 3 монеты, а он теряет одну. (счёт: +3 vs -1) Потому: ты всё равно "обязан" СЖУЛЬНИЧАТЬ.

Это и есть наша дилемма. Доверие это клёво, но оно позволяет другим воспользоваться тобой — или пристрелить тебя, пока ты безоружен. Иногда недоверие рационально! Но что будет, если сыграть в игру...

...более одного раза? →

Теперь играем по-настоящему. Против тебя будут пять разных противников, у каждого из которых есть своя собственная "стратегия". С каждым ты проведёшь от 3 до 7 раундов. (Не зная заранее, сколько всего будет раундов) Можешь ли ты им доверять? Вернее... могут ли они доверять тебе?

Выбери свой первый, настоящий ход. Выбирай с умом.

противник: [X] из [Y]

твой общий счёт:

И твой общий счёт...

что просто поразительно плохо.

что мог бы быть и хуже!

что не так уж плохо!

что довольно хорошо!

что великолепно! Согласись, у тебя слишком много свободного времени.

...я понятия не имею, как ты это сделал.

(cамый низкий и высокий возможный счёт равен 7 и 49 соответственно)

Итак, кто все эти странные персонажи, с которыми ты только что играл?

ИМИТАТОР: Привет! На первом ходу я доверюсь, а потом просто буду копировать твой последний ход.

ОБМАНЩИК: сильные должны есть слабых

НАИВНЫЙ: Давай будем лучшими друзьями! <3

ЗЛОПАМЯТНЫЙ: Слушай сюда, дружище. Я начну с доверия и буду продолжать доверять, но если ты хоть раз меня обманешь, Я БУДУ ЖУЛЬНИЧАТЬ ДО ПОСЛЕДНЕГО.

ДЕТЕКТИВ: Учти: я тебя анализирую. Мои первые ходы: доверие, обман, доверие, доверие. Если обманешь, я буду действовать как Имитатор. Если ни разу не обманешь, я буду всегда жульничать, чтобы использовать тебя. Элементарно, мой дорогой Ватсон.

Но что, если бы эти персонажи играли...

...друг против друга? →

Настало время турнира! Сейчас каждый персонаж сыграет с каждым другим: это 10 парных матчей и 10 раундов за матч.
Кто, по твоему мнению, получит самый высокий общий балл? Хорошо подумай... и затем ДЕЛАЙ СТАВКУ:

Что ж, ты считаешь, что победит [CHAR]. Давай-ка пройдёмся по матчам один за другим и посмотрим, как развернутся события...

первый матч →

следующий матч →

Матч #[N]: [A] vs [B]

Раунды:

Общие счета: [A] vs [B]

О, кстати...

...Ты можешь сомневаться в той истории о рождественском перемирии во время Первой мировой. Наверняка это была просто случайность?

Да, перемирие было драматичным, но оно не было ни уникальным, ни необычным.

Не каждый окоп присоединился к миру, но такое поведение было довольно распространено. Многие фронтовые линии пришли к этой идее самостоятельно, и, опять-таки: вопреки конкретным, строгим приказам не делать этого.

Фактически, ещё до Рождества несколько фронтов уже установили неофициальный, секретный мир.

Они назвали это системой "живи и дай жить другим". Проще говоря, ты не стреляешь в меня, я не стреляю в тебя. И это работало, во многих местах!

Ты всё ещё можешь быть скептичен. Большинство солдат не склонны внезапно устанавливать мир с врагом. Что такого особенного в позиционной войне?

В окопах уникально вот что: в отличии от почти любой другой формы войны, тебе приходится каждый день сталкиваться с одними и теми же солдатами.

Это повторяющаяся игра. И в этом всё различие.

Ну ладно. Итак, победителем становится...

(барабанная дробь...) →

ИМИТАТОР!

Поздравляю, ты поставил на правильную лошадку.

(Извиняюсь за твою ставку, [CHAR].)

У Имитатора много имён. Золотое правило, взаимный альтруизм, око за око, или... живи и дай жить другим. Вот почему в окопах Первой мировой войны смог образоваться "мир": когда ты вынужден играть в одну и ту же игру с одними и теми же конкретными людьми (не просто одним и тем же абстрактным "врагом"), снова и снова — Имитатор выигрывает не только битву, но и войну.
Но если дело так сильно меняется, если играть в игру несколько раз, что если сыграть...

...несколько турниров? →

Давай позволим нашей популяции игроков развиваться. Это трёхступенчатый процесс:

1. ПРОВОДИМ ТУРНИР
Даём каждому сыграть с каждым, результаты по всем играм суммируются.

2. УСТРАНЯЕМ ПРОИГРАВШИХ
Избавляемся от пяти худших игроков. (В случае ничьей выбираем случайно)

3. КОПИРУЕМ ПОБЕДИТЕЛЕЙ
Клонируем 5 лучших игроков. (В случае ничьей выбираем случайно)

...начнём эволюцию! →

Положим, в начале у нас есть следующая популяция игроков: 15 Наивных, 5 Обманщиков и 5 Имитаторов. (Злопамятных и Детективов в расчёт пока что не принимаем)
Выполним процесс турнир-устранение-копирование дюжину раз. Пора сделать ещё ставку! Кто, по-твоему, выиграет первый турнир? ДЕЛАЙ СТАВКУ, СНОВА:

Ну да, сейчас Наивных больше всего...

Ну да, у Общанщиков много Наивных, которыми можно воспользоваться...

Ну да, Имитатор выиграл в прошлый раз, почему бы ему не выиграть снова?...

Посмотрим, прав ли ты:

1) играем турнир

2) исключаем 5 худших

3) копируем 5 лучших

Увы, Наивные были съедены Обманщиками, которых теперь на 5 больше.

К сожалению, ты был прав! Обманщики на этот раз победили, и их стало на 5 больше.

Увы, Имитаторы не выиграли –- но они все равно выступили лучше, чем Наивные. Те были съедены Обманщиками, которых стало на 5 больше.

Но давай попробуем провести еще несколько раундов...

Обманщики продолжают расти за счёт Наивных...

И вот все Наивные мертвы. Но погоди...

Именно: Обманщики стали жертвами собственного успеха! Они использовали Наивных, но как только с теми было покончено, Обманщикам пришлось столкнуться с Имитаторами: которые приятны, но не наивны.

Просто копируя движения соперника, Имитаторы прекрасно уживаются друг с другом, в то время как Обманщики обманывают самих себя! Это также означает, что Имитаторы платят Обманщикам их же монетой.

Итак, в результате...

...Имитаторы наследуют землю.

Итого, хоть ты и ошибся со ставкой — Наивные были обречены с самого начала — в итоге победила некая умная форма любезности, и Обманщики были раздавлены.

Итого, в краткосрочной перспективе ты был прав — Обманщики выиграли первые несколько раундов, но в итоге их эксплуататорство стало их концом.

Итого, в конечном счёте, ты был прав — Имитаторы побеждают! Обманщики, может, и выиграли в краткосрочной перспективе, но их эксплуататорство стало их концом.

Это напоминает мне цитату:
"Люди наказываются не за грехи, а самими грехами."
~ Элберт Хаббард

(о, кстати...)

(...результат сохраняется даже если добавить обратно Злопамятных и Детективов.)

начать процесс эволюции!

остановить процесс эволюции

(Примечание: иногда несколько Злопамятных могут задержаться, потому что когда все кроме Злопамятных и Имитаторов устранены, возникает ничья.)
Кажется, математика теории игр пытается нам что-то сказать: философия Имитаторов, "поступай с другими так, как ты хотел бы, чтобы другие поступали с тобой", может быть не только моральной, но и математической истиной. Однако...

...есть проблема: →

Оглянись вокруг. Мир полон козлов.
Раз уж стратегия Имитаторов так сильна в этой повторяющейся игре на доверие — настолько удачна, что даже солдаты Первой мировой переизобрели её под именем "живи и дай жить другим" — почему тогда вокруг так много недоверчивых, ненадёжных людей? Что является причиной эпидемии недоверия?
Ключ в самой формулировке. "В этой повторяющейся игре на доверие." Пока что мы говорили только об изменениях в игроках: как насчет изменений в игре? Что могло бы привести к...

...эволюции недоверия?

Прежде чем всё начнёт рушится, давай рассмотрим кое-что приятное. Вот мир, полностью заполненный Наивными, за исключением одного Обманщика и одного Имитатора.
Используй кнопки справа, чтобы НАЧАТЬ симуляцию, пройти по ней шаг-за-шагом или сбросить её. →

Как ты уже знаешь, при текущих правилах Имитатор в долгосрочной перспективе выигрывает.
Но это при текущих правилах, согласно которым персонажи играют друг против друга по 10 раундов за матч. Продолжит ли Имитатор выигрывать в 7 раундах? 5 раундах? 3? 2? 1?
Измени количество раундов с помощью слайдера ниже, затем ЗАПУСТИ симуляцию и посмотри, что произойдет. Не стесняйся экспериментировать!

когда закончишь играть, нажми:

Как видишь, если не сыграть достаточно много раундов (здесь: 5 или меньше), Обманщики доминируют.
В 1985 году опросы американцев показали, что в среднем у них по три близких друга. В 2004-м году это число упало до нуля. У нас теперь меньше друзей по классовым, расовым, экономическим и политическим направлениям, потому что у нас меньше друзей в целом. И, как ты только что сам выяснил, чем меньше "повторных взаимодействий", тем больше будет распространяться недоверие.
(Нет, СМИ не считаются: это должно быть двухстороннее взаимодействие между конкретными людьми.)

и да, дальше только хуже... →

Есть другой способ породить недоверие. Вот "награды" для нашей игры:

С обычными наградами выигрывает Имитатор. Но попробуй изменить награду "оба доверяют" с +2 на +1, а затем нажать СТАРТ. Хотя +1 это всё ещё лучше, чем наказание за обоюдный обман (0)... что произойдёт?

Не стесняйся играть с разными наградами! Когда закончишь, нажми:

(симуляция: 10 раундов за матч)

Происходит то же самое: с низкой "беспроигрышной" наградой, Обманщики берут верх. В теории игр на этот счёт есть две сильные идеи:
"Игра с нулевой суммой". Это распространённое (увы) убеждение в том, что выигрыш для "нас" должен означать проигрыш для "них", и наоборот.
"Игра с ненулевой суммой". Это когда люди прилагают все усилия для создания взаимовыгодного исхода! (или, по крайней мере, избегают потерь.) Без игры с ненулевой суммой доверие развиваться не может.
Кстати, давай посмотрим на наш третий и последний барьер на пути развития доверия...

Ашипки Ошибки. →

У Имитатора есть огромная, смертельная слабость, о которой я еще не упоминал. Чтобы понять проблему, давай представим как два Имитатора играют друг против друга:

Будучи "хорошими" игроками, на первом шаге оба решат:

И, как правило, они просто отплатят друг другу добротой и будут жить припеваючи.

Но что, если, пытаясь ответить взаимностью...

О НЕТ
Ошибки, недопонимание, неправильное толкование — в жизни несчастные случаи происходят на каждом шагу.

Но если другой игрок не считает это случайностью...

О НЕТ ×2
Другой игрок, будучи Имитатором, обязан будет отомстить...

...а ты, также будучи Имитатором, обязан будешь нанести ответный удар...

Таким образом, подобно Хаттфилдам и Маккоям, эти два Имитатора будут крутиться в бесконечном цикле мести... Который начался с одной ошибки, давным-давно.

Трагично. Но есть ведь и другие типы игроков, которые могут...

...преодолевать ошибки? →

Встречаем новые лица! (или новые шляпы, не суть)

ПОДРАЖАТЕЛЬ:
Привет! Я почти как Имитатор, но жульничаю только если обмануть меня два раза подряд. В конце концов, первый раз мог быть ошибкой!

ПРОСТАК:
привет я сначала сотрудничать. если ты тоже доверяться, я делать свой предыдущий ход, даже если это ошибка. если ты обманывать, я делать свой предыдущий ход наоборот, даже если это ошибка.

СЛУЧАЙНЫЙ:
Обезьяний робот! Ниндзя тако пицца! лол я такой непредсказуемый
(Просто жульничает или сотрудничает случайным образом с вероятностью 50/50)

Ладно, давай посмотрим, как эти ребята...

...играют в турнире →

Начнём с дюжины Наивных против нашего старого победителя, справедливого Имитатора, и трёх новых персонажей: прощающего Подражателя, скучного Простака и глупышки Случайного.
В каждом раунде у игроков есть небольшая вероятность сделать ошибку. (скажем, 5%) Кто, по-твоему, выйдет на первое место? Хорошо подумай, затем ДЕЛАЙ СТАВКУ:

Хорошо, ты считаешь, что [CHAR] победит. Давай поглядим! Используй элементы управления слева, чтобы ЗАПУСТИТЬ симуляцию в ускоренном режиме, или же выполняй её шаг за шагом.

Ты был прав —

Ты был близок, но нет —

победил Простак! Это потому, что Простак на самом деле способен использовать Наивных. Они оба начинают с сотрудничества, но если Простак совершает ошибку и жульничает, Наивные не отомстят, и Простак продолжит их обманывать.

Теперь давай попробуем...

...то же самое, только теперь вместо Наивных у нас будут Обманщики. Это гораздо менее снисходительная, более враждебная среда.
Кто, по-твоему, сейчас победит? Подумай, затем ДЕЛАЙ СТАВКУ:

Ты считаешь, что победит [CHAR]. Опять же, запусти симуляцию...

Ты был прав —

Хорошая догадка, но приз взял кое-кто другой —

на этот раз выиграл Подражатель! Удивительно, что с ещё более жестокой стартовой популяцией, Подражатель, более снисходительная версия Имитатора, оказался наиболее успешным! (примечание: Подражатель настолько снисходителен, что даже не полностью уничтожает Имитатора. Они уживаются вместе)
В данном случае небольшое "недопонимание" (вероятнотсь ошибки в каждом раунде — 5%) может привести к большей степени снисходительности. Но будет ли это справдливо для всех уровней...

...недопонимания?

Используй слайдер внизу, чтобы изменить вероятность "недопонимания", затем нажми СТАРТ. На 5% выигрывает Подражатель. Что происходит при 0%? Или 20%? Или 50%? (Слайдер только до 50% потому, что при 50% каждый ход превращается в подбрасывание монетки)

Когда закончишь играть, нажми:

Результаты получатся примерно такими:
При 0% победит честный Имитатор! От 1% до 9% побеждает прощающий Подражатель! От 10% до 49% побеждает несправедливый, беспощадный Обманщик. От 50% не победит никто.
Вот почему "недопонимание" образует такую интересную преграду доверию: когда его немного, оно приводит к снисходительности, но его избыток способоствует широко распространенному недоверию! Я думаю, наши современные медиа-технологии хоть и помогли развить связь... но гораздо больше увеличили степень нашего недопонимания.
Наконец, давай поэкспериментируем со всеми числами, ручками и ползунками. Поиграем...

...в песочнице!

Начать с этого распределения игроков:

Выигрыш в игре "один-на-один":

по-умолчанию

Играть [N] раундов за матч:

Играть [N] раунд за матч:

После каждого турнира удалить [N] худших игроков и скопировать [N] лучших игроков:

После каждого турнира удалить [N] худшего игрока и скопировать [N] лучшего игрока:

В каждом раунде игрок делает ошибку с вероятностью [N]%:

ПРИМЕЧАНИЕ: Режим песочницы является полностью опциональным. Можешь его пропустить, а можешь и поиграть! Как только ты закончишь, мы повторим...

что узнали сегодня! →

Теория игр показала нам три вещи, необходимые для эволюции доверия:

1. ПОВТОРНЫЕ ВЗАИМОДЕЙСТВИЯ

Доверие поддерживает отношения, но для его развития нужно ожидать повторных взаимодействий в будущем.

2. ВОЗМОЖНАЯ ВЗАИМОВЫГОДА

Вы должны играть в игру с ненулевой суммой, где есть хоть какой-то шанс, что оба игрока что-то получат — то есть достигнут взаимовыгодного исхода.

3. МИНИМУМ НЕДОПОНИМАНИЯ

Если уровень недопонимания слишком высок, доверие ломается. А когда недопонимания не очень много, полезно быть более снисходительным.

Конечно, реальное доверие зависит от гораздо большего количества факторов. Есть репутация, общие ценности, контракты, культурные маркеры, бла-бла-бла. И давай не будем забывать...

...о самом большом уроке. →

Если и есть в теории игр какая-то основная идея,
то вот она:
Игра определяет то, что игроки в ней делают.
Наша нынешняя проблема заключается не только в том, что
люди теряют доверие, но и в том, что само наше окружение действует против эволюции доверия.
Это может показаться циничным или наивным — что мы "всего лишь" продукты своей среды — но, как напоминает нам теория игр, для друг друга мы и есть среда. В краткосрочной перспективе игра определяет игроков. Но в итоге именно мы, игроки, определяем игру.
Итак, делай всё, что можешь, и создавай условия для развития доверия. Строй отношения. Ищи взаимовыгодные решения. Общайся понятно. Может быть, тогда мы сможем прекратить стрелять друг в друга, выберемся из окопов и пересечём границы, чтобы собраться вместе...

и научиться...

...как жить и давать жить другим.

"A Christmas Truce between Opposing Trenches" Иллюстрация AC Michael. Опубликовано в The Illustrated London News, 9 января 1915 года.

<3

автор:
NICKY CASE
сыграй в другие мои штуки • подпишись в twitter
скачай музыку и исходный код основано на книге Роберта Аксельрода 1984-го года,
"THE EVOLUTION OF COOPERATION"
прочти мои сноски для этой игры много любви и благодарности
МОИМ СПОНСОРАМ НА PATREON
взгляни на мои рисунки с ними • брось мне пару монет на patreon <3 p.s: хочешь больше игрового обучения?
попробуй exporable explanations!

Имитатор

имитатор

Имитатор

Обманщик

обманщик

Обманщик

Наивный

наивный

Наивный

Злопамятный

злопамятный

Злопамятный

Детектив

детектив

Детектив

Подражатель

подражатель

Подражатель

Простак

простак

Простак

Случайный

случайный

Случайный

(забыл, кто есть кто? наведи курсор на кнопки, чтобы увидеть описания каждого персонажа!)

Начинает с доверия. Затем просто повторяет все, что ТЫ делал в последнем раунде.

Всегда жульничает.

Всегда сотрудничает.

Начинает с доверия и продолжает доверять, пока ты не обманешь хотя бы раз. Впоследствии всегда жульничает.

Первые ходы: доверие, обман, доверие, доверие. Впоследствии, если ты хоть раз сжульничаешь, будет играть как Имитатор. В противном случае он играет как Обманщик.

Начинает с доверия. Ответит жульничеством только если ты обманул его ДВА РАЗА подряд.

Начинает с доверия. Затем, если ты доверился в последнем раунде, он повторяет свой последний ход (даже если это была ошибка). Но если в последнем раунде ты сжульничал, он повторит свой последний ход наоборот (даже если это была ошибка).

Случайно сотрудничает или жульничает с вероятностью 50/50.

довериться

обмануть

играть

СТАРТ

СТОП

шаг

сброс

популяция

награды

устав

дальше →

далее

0. Введение

1. Одна игра

2. Повторяющаяся игра

3. Один турнир

4. Повторяющийся турнир

5. Эволюция недоверия

6. Ашипки

7. Песочница

8. Заключение

9. Авторство