Эволюция доверия

интерактивный путеводитель по теории игр: как и почему мы доверяем друг другу

загрузка...

ВКЛ

ВЫКЛ

ЭВОЛЮЦИЯ
ДОВЕРИЯ

длительность: 30 мин • nicky case, июль 2017
перевод toby3d, редактура minoru
original English version

загрузка...

ИГРАТЬ →

Посреди Первой мировой войны грянуло перемирие.

Это произошло на западном фронте в Рождество 1914-го года.
Несмотря на строгие приказы не брататься с врагом, британские
и немецкие солдаты покинули свои окопы и пересекли нейтральную
землю, чтобы похоронить погибших, обменяться подарками и поиграть.

Сейчас 2017-й год. Запад не знал войны многие десятилетия, а мы не умеем
доверять. Опросы показывают, что за последние сорок лет все меньше
людей говорят, что доверяют друг другу. Итак, вот наша головоломка:

Почему даже в мирное время друзья становятся врагами?
И почему — даже во время войны — враги становятся друзьями?


Я считаю, что теория игр может помочь нам объяснить эту
эпидемию недоверия и найти способ всё исправить!
Итак, чтобы во всём этом разобраться...

...давай сыграем в игру. →

ты
доверился

ты
обманул

он
доверился

он
обманул

ты

другой игрок

ИГРА НА ДОВЕРИЕ
У тебя есть выбор. Перед тобой машина: если положить в неё монету, твой соперник получит три монеты — и наоборот. Вы оба можете либо ДОВЕРИТЬСЯ (положить монету), либо ОБМАНУТЬ (не класть монету).

Скажем, другой игрок обманывает и не кладёт монету.
Что должен сделать ты?

В точку! Зачем давать этому попрошайке клянчить?

Увы, подставив другую щеку, ты лишь получишь ещё!

Если ты доверишься и он обманет, то ты потеряешь монету, а он получит 3 (счёт: -1 : +3). Однако, если вы оба сжульничаете, то никто ничего не получит и не потеряет (0 : 0). Как следствие, ты должен СЖУЛЬНИЧАТЬ.

Но предположим, что другой игрок доверился и кладёт монету.
Что теперь должен сделать ты?

Ух, это грубо... и является правильным ответом!

Ну да, это кажется правильным... ИЛИ НЕТ??

Потому что если вы оба доверяетесь, то вы оба жертвуете одной монетой, чтобы получить три (+2 : +2). Но если ты обманываешь, а он верит, то ты получаешь 3 монеты, а он теряет одну (+3 : -1).
Потому: ты всё равно "обязан" СЖУЛЬНИЧАТЬ.

Это и есть наша дилемма. Доверие это клёво, но оно позволяет другим воспользоваться тобой — или пристрелить тебя, пока ты безоружен. Иногда недоверие рационально! Но что будет, если сыграть в игру...

...более одного раза? →

Теперь играем по-настоящему. Против тебя будут пять разных противников, у каждого из которых есть своя собственная "стратегия". С каждым ты проведёшь 3–7 раундов. (Не зная заранее, какой раунд последний) Можешь ли ты им доверять? Вернее... могут ли они доверять тебе?

Выбери свой первый, настоящий ход. Выбирай с умом.

противник: [X] из [Y]

твой общий счёт:

И твой общий счёт...

что просто поразительно плохо.

что мог бы быть и хуже!

что не так уж плохо!

что довольно хорошо!

что великолепно! Согласись, у тебя слишком много свободного времени.

...я понятия не имею, как ты это сделал.

(cамый низкий и высокий возможный счёт равен 7 и 49 соответственно)

Итак, кто все эти странные персонажи, с которыми ты только что играл?

ИМИТАТОР: Привет! На первом ходу я доверюсь, а потом просто буду копировать твой последний ход.

ОБМАНЩИК: сильные должны есть слабых

НАИВНЫЙ: Давай будем лучшими друзьями! <3

ЗЛОПАМЯТНЫЙ: Слушай сюда, дружище. Я начну с доверия и буду продолжать доверять, но если ты хоть раз меня обманешь, Я БУДУ ЖУЛЬНИЧАТЬ ДО ПОСЛЕДНЕГО.

ДЕТЕКТИВ: Учти: я тебя анализирую. Мои первые ходы: доверие, обман, доверие, доверие. Если обманешь, я буду действовать как Имитатор. Если ни разу не обманешь, я буду всегда жульничать, чтобы использовать тебя. Элементарно, мой дорогой Ватсон.

Но что, если бы эти персонажи играли...

...друг против друга? →

Настало время турнира! Сейчас каждый персонаж сыграет с каждым другим: это 10 парных матчей и 10 раундов за матч.

Кто, по твоему мнению, получит самый высокий общий балл? Хорошо подумай... и затем ДЕЛАЙ СТАВКУ:

Что ж, ты считаешь, что победит [CHAR]. Давай-ка пройдёмся по матчам один за другим и посмотрим, как развернутся события...

первый матч →

следующий матч →

Матч #[N]: [A] vs [B]

Раунды:

Общие счета: [A] : [B]

О, кстати...

...Ты можешь сомневаться в той истории о рождественском перемирии во время Первой мировой. Наверняка это была просто случайность?

Да, перемирие было драматичным, но оно не было ни уникальным, ни необычным.

Не каждый окоп присоединился к миру, но такое поведение было довольно распространено. Многие фронтовые линии пришли к этой идее самостоятельно, и, опять-таки: вопреки конкретным, строгим приказам не делать этого.

Фактически, ещё до Рождества несколько фронтов уже установили неофициальный, секретный мир.

Они назвали это системой "живи и дай жить другим". Проще говоря, ты не стреляешь в меня, я не стреляю в тебя. И это работало, причём во многих местах!

Ты всё ещё можешь быть скептичен. Большинство солдат не склонны спонтанно мириться с врагом. Что такого особенного в позиционной войне?

В окопах уникально вот что: в отличие от почти любой другой формы войны, тебе приходится видеть одних и тех же солдат каждый день.

Это повторяющаяся игра. И в этом вся разница.

Ну ладно. Итак, победителем становится...

(барабанная дробь...) →

ИМИТАТОР!

Поздравляю, ты поставил на правильную лошадку.

(Увы, не [CHAR], на которого ты поставил.)

У Имитатора много имён. Золотое правило, взаимный альтруизм, око за око, или... живи и дай жить другим. Вот почему в окопах Первой мировой войны смог образоваться "мир": когда ты вынужден снова и снова играть в одну и ту же игру с одними и теми же конкретными людьми (не просто одним и тем же абстрактным "врагом") — Имитатор выигрывает не только битву, но и войну.

Но раз дело так сильно меняется, когда игра повторяется несколько раз, что если сыграть...

...несколько турниров?

Давай позволим нашей популяции игроков развиваться. Это трёхступенчатый процесс:

1. ПРОВОДИМ ТУРНИР
Дадим всем сыграть друг с другом, а затем подсчитаем очки для каждого.

2. УСТРАНЯЕМ ПРОИГРАВШИХ
Избавимся от пяти худших игроков. (В случае ничьей выбираем случайно)

3. КОПИРУЕМ ПОБЕДИТЕЛЕЙ
Клонируем 5 лучших игроков. (В случае ничьей выбираем случайно)

...начнём эволюцию! →

Положим, в начале у нас есть следующая популяция игроков: 15 Наивных, 5 Обманщиков и 5 Имитаторов. (Злопамятных и Детективов в расчёт пока что не принимаем)

Выполним процесс "турнир-устранение-копирование" дюжину раз. Пора сделать ещё ставку! Кто, по-твоему, выиграет первый турнир? ДЕЛАЙ СТАВКУ, СНОВА:

Ну да, сейчас Наивных больше всего...

Ну да, у Обманщиков много Наивных, которыми можно воспользоваться...

Ну да, Имитатор выиграл в прошлый раз, почему бы ему не выиграть снова?...

Посмотрим, прав ли ты:

1) играем турнир

2) исключаем 5 худших

3) копируем 5 лучших

Увы, Наивные были съедены Обманщиками, которых теперь на 5 больше.

К сожалению, ты был прав! Обманщики на этот раз победили, и их стало на 5 больше.

Увы, Имитаторы не выиграли — но они все равно выступили лучше, чем Наивные. Те были съедены Обманщиками, которых стало на 5 больше.

Но давай попробуем провести ещё несколько раундов...

Обманщики продолжают расти за счёт Наивных...

И вот все Наивные мертвы. Но погоди...

Именно: Обманщики стали жертвами собственного успеха! Они использовали Наивных, но как только с теми было покончено, Обманщикам пришлось столкнуться с Имитаторами: которые доброжелательны, но не наивны.

Просто копируя движения соперника, Имитаторы прекрасно уживаются друг с другом, в то время как Обманщики обманывают самих себя! Это также означает, что Имитаторы платят Обманщикам их же монетой.

Итак, в результате...

...Имитаторы наследуют землю.

Итого, хоть ты и ошибся со ставкой — Наивные были обречены с самого начала — в итоге победила некая умная форма любезности, и Обманщики были раздавлены.

Итого, в краткосрочной перспективе ты был прав — Обманщики выиграли первые несколько раундов, но в итоге их эксплуататорство стало их концом.

Итого, в конечном счёте, ты был прав — Имитаторы побеждают! Обманщики, может, и выиграли в краткосрочной перспективе, но их эксплуататорство стало их концом.

Это напоминает мне цитату:

Люди наказываются не за грехи, а самими грехами.
~ Элберт Хаббард

(о, кстати...)

(...результат сохраняется, даже если добавить обратно Злопамятных и Детективов.)

начать процесс эволюции!

остановить процесс эволюции

(Примечание: иногда несколько Злопамятных могут задержаться, потому что когда все кроме Злопамятных и Имитаторов устранены, возникает ничья.)

Кажется, математика теории намекает нам, что философия Имитаторов, "поступай с другими так, как ты хотел бы, чтобы другие поступали с тобой", может быть не только моральной, но и математической истиной. Однако...

...есть проблема: →

Оглянись вокруг. Мир полон сволочей.

Раз уж стратегия Имитаторов так сильна в этой повторяющейся игре на доверие — настолько удачна, что даже солдаты Первой мировой переизобрели её под именем "живи и дай жить другим" — почему тогда вокруг так много недоверчивых, ненадёжных людей? Что привело к этой эпидемии недоверия?

Ключ в самой формулировке. "В этой повторяющейся игре на доверие". Пока что мы говорили только об изменениях в игроках: как насчёт изменений в игре? Что могло бы привести к...

...эволюции недоверия?

Прежде чем всё начнёт рушиться, давай рассмотрим кое-что приятное. Вот мир, полностью заполненный Наивными, за исключением одного Обманщика и одного Имитатора.

Используй кнопки справа, чтобы НАЧАТЬ симуляцию, пройти по ней шаг-за-шагом или сбросить её. →

Как ты уже знаешь, при текущих правилах Имитатор в долгосрочной перспективе выигрывает.

Но это при текущих правилах, гласящих, что персонажи играют друг против друга по 10 раундов за матч. Продолжит ли Имитатор выигрывать в 7 раундах? 5 раундах? 3? 2? 1?

Измени количество раундов с помощью ползунка ниже, затем ЗАПУСТИ симуляцию и посмотри, что произойдёт. Не стесняйся экспериментировать!

когда закончишь играть, нажми:

Если сыграть достаточно мало раундов (здесь: 5 или меньше), Обманщики доминируют.

В 1985 году опросы американцев показали, что в среднем у них по три близких друга. В 2004-м году это число упало до нуля. У нас теперь меньше друзей с другими взглядами, социальным положением и политическими убеждениями, потому что у нас меньше друзей в целом. И, как ты только что сам выяснил, чем меньше "повторных взаимодействий", тем больше будет распространяться недоверие.

(Нет, СМИ не считаются: это должно быть двухстороннее взаимодействие между конкретными людьми.)

и да, дальше только хуже... →

Есть другой способ породить недоверие. Вот "награды" для нашей игры:

С обычными наградами выигрывает Имитатор. Но попробуй изменить награду "оба доверяют" с +2 на +1, а затем нажать СТАРТ. Хотя +1 это всё ещё лучше, чем наказание за обоюдный обман (0)... что произойдёт?

Не стесняйся играть с разными наградами! Когда закончишь, нажми:

(симуляция: 10 раундов за матч)

Происходит то же самое: с низкой "беспроигрышной" наградой, Обманщики берут верх. В теории игр на этот счёт есть две идеи:

"Игра с нулевой суммой". Это распространённая (увы) вера в том, что выигрыш для "нас" должен означать проигрыш для "них", и наоборот.

"Игра с ненулевой суммой". Это когда люди прилагают все усилия для создания взаимовыгодного исхода (или, по крайней мере, избежания потерь). Без игры с ненулевой суммой доверие развиваться не может.

Кстати, давай посмотрим на наш третий и последний барьер на пути развития доверия...

Ашипки Ошибки. →

У Имитатора есть огромная, смертельная слабость, о которой я ещё не упоминал. Чтобы понять проблему, давай представим как два Имитатора играют друг против друга:

Будучи "хорошими" игроками, на первом шаге оба решат:

И, как правило, они просто отплатят друг другу добротой и будут жить припеваючи.

Но что, если пытаясь ответить взаимностью...

О НЕТ
Ошибки, недопонимание, неправильное толкование — в жизни такое происходит на каждом шагу.

Но если другой игрок не считает это случайностью...

О НЕТ ×2
Другой игрок, будучи Имитатором, обязан будет отомстить...

...а ты, также будучи Имитатором, обязан будешь нанести ответный удар...

Таким образом, подобно Хаттфилдам и Маккоям, эти два Имитатора будут крутиться в бесконечном цикле мести... Который начался с одной ошибки, давным-давно.

Трагично. Но есть ведь и другие типы игроков, которые могут...

...преодолевать ошибки? →

Встречаем новые лица! (или новые шляпы, не суть)

ПОДРАЖАТЕЛЬ:
Привет! Я почти как Имитатор, но жульничаю только если обмануть меня два раза подряд. В конце концов, первый раз мог быть ошибкой!

ПРОСТАК:
превет. сначала я доверять тебе. если ты тоже доверять мене, я повторять свой ход, даже если это ошибка. если ты обмануть меня, я делать свой ход наоборот, даже если это ошибка.

СЛУЧАЙНЫЙ:
Обезьяний робот! Ниндзя тако пицца! Лол я такой непредсказуемый
(Просто жульничает или сотрудничает случайным образом с вероятностью 50/50)

Ладно, давай посмотрим, как эти ребята...

...играют в турнире →

Начнём с дюжины Наивных против нашего старого победителя, справедливого Имитатора, и трёх новых персонажей: прощающего Подражателя, скучного Простака и глупышки Случайного.

В каждом раунде у игроков есть небольшая вероятность сделать ошибку. (скажем, 5%) Кто, по-твоему, выйдет на первое место? Хорошо подумай, затем ДЕЛАЙ СТАВКУ:

Хорошо, ты считаешь, что [CHAR] победит. Давай поглядим! Используй элементы управления слева, чтобы ЗАПУСТИТЬ симуляцию в ускоренном режиме, или же выполняй её шаг за шагом.

Ты был прав —

Ты был близок, но нет —

победил Простак! Это потому, что Простак на самом деле способен использовать Наивных. Они оба начинают с сотрудничества, но если Простак совершает ошибку и жульничает, Наивные не отомстят, и Простак продолжит их обманывать.

Теперь давай попробуем...

...то же самое, только теперь вместо Наивных у нас будут Обманщики. Это гораздо менее снисходительная, более враждебная среда.

Кто, по-твоему, сейчас победит? Подумай, затем ДЕЛАЙ СТАВКУ:

Ты считаешь, что победит [CHAR]. Опять же, запусти симуляцию...

Ты был прав —

Хорошая догадка, но приз взял кое-кто другой —

на этот раз выиграл Подражатель! Удивительно, что с ещё более злобной начальной популяцией, Подражатель, более снисходительная версия Имитатора, оказался наиболее успешным! (Заметь: Подражатель настолько добр, что не полностью уничтожает Имитатора. Они уживаются.)

В данном случае небольшое "недопонимание" (вероятность ошибки 5%) может привести к большей степени снисходительности. Но будет ли это справедливо для всех уровней...

...недопонимания?

Используй ползунок внизу, чтобы изменить вероятность "недопонимания", затем нажми СТАРТ.

На 5% выигрывает Подражатель. Что происходит при 0%? Или 20%? Или 50%? (Ползунок только до 50% потому, что при 50% каждый ход превращается в подбрасывание монетки)

Когда закончишь играть, нажми:

Результаты получатся примерно такими:
При 0% победит честный Имитатор! От 1% до 9% побеждает прощающий Подражатель! От 10% до 49% побеждает несправедливый, беспощадный Обманщик. От 50% не победит никто.

Вот почему "недопонимание" образует такую интересную преграду доверию: когда его немного, оно приводит к снисходительности, но его избыток ведёт к распространению недоверия! Я думаю, современные медиа-технологии хоть и помогли развить связь... но гораздо сильней увеличили степень нашего недопонимания.

Наконец, давай поэкспериментируем со всеми числами, ручками и ползунками. Поиграем...

...в песочнице!

Начать с этого распределения игроков:

Выигрыш в игре "один-на-один":

по-умолчанию

Играть [N] раундов за матч:

Играть [N] раунд за матч:

После каждого турнира удалить [N] худших игроков и скопировать [N] лучших игроков:

После каждого турнира удалить [N] худшего игрока и скопировать [N] лучшего игрока:

В каждом раунде игрок делает ошибку с вероятностью [N]%:

ПРИМЕЧАНИЕ: Режим песочницы является полностью опциональным. Можешь его пропустить, а можешь и поиграть! Как только ты закончишь, мы повторим...

что узнали сегодня! →

Теория игр показала нам три вещи, необходимые для эволюции доверия:

1. ПОВТОРНЫЕ ВЗАИМОДЕЙСТВИЯ

Доверие поддерживает отношения, но для его развития нужно ожидать повторных взаимодействий в будущем.

2. ВОЗМОЖНОСТЬ ОБОЮДНОЙ ВЫГОДЫ

Вы должны играть в игру с ненулевой суммой, где есть хоть какой-то шанс, что оба игрока что-то получат — то есть достигнут взаимовыгодного исхода.

3. НИЗКИЙ УРОВЕНЬ НЕДОПОНИМАНИЯ

Если уровень недопонимания слишком высок, доверие ломается. А когда недопонимания не очень много, полезно быть более снисходительным.

Конечно, реальное доверие зависит от гораздо большего количества факторов. Это репутация, общие ценности, сделки, культурная принадлежность и так далее. И давай не будем забывать...

...о самом большом уроке. →

Если и есть в теории игр какая-то основная идея,
то вот она:

Игра определяет то, что игроки в ней делают.
Наша нынешняя проблема заключается не только в том, что
люди теряют доверие, но и в том, что само наше окружение действует против эволюции доверия.

Это может показаться циничным или наивным — что мы "всего лишь" продукты своей среды — но, как напоминает нам теория игр, друг для друга мы и есть среда. В краткосрочной перспективе игра определяет игроков. В долгосрочной же именно мы, игроки, определяем игру.

Итак, делай всё, что можешь, и создавай условия для развития доверия. Строй отношения. Ищи взаимовыгодные решения. Общайся понятно. Может быть, тогда мы сможем прекратить стрелять друг в друга, выберемся из окопов и пересечём границы, чтобы собраться вместе...

и научиться...

...как жить и давать жить другим.

"A Christmas Truce between Opposing Trenches" Иллюстрация AC Michael. Опубликовано в The Illustrated London News, 9 января 1915 года.

<3

автор:
NICKY CASE
сыграй в другие мои штукиподпишись в twitter
скачай музыку и исходный код основано на книге Роберта Аксельрода 1984-го года,
"THE EVOLUTION OF COOPERATION"
прочти мои заметки для этой игры много любви и благодарности
МОИМ СПОНСОРАМ НА PATREON
взгляни на мои рисунки с нимибрось мне пару монет на patreon <3 p.s: хочешь больше игрового обучения?
попробуй exporable explanations!

Имитатор

имитатор

Имитатор

Обманщик

обманщик

Обманщик

Наивный

наивный

Наивный

Злопамятный

злопамятный

Злопамятный

Детектив

детектив

Детектив

Подражатель

подражатель

Подражатель

Простак

простак

Простак

Случайный

случайный

Случайный

(Забыл, кто есть кто? Наведи курсор на кнопки, чтобы увидеть описания каждого персонажа!)

Начинает с доверия. Затем просто повторяет все, что ТЫ делал в последнем раунде.

Всегда жульничает.

Всегда сотрудничает.

Начинает с доверия и продолжает доверять, пока ты не обманешь хотя бы раз. Впоследствии всегда жульничает.

Первые ходы: доверие, обман, доверие, доверие. Впоследствии, если ты хоть раз сжульничаешь, будет играть как Имитатор. В противном случае он играет как Обманщик.

Начинает с доверия. Ответит жульничеством только если ты обманул его ДВА РАЗА подряд.

Начинает с доверия. Затем, если ты доверился в последнем раунде, он повторяет свой последний ход (даже если это была ошибка). Но если в последнем раунде ты сжульничал, он повторит свой последний ход наоборот (даже если это была ошибка).

Случайно сотрудничает или жульничает с вероятностью 50/50.

довериться

обмануть

играть

СТАРТ

СТОП

шаг

сброс

популяция

награды

устав

дальше →

далее

0. Введение

1. Одна игра

2. Повторяющаяся игра

3. Один турнир

4. Повторяющийся турнир

5. Эволюция недоверия

6. Ашипки

7. Песочница

8. Заключение

9. Авторство