WikiDer > Эволюция сотрудничества
Эта статья поднимает множество проблем. Пожалуйста помоги Улучши это или обсудите эти вопросы на страница обсуждения. (Узнайте, как и когда удалить эти сообщения-шаблоны) (Узнайте, как и когда удалить этот шаблон сообщения)
|
Книжная обложка | |
Автор | Роберт Аксельрод |
---|---|
Страна | Соединенные Штаты |
Язык | английский |
Жанр | Философия, социология |
Издатель | Базовые книги |
Дата публикации | Апрель 1984 г. |
Тип СМИ | Твердый переплет, мягкая обложка, аудиокнига |
Страницы | 241 |
ISBN | 0-465-00564-0 |
OCLC | 76963800 |
302 14 | |
Класс LC | HM131.A89 1984 |
Эволюция сотрудничества это книга политолога 1984 года. Роберт Аксельрод[1] это расширило очень влиятельную статью с таким же названием и популяризировало исследование, на котором была основана оригинальная статья. С 2006 года переиздания книги включали предисловие Ричарда Докинза и продавались как переработанное издание.
"Эволюция сотрудничества"- это статья Аксельрода и биолога-эволюциониста 1981 года. В. Д. Гамильтон в научной литературе, которая стала наиболее цитируемым изданием в области политическая наука.[2]
Эволюция сотрудничества это общий термин для исследования того, как сотрудничество могут возникать и сохраняться (также известная как теория сотрудничества), что объясняется применением теория игры. Традиционная теория игр плохо объясняет некоторые формы сотрудничества. Академическая литература, посвященная формам сотрудничества, с которыми трудно справиться в традиционной теории игр, с особым вниманием к эволюционная биология, в значительной степени приняла свою современную форму в результате влиятельной статьи Аксельрода и Гамильтона 1981 года и книги, которая последовала за ней.
Теория сотрудничества
Исследование операций
Идея о том, что человеческое поведение можно с пользой проанализировать математически, приобрела большое доверие после применения исследование операций во Второй мировой войне для улучшения боевых действий. Одним из известных примеров является охота Королевских ВВС на подводные лодки в Бискайском заливе.[3]Казалось, имело смысл патрулировать районы, где чаще всего наблюдались подводные лодки. Затем было указано, что «видимость большинства подводных лодок» зависит не только от количества присутствующих подводных лодок, но и от количества смотрящих глаз; т.е. плотность патрулирования. Учет плотности патрулирования показал, что патрулей было больше. эффективный - то есть обнаружено больше подводных лодок за патруль - в других районах. Внесение соответствующих корректировок повысило общую эффективность.
Теория игры
Отчет об успехе исследования операций во время войны, публикация в 1944 г. Джон фон Нейман и Оскар Моргенштернс Теория игр и экономического поведения (Фон Нейман и Моргенштерн, 1944 г.) об использовании теория игры за разработку и анализ оптимальных стратегий для военных и других целей, а также публикацию книги Джона Уильяма Завершенная стратегияst, популярное изложение теории игр,[4] привело к большему признанию математического анализа человеческого поведения.[5]
Но в теории игр случился небольшой кризис: она не смогла найти стратегию для простой игры под названием "Дилемма заключенного"(PD), когда два игрока имеют возможность сотрудничать для взаимной выгоды, но каждый также рискует оказаться обманутым.
Дилемма заключенного
В Дилемма заключенного игра[6] (изобретен около 1950 г. Меррилл М. Флуд и Мелвин Дрешер[7]) берет свое название от следующего сценария: вы и ваш сообщник преступника арестованы. К счастью для вас, большая часть улик была уничтожена, так что вам грозит всего год тюрьмы. Но прокурор хочет кого-то пригвоздить, поэтому он предлагает вам сделку: если вы визжите на своего соратника - что приведет к тому, что он получит пятилетнюю отсрочку, - прокурор увидит, что ваш приговор будет снят с шести месяцев. Что звучит неплохо, пока вы не узнаете, что вашему партнеру предлагают такую же сделку, которая принесет ты пять лет.
Ну так что ты делаешь? Лучшее, что вы и ваш партнер можете сделать вместе, - это не визжать: то есть сотрудничать (друг с другом, а не с прокурором!) В узах взаимного молчания и делать свой год. Но подождите: если ваш партнер будет сотрудничать, можете ли вы добиться большего, завизживая («отступая»), чтобы получить шестимесячную скидку? Это заманчиво, но еще и соблазнительно. И если вы оба визжите, о, нет, каждому по четыре с половиной года. Так что, возможно, вам следует сотрудничать - но подождите, это же вы сами ведете себя отстой, поскольку ваш партнер, несомненно, перебежит к вам, и вы даже не получите шесть месяцев отпуска. Итак, какова лучшая стратегия, чтобы свести к минимуму ваше заключение (помимо того, чтобы сразу пойти прямо)?
Сотрудничать или не сотрудничать? Этот простой вопрос (и подразумеваемый вопрос о том, доверять или нет), выраженный в чрезвычайно простой игре, является ключевым вопросом для самых разных сфер жизни. Почему бы акуле не съесть маленькую рыбку, которая только что очистила ее от паразитов: в любом случае, кто знает? Инжирные осы коллективно ограничивают кладку яиц на фиговых деревьях (иначе деревья пострадали бы). Но почему бы ни одной фиговой осе не обмануть и не оставить на несколько яиц больше, чем ее соперницы? На уровне человеческого общества, почему бы каждому сельскому жителю, имеющему общий, но конечный ресурс, не пытаться использовать его больше, чем другим?[8] В основе этих и множества других примеров лежит конфликт, формально эквивалентный «дилемме заключенного». Тем не менее, акулы, фиговые осы и сельские жители сотрудничают. В эволюционных исследованиях было досадной проблемой объяснить, как такое сотрудничество должно развиваться, не говоря уже о том, чтобы сохраняться в мире эгоистов, стремящихся к самореализации.
Дарвиновский контекст
Чарльз Дарвинтеория того, как эволюция произведений ("Посредством Естественный отбор"[9]) является явно конкурентным ("выживание сильнейшего"), мальтузианский («борьба за существование»), даже гладиаторский («природа, красные зубы и когтиВиды противопоставляются видам ради общих ресурсов, схожим видам со схожими потребностями и нишами еще больше, а больше всего - индивидам внутри вида.[10] Все сводится к одному фактору: превзойти всех соперников и хищников в производстве потомства.
Объяснение Дарвина того, как преимущественное выживание малейших выгод может привести к развитым формам, является наиболее важным объяснительным принципом в биологии и чрезвычайно действенным во многих других областях. Такой успех укрепил представления о том, что жизнь во всех отношениях - это война каждого против всех, где каждый индивидуальный должен заботиться о себе, что твоя прибыль - моя потеря.
В такой борьбе за существование альтруизм (добровольное предоставление выгоды не родственнику) и даже сотрудничество (работа с другим ради взаимной выгоды) кажутся настолько противоречащими личным интересам, что это тот самый тип поведения, против которого следует отбирать. Тем не менее, сотрудничество и, казалось бы, даже альтруизм развились и сохраняются, в том числе даже межвидовое сотрудничество а натуралистам было трудно объяснить почему.
Социальный дарвинизм
Популярность эволюции сотрудничества - причина того, что это не неясная техническая проблема, интересная лишь небольшому числу специалистов - отчасти объясняется тем, что она отражает более крупную проблему, в которой пересекаются области политической философии, этики и биологии: древняя проблема индивидуальных интересов против групповых интересов. С одной стороны, так называемый "Социальные дарвинисты»(грубо говоря, те, кто использовал« выживание наиболее приспособленных »дарвиновской эволюции, чтобы оправдать беспощадную конкуренцию laissez-faire капитализм[11]) заявляют, что мир - это по сути своей конкурентные джунгли "собака ест собаку", где каждый индивидуальный должен заботиться о себе. Писатель Айн Рэнд треклятый "альтруизм"и объявил эгоизм добродетелью.[12]Точка зрения социал-дарвинистов проистекает из Чарльз Дарвининтерпретация эволюции естественный отбор, который является явно конкурентным ("выживание наиболее приспособленных"), мальтузианский («борьба за существование»), даже гладиаторский («красный в зубах и когтях»), пронизанный викторианской этикой невмешательства Дарвина и его учеников (например, Т. Хаксли и Герберт Спенсер). То, что они считали теорией, было затем истолковано социал-дарвинистами как научное обоснование их социальных и экономических взглядов (таких, как бедность как естественное состояние, а социальная реформа как противоестественное вмешательство).[13]
Такие взгляды на эволюцию, конкуренцию и выживание наиболее приспособленных явно присутствуют в этосе современного капитализм, как воплощено промышленником Эндрю Карнеги в Евангелие богатства:
[Хотя] закон [конкуренции] иногда может быть жестким для человека, он лучше всего подходит для расы, потому что он обеспечивает выживание сильнейших в каждом отделе. Поэтому мы принимаем и приветствуем как условия, к которым мы должны приспособиться, большое неравенство окружающей среды; концентрация бизнеса, промышленного и коммерческого, в руках немногих; и закон конкуренции между ними как не только полезный, но и необходимый для будущего прогресса расы.Карнеги 1900)
В то время как обоснованность экстраполяции моральных и политических взглядов из науки сомнительна, значение таких взглядов в современном обществе не вызывает сомнений.
Общественный договор и мораль
С другой стороны, другие философы давно заметили, что сотрудничество в форме "Социальный контракт"необходимо человеческому обществу, но не видел никакого способа добиться этого, кроме принудительной власти.
В качестве Томас Гоббс написал в Левиафан:
[T] Здесь должна быть некая сила принуждения, чтобы заставить людей в равной степени выполнять свои заветы, боясь какого-то наказания, большего, чем выгода, которую они ожидают от нарушения своего завета ... (Гоббс 1651, п. 120)
[C] Духанты без меча - всего лишь слова .... (Гоббс 1651, п. 1139)
И Жан-Жак Руссо в Общественный договор:
[Общественный договор] может возникнуть только в том случае, если несколько человек объединяются: но, поскольку сила и свобода каждого человека являются главными инструментами его самосохранения, как он может дать им залог, не нанося ущерба своим собственным интересам и пренебрегая заботой, которую он должен сам? (Руссо 1762, п. 13)
Чтобы общественный договор не был пустой формулой, он неявно включает в себя обязательство, которое одно может придать силу остальным, что всякий, кто отказывается подчиняться общей воле, должен быть принужден к этому всем телом. Это означает ни что иное, как то, что он будет вынужден быть свободным .... (Руссо 1762, п. 18)
Четное Герман Мелвилл, в Моби-ДикКвикег, каннибал-гарпунер, объясняет, почему он спас жизнь тому, кто так издевался над ним:
«Это общий, акционерный мир во всех меридианах. Мы, каннибалы, должны помогать этим христианам». (Мелвилл 1851, п. 96)
Первоначальная роль правительства заключается в обеспечении силы принуждения для обеспечения соблюдения общественного договора (и в коммерческих обществах, договоров и соглашений в целом). Там, где правительство не существует или не может достичь его, часто считается, что роль религии заключается в поощрении просоциального и морального поведения, но это, как правило, зависит от угроз адского огня (то, что Гоббс называл «ужасом какой-то силы»); такие побуждения кажутся скорее мистическими, чем рациональными, и философы с трудом объясняют, почему личный интерес должен уступать нравственности, почему должен существовать долг быть «хорошим».[14]
Тем не менее, сотрудничество и даже альтруизм и мораль преобладают даже в отсутствие принуждения, хотя кажется, что должным образом эгоистичный человек должен отвергать все подобные социальные ограничения и ограничения. Еще в 1890 году русский натуралист Петр Кропоткин заметил, что выживающие виды были там, где люди сотрудничали, что «взаимопомощь» (сотрудничество) была обнаружена на всех уровнях существования.[15] К 1960-м годам биологи и зоологи отмечали множество случаев в настоящих «джунглях», где настоящие животные - предположительно не скованные совестью и не испорченные альтруистическими либералами - и даже микробы (см. микробное сотрудничество) сотрудничали.[16]
Теория естественного отбора Дарвина - это очень мощное объяснение того, как работает эволюция; его несомненный успех убедительно свидетельствует о изначально антагонистических отношениях между неродственными людьми. Тем не менее, сотрудничество превалирует, кажется полезным и даже важным для человеческого общества. Объяснение этого кажущегося противоречия и согласование сотрудничества и даже альтруизма в рамках дарвиновской теории является центральным вопросом теории сотрудничества.
Современные разработки
Дарвиновское объяснение того, как работает эволюция, довольно просто, но последствия того, как она может объяснять сложные явления, вовсе не очевидны; на разработку ушло более века (см. современный синтез).[17] Объясняя, как альтруизм - что по определению снижает личную приспособленность - может возникнуть в результате естественного отбора, это особая проблема, и центральная теоретическая проблема социобиология.[18]
Возможное объяснение альтруизма дает теория групповой выбор (впервые предложено самим Дарвином, когда он боролся с проблемой социальных насекомых[19]), который утверждает, что естественный отбор может воздействовать на группы: группы, которые более успешны - по любой причине, включая усвоенное поведение - принесут пользу отдельным лицам в группе, даже если они не связаны между собой. Он имел сильную привлекательность, но не был полностью убедительным, отчасти из-за трудностей с читерами, которые участвуют в группе без участия.[20]
Другое объяснение дает теория генетического родства из Уильям Д. Гамильтон:[21] если ген заставляет человека помогать другим людям, несущим копии этого гена, то ген имеет чистую выгоду даже с принесением в жертву нескольких человек. Классический пример - это социальные насекомые, где рабочие - бесплодные и, следовательно, неспособные передавать свои гены - приносят пользу королеве, которая по сути передает копии «их» генов. Это получает дальнейшее развитие в теории «эгоистичного гена». Ричард Докинз, что единицей эволюции является не отдельный организм, а ген.[22] (Как заявил Уилсон: «Организм - это всего лишь способ ДНК производить больше ДНК».[23]) Однако отбор по родству работает только тогда, когда вовлеченные лица тесно связаны между собой; он не может объяснить наличие альтруизма и сотрудничества между неродственными особями, особенно между видами.
В статье 1971 г.[24] Роберт Триверс продемонстрировал, как взаимный альтруизм могут развиваться между неродственными особями, даже между особями совершенно разных видов. И отношения вовлеченных людей в точности аналогичны ситуации в определенной форме дилеммы заключенного.[25] Ключ в том, что в повторяется Дилемма заключенного, или IPD, обе стороны могут извлечь выгоду из обмена многими, казалось бы, альтруистическими действиями. Как говорит Триверс, он «убирает альтруизм из альтруизма».[26] Рандианская предпосылка о том, что личный интерес имеет первостепенное значение, в основном не оспаривается, но перевернута с ног на голову благодаря признанию более широкого и глубокого взгляда на то, что составляет личный интерес.
Неважно, почему люди сотрудничают. Индивидов могут побуждать к обмену «альтруистическими» действиями совершенно разные гены или никакие гены в частности, но оба индивида (и их геномы) могут получить выгоду просто на основе общего обмена. В частности, «выгоды человеческого альтруизма следует рассматривать как происходящие непосредственно из взаимности, а не косвенно через неальтруистические групповые выгоды».[27]
Теория Трайверса очень сильна. Он не только может заменить групповой отбор, но и предсказывает различное наблюдаемое поведение, включая моралистическую агрессию,[28] благодарность и сочувствие, вина и исправительный альтруизм,[29] и развитие способностей обнаруживать и распознавать изощренных мошенников.
Преимущества такого взаимного альтруизма наглядно продемонстрировала пара турниров, проведенных Робертом Аксельродом примерно в 1980 году.
Турниры Аксельрода
Аксельрод изначально запрашивал стратегии у других теоретиков игры, чтобы участвовать в первом турнире. Каждая стратегия использовалась в паре друг с другом на 200 итераций Дилемма заключенного игра, и набранные по общему количеству очков, набранных в ходе турнира. Победителем стала очень простая стратегия, представленная Анатолий Рапопорт называется "ТИТ ДЛЯ ТАТ"(TFT), который взаимодействует на первом ходу, а затем повторяет (отвечает взаимностью) то, что другой игрок сделал на предыдущем ходу. Результаты первого турнира были проанализированы и опубликованы, а второй турнир был проведен, чтобы посмотреть, сможет ли кто-нибудь найти лучшая стратегия. TIT FOR TAT снова победил. Аксельрод проанализировал результаты и сделал несколько интересных открытий о природе сотрудничества, которые он описывает в своей книге[30]
Как в реальных турнирах, так и в различных повторах самые эффективные стратегии были отлично:[31] то есть они никогда не дезертировали первыми. Многие из конкурентов пошли на многое, чтобы получить преимущество перед «хорошими» (и обычно более простыми) стратегиями, но безрезультатно: хитрые стратегии, сражающиеся за несколько очков, обычно не могли работать так же хорошо, как хорошие стратегии, работающие вместе. TFT (и другие «хорошие» стратегии в целом) «выиграли не потому, что преуспели, чем другой игрок, а за счет сотрудничества [и] путем продвижения взаимных интересов, а не за счет использования слабостей другого».[32]
Быть «хорошим» может быть полезно, но это также может привести к тому, что вас сосут. Чтобы получить выгоду - или избежать эксплуатации - необходимо провокационный как возмездие, так и прощение. Когда другой игрок отступает, хорошая стратегия должна немедленно быть спровоцирована на ответное отступничество.[33] То же самое и с прощением: вернитесь к сотрудничеству, как только это сделает другой игрок. Чрезмерное наказание чревато эскалацией и может привести к «непрекращающемуся эху чередующихся отступлений», что снижает результаты обоих игроков.[34]
Большинство игр, которые до сих пор исследовала теория игр:с нулевой суммой"- то есть общее вознаграждение фиксировано, и игрок преуспевает только за счет других игроков. Но в реальной жизни нет нулевой суммы. Наши лучшие перспективы обычно заключаются в совместных усилиях. Фактически, TFT не можешь набрать больше, чем его партнер; в лучшем случае он может делать только «как хорошо». Тем не менее, он выигрывал турниры, постоянно занимая сильное второе место с множеством партнеров.[35] Аксельрод резюмирует это как не завидуй;[36] другими словами, не стремитесь к выплате больше чем у другого игрока.[37]
В любой игре IPD есть определенный максимальный балл, который каждый игрок может получить, всегда сотрудничая. Но некоторые стратегии пытаются найти способы получить немного больше за счет случайного отступничества (эксплуатации). Это может работать против некоторых стратегий, которые менее провокационны или более снисходительны, чем ТИТ ЗА ТАТ, но в целом они плохо работают. «Общая проблема с этими правилами заключается в том, что они использовали сложные методы для вывода о другом игроке [стратегии] - и эти выводы были неверными».[38] Против TFT нет ничего лучше, чем просто сотрудничать.[39] Аксельрод называет это ясность. Или же: не будь слишком умным.[40]
Успех любой стратегии зависит от характера конкретных стратегий, с которыми она сталкивается, что зависит от состава населения в целом. Чтобы лучше смоделировать эффекты репродуктивного успеха, Аксельрод также провел «экологический» турнир, где распространенность каждого типа стратегии в каждом раунде определялась успехом этой стратегии в предыдущем раунде. Конкуренция в каждом туре усиливается, поскольку более слабые участники сокращаются и исключаются. Результаты были потрясающими: несколько стратегий - все «хороших» - стали доминировать на поле.[41] В море неблаговидных стратегий «хорошие» стратегии - при условии, что они также были провокационными - работали достаточно хорошо друг с другом, чтобы компенсировать случайную эксплуатацию. По мере того, как сотрудничество становилось всеобщим, не провокационные стратегии эксплуатировались и в конечном итоге устранялись, после чего эксплуатирующие (не сотрудничающие) стратегии уступали кооперативным стратегиям.
Таким образом, успех в эволюционной «игре» коррелирует со следующими характеристиками:
- Будьте вежливы: сотрудничать, никогда не отступать первым.
- Будьте провокационными: Возвращение дезертирства за дезертирство, сотрудничество за сотрудничество.
- Не завидуй: сосредоточьтесь на максимальном увеличении своего «балла», а не на том, чтобы ваш балл был выше, чем у вашего «партнера».
- Не будь слишком умным: или не пытайтесь быть хитрым. Ясность важна для того, чтобы другие могли сотрудничать с вами.
Основание взаимного сотрудничества
Уроки, описанные выше, применимы в средах, которые поддерживают сотрудничество, но будет ли оно вообще поддерживаться, в решающей степени зависит от вероятности (называемой ω [омега]) того, что игроки снова встретятся,[42] также называется параметром скидки или, в поэтическом смысле, тенью будущего. Когда ω низкое, то есть у игроков есть ничтожно малые шансы на повторную встречу, каждое взаимодействие фактически представляет собой одноразовую игру «Дилемма заключенного», и во всех случаях можно совершить ошибку (стратегия под названием «ВСЕ D»), потому что даже если один из них будет сотрудничать, невозможно помешать другому игроку воспользоваться этим. Но в итеративном PD ценность повторяющихся совместных взаимодействий может стать больше, чем польза / риск однократного использования (это все, что допускает такая стратегия, как TFT).
Любопытно, что ни рациональность, ни осознанный выбор не нужны, ни доверие, ни даже сознание.[43] пока есть паттерн, который приносит пользу обоим игрокам (например, повышает физическую форму), и некоторая вероятность будущего взаимодействия. Часто первоначальное взаимное сотрудничество даже не является преднамеренным, но, «обнаружив» выгодный образец, обе стороны реагируют на него, сохраняя условия, которые его поддерживают.
Это подразумевает два требования к игрокам, помимо любой стратегии, которую они могут принять. Во-первых, они должны уметь узнавать других игроков, чтобы избежать эксплуатации мошенниками. Во-вторых, они должны иметь возможность отслеживать свою предыдущую историю с любым игроком, чтобы реагировать на стратегию этого игрока.[44]
Даже когда параметр скидки ω достаточно высок, чтобы разрешить взаимное сотрудничество, все еще остается вопрос, можно ли и как начать сотрудничество. Один из выводов Аксельрода состоит в том, что когда существующее население никогда не предлагает сотрудничества и не отвечает на него взаимностью - случай ВСЕГО D - тогда изолированные индивидуумы не могут выработать хорошую стратегию; сотрудничество строго бесполезная ставка. («Бесполезность изолированного восстания».[45]) Но еще одно очень важное открытие заключается в том, что могут быть созданы группы хороших стратегий. Даже небольшая группа людей с хорошими стратегиями и нечастыми взаимодействиями может все же преуспеть в этих взаимодействиях, чтобы компенсировать низкий уровень эксплуатации плохих стратегий.[46]
Однако сотрудничество становится более сложным, как только принимаются более реалистичные модели, например, которые предлагают более двух вариантов действий, обеспечивают возможность постепенного сотрудничества, заставляют действия ограничивать будущие действия (зависимость от пути), или в которых интерпретация действий партнера является нетривиальной (например, признание степени продемонстрированного сотрудничества)[47]
Последующая работа
В 1984 году Аксельрод подсчитал, что в «Дилемме заключенного» цитировались «сотни статей. Психологические аннотации",[48] и подсчитал, что цитирование Эволюция сотрудничества одни только «росли со скоростью более 300 в год».[49]Полностью просмотреть эту литературу невозможно. Таким образом, далее следует лишь несколько избранных моментов.
У Аксельрода есть следующая книга, Сложность сотрудничества,[50]который он считает продолжением Эволюция сотрудничества. Другая работа по развитию сотрудничества была расширена, чтобы охватить просоциальное поведение в целом,[51]и в религии,[52]другие механизмы для налаживания сотрудничества,[53]ИПД при различных условиях и предположениях,[54]и использование других игр, таких как Общественные блага и Ультиматум игры, чтобы исследовать укоренившиеся представления о справедливости и честной игре.[55]Он также использовался, чтобы бросить вызов рациональному и эгоистичному "экономический человек"модель экономики,[56]и как основание для замены дарвиновских половой отбор теория с теорией социального отбора.[57]
Хорошие стратегии лучше способствуют вторжению, если у них есть социальные структуры или другие средства для расширения взаимодействия. Аксельрод обсуждает это в главе 8; в более поздней статье он, Рик Риоло и Майкл Коэн[58] используйте компьютерное моделирование, чтобы показать рост сотрудничества между агентами, которые имеют незначительные шансы на будущие встречи, но могут распознать сходство произвольных характеристик (таких как зеленая борода). В то время как другие исследования[59] показали, что единственные стратегии повторной дилеммы заключенного, которые сопротивляются вторжению в хорошо перемешанное развивающееся население, являются щедрыми стратегиями.
Когда в турнире IPD возникает шум (ошибки или недоразумения), стратегии TFT могут попасть в длинную цепочку ответных отступлений, снижая тем самым их результат. TFT также допускает стратегии «ALL C» (всегда сотрудничать), которые открывают путь для эксплуататоров.[60]В 1992 году Мартин Новак и Карл Зигмунд продемонстрировали стратегию под названием «Павлов» (или «выиграть – остаться, проиграть – сдвиг»), которая лучше работает в этих обстоятельствах.[61]Павлов смотрит на свой предыдущий ход, а также на ход другого игрока. Если выигрыш был R или P (см. «Дилемма заключенного» выше), он сотрудничает; если S или T это дефекты.
В статье 2006 года Новак перечислил пять механизмов, с помощью которых естественный отбор может привести к сотрудничеству.[62]Помимо родственного отбора и прямой взаимности, он показывает, что:
- Косвенная взаимность основана на знании репутации другого игрока, которая является историей игрока с другими игроками. Сотрудничество зависит от надежной истории, передаваемой от прошлых партнеров будущим партнерам.
- Сетевая взаимность зависит от географических или социальных факторов, чтобы увеличить взаимодействие с более близкими соседями; по сути, это виртуальная группа.
- Выбор группы[63] предполагает, что группы с кооператорами (даже альтруистами) будут более успешными в целом, и это принесет пользу всем членам.
Выплаты в игре Prisoner's Dilemma фиксированы, но в реальной жизни перебежчиков часто наказывают кооператоры. Там, где наказание дорого обходится, между сотрудниками возникает дилемма второго порядка между теми, кто платит за исполнение, и теми, кто не платит.[64]Другая работа показала, что, хотя у людей есть выбор между присоединением к группе, которая наказывает безбилетников, и к группе, которая изначально не предпочитает группу без санкций, тем не менее, после нескольких раундов они присоединяются к группе санкций, видя, что санкции обеспечивают лучшую отдачу. .[65]
В небольших популяциях или группах существует вероятность того, что косвенная взаимность (репутация) может взаимодействовать с прямой взаимностью (например, «око за око»), при этом ни одна из стратегий не доминирует над другой.[66] Взаимодействие между этими стратегиями может привести к динамическому социальные сети которые демонстрируют некоторые из свойств, наблюдаемых в эмпирических сетях[67] Если сетевая структура и выбор в дилемме заключенного развиваются одновременно, сотрудничество может выжить. В результирующих сетях кооператоры будут расположены более централизованно, чем перебежчики, которые, как правило, будут находиться на периферии сети.[68]
И есть очень интригующая статья Чон-Кью Чоя и Сэмюэля Боулза «Коэволюция ограниченного альтруизма и войны». Из их резюме:
Альтруизм - приносить пользу другим членам группы ценой для себя - и ограниченность - враждебность по отношению к людям, не принадлежащим к своей этнической, расовой или другой группе - являются обычным человеческим поведением. Их пересечение, которое мы называем «местным альтруизмом», вызывает недоумение с эволюционной точки зрения, поскольку альтруистическое или ограниченное поведение снижает выгоду человека по сравнению с тем, что он получил бы, отказавшись от такого поведения. Но местный альтруизм мог развиться, если бы местничество способствовало межгрупповой вражде, а сочетание альтруизма и ограниченности способствовало успеху в этих конфликтах ... [Ни то, ни другое] не было бы жизнеспособным по отдельности, но, способствуя групповому конфликту, они могли бы развиваться совместно.[69]
Они не утверждают, что люди действительно эволюционировали таким образом, но что компьютерные симуляции показывают, как взаимодействие этих форм поведения может способствовать войне. Таким образом, решающий открытый вопрос исследования - насколько реалистичны предположения, на которых основаны эти имитационные модели.[70]
Резюме и текущее понимание
Когда Ричард Докинз намеревался «исследовать биологию эгоизма и альтруизма» в Эгоистичный ген, он переосмыслил основы эволюции и, следовательно, альтруизма. Он «не защищал мораль, основанную на эволюции»,[71] и даже почувствовал, что "мы должен учите наших детей альтруизму, поскольку мы не можем ожидать, что это будет частью их биологической природы ".[72] Но Джон Мейнард Смит[73] демонстрировал, что поведение может быть подвержено эволюции, Роберт Триверс показал, что естественный отбор в значительной степени способствует взаимному альтруизму, ведущему к сложным системам альтруистического поведения (поддерживая аргумент Кропоткина, что сотрудничество является таким же фактором эволюции, как и конкуренция[74]), а впечатляющие результаты Аксельрода показали, что в очень простой игре условия выживания (быть «милым», провокационным, способствовать взаимному интересу) кажутся сущностью морали. Хотя это еще не наука морали, теоретико-игровой подход прояснил условия, необходимые для развития и устойчивости сотрудничества, и показал, как дарвиновский естественный отбор может привести к сложному поведению, включая понятия морали, справедливости и справедливости. Показано, что корыстолюбие имеет более глубокий характер, чем считалось ранее, и что поведение, которое кажется альтруистическим, может, в более широком смысле, быть индивидуально полезным. Распространение этой работы на мораль[75] и общественный договор[76] может еще решить старый вопрос о противопоставлении индивидуальных интересов групповым интересам.
Программного обеспечения
Было создано несколько программных пакетов для моделирования дилемм заключенного и проведения турниров, некоторые из которых имеют доступный исходный код.
- Исходный код для второго турнира, проведенного Робертом Аксельродом (написанный Аксельродом и многими участниками в Фортран) доступен онлайн
- ТЮРЬМА, библиотека, написанная на Ява, последнее обновление в 1999 г.
- Аксельрод-Питон, написано в Python
Рекомендуемое чтение
- Аксельрод, Роберт; Гамильтон, Уильям Д. (27 марта 1981 г.), «Эволюция сотрудничества» (PDF), Наука, 211 (4489): 1390–96, Bibcode:1981Научный ... 211.1390A, Дои:10.1126 / science.7466396, PMID 7466396
- Аксельрод, Роберт (1984), Эволюция сотрудничества, Базовые книги, ISBN 0-465-02122-0
- Аксельрод, Роберт (2006), Эволюция сотрудничества (Пересмотренное издание), Perseus Books Group, ISBN 0-465-00564-0
- Аксельрод, Роберт (1997), «Сложность сотрудничества: агентно-ориентированные модели конкуренции и сотрудничества», Сложность, Издательство Принстонского университета, 3 (3): 46–48, Bibcode:1998Cmplx ... 3c..46C, Дои:10.1002 / (SICI) 1099-0526 (199801/02) 3: 3 <46 :: AID-CPLX6> 3.0.CO; 2-K, ISBN 0-691-01567-8
- Докинз, Ричард (1989) [1976], Эгоистичный ген (2-е изд.), Oxford Univ. Нажмите, ISBN 0-19-286092-5
- Гулд, Стивен Джей (июнь 1997 г.), «Кропоткин не был чокнутым», Естественная история, 106: 12–21
- Ридли, Мэтт (1996), Истоки добродетели, Викинг (Книги Пингвинов), ISBN 0-670-86357-2
- Зигмунд, Карл; Фер, Эрнест; Новак, Мартин А. (январь 2002 г.), «Экономика честной игры» (PDF), Scientific American, т. 286 нет. 1. С. 82–87, Bibcode:2002SciAm.286a..82S, Дои:10.1038 / scientificamerican0102-82, PMID 11799620, заархивировано из оригинал (PDF) 18 мая 2011 г.
- Триверс, Роберт Л. (март 1971 г.), «Эволюция реципрокного альтруизма» (PDF), Ежеквартальный обзор биологии, 46: 35–57, Дои:10.1086/406755[мертвая ссылка]
- Фогель, Гретхен (20 февраля 2004 г.), «В центре внимания новостей: эволюция золотого правила», Наука, 303 (5661): 1128–31, Дои:10.1126 / science.303.5661.1128, PMID 14976292
Смотрите также
Рекомендации
- ^ Книга Аксельрода была резюмирована в майской 1983 г. колонке Дугласа Хофштадтера «Метамагические темы» в журнале Scientific American (Hofstadter 1983) (reprinted in his book (Hofstadter 1985); see also Richard Dawkin's summary in the second edition of The Selfish Gene (Dawkins 1989 , ch. 12).
- ^ Peress, Michael (2018). "Measuring the Research Productivity of Political Science Departments Using Google Scholar". PS: Political Science & Politics. 52 (2): 312–317. Дои:10.1017/S1049096518001610. ISSN 1049-0965.
- ^ Morse & Kimball 1951, 1956
- ^ Уильямс1954, 1966
- ^ Видеть Poundstone (1992) for a good overview of the development of game theory.
- ^ Technically, the prisoner's dilemma is any two-person "game" where the payoffs are ranked in a certain way. If the payoff ("reward") for mutual cooperation is R, for mutual defection is P, the sucker gets only S, and the temptation payoff (provided the other player is suckered into cooperating) is T, then the payoffs need to be ordered T > R > P > S, and satisfy R > (T+S)/2.(Axelrod 1984, pp. 8–10, 206–207 ).
- ^ Axelrod 1984 , п. 216 n. 2; Poundstone 1992.
- ^ Видеть Hardin (1968), "The Tragedy of the Commons".
- ^ "By Means of Natural Selection" being the subtitle of his work, О происхождении видов.
- ^ Darwin 1859 , pp 75, 76, 320.
- ^ Bowler 1984, pp. 94–99, 269–70.
- ^ Rand 1961.
- ^ Bowler 1984, pp. 94–99
- ^ Видеть Gauthier 1970 for a lively debate on morality and self-interest. Aristotle's comment on the effectiveness of philosophic argument: "For the many yield to complusion more than to argument." (Nichomachean Ethics, Book X, 1180a15, Irwin translation)
- ^ Kropotkin 1902, but originally published in the magazine Nineteenth Century starting in 1890.
- ^ Axelrod 1984, pp. 90 ; Trivers 1971 .
- ^ Видеть Bowler (1984) generally.
- ^ Wilson 1975 .
- ^ Darwin 1859, п. 237 .
- ^ Axelrod & Hamilton 1981 ; Trivers 1971, pp. 44, 48 ; Bowler 1984, п. 312; Dawkins 1989 , pp. 7–10, 287, ch. 7 generally.
- ^ Hamilton 1964.
- ^ Dawkins 1989 , п. 11.
- ^ Wilson 1975 , п. 3.
- ^ Trivers 1971 .
- ^ Trivers 1971, pp. 38–39 .
- ^ Trivers 1971, п. 35 год .
- ^ Trivers 1971, п. 47 . More pointedly, Trivers also said (p. 48):"No concept of group advantage is necessary to explain the function of human altruistic behavior."
- ^ To deter cheaters from exploiting altruists. And "in extreme cases, perhaps, to select directly against the unreciprocating individual by injuring, killing, or exiling him." (Trivers 1971, п. 49)
- ^ Analogous to the situation in the IPD where, having once defected, a player voluntarily elects to cooperate, even in anticipation of being suckered, in order to return to a state of mutual cooperation. As Trivers says (p. 50): "It seems plausible ... that the emotion of guilt has been selected for in humans partly in order to motivate the cheater to compensate his misdeed and to behave reciprocally in the future...."
- ^ Axelrod 1984 .
- ^ Axelrod 1984, п. 113 .
- ^ Axelrod 1984, п. 130 .
- ^ Axelrod 1984, pp. 62, 211 .
- ^ Axelrod 1984, п. 186 .
- ^ Axelrod 1984, п. 112 .
- ^ Axelrod 1984, pp. 110–113 .
- ^ Axelrod 1984, п. 25 .
- ^ Axelrod 1984, п. 120 .
- ^ Axelrod 1984, pp. 47,118 .
- ^ Axelrod 1984, pp. 120+ .
- ^ Axelrod 1984, pp. 48–53 .
- ^ Axelrod 1984, п. 13 .
- ^ Axelrod 1984, pp. 18, 174 .
- ^ Axelrod 1984, п. 174 .
- ^ Axelrod 1984, п. 150 .
- ^ Axelrod 1984, pp. 63–68, 99
- ^ Prechelt, Lutz (1996). "INCA: A multi-choice model of cooperation under restricted communication". Biosystems. 37 (1–2): 127–134. Дои:10.1016/0303-2647(95)01549-3.
- ^ Axelrod 1984, pp. 28 .
- ^ Axelrod 1984, pp. 3 .
- ^ Axelrod 1997 .
- ^ Boyd 2006; Bowles 2006.
- ^ Norenzayan & Shariff 2008.
- ^ Nowak 2006.
- ^ Axelrod & Dion 1988; Hoffman 2000 categorizes and summarizes over 50 studies
- ^ Nowak, Page & Sigmund 2000; Sigmund, Fehr & Nowak 2002 .
- ^ Camerer & Fehr 2006.
- ^ Roughgarden, Oishi & Akcay 2006.
- ^ Riolo, Cohen & Axelrod 2001.
- ^ Stewart and Plotkin (2013)
- ^ Axelrod (1984, pp. 136–138) has some interesting comments on the need to suppress universal cooperators. See also a similar theme in Piers Anthony's novel Macroscope.
- ^ Nowak & Sigmund 1992; смотрите также Milinski 1993.
- ^ Nowak 2006;
- ^ Here group selection is not a form of evolution, which is problematical (see Dawkins (1989) , ch. 7), but a mechanism for evolving cooperation.
- ^ Hauert & others 2007.
- ^ Gürerk, Irlenbusch & Rockenbach 2006
- ^ Phelps, S., Nevarez, G. & Howes, A., 2009. The effect of group size and frequency of encounter on the evolution of cooperation. In LNCS, Volume 5778, ECAL 2009, Advances in Artificial Life: Darwin meets Von Neumann. Budapest: Springer, pp. 37–44. [1].
- ^ Phelps, S (2012). "Emergence of social networks via direct and indirect reciprocity" (PDF). Autonomous Agents and Multi-Agent Systems. Дои:10.1007/s10458-012-9207-8.
- ^ Fosco and Mengel (2011)
- ^ Choi & Bowles 2007, п. 636.
- ^ Rusch 2014.
- ^ Dawkins 1989 , pp. 1 and 2.
- ^ Dawkins 1989, п. 139 .
- ^ Maynard Smith 1976, 1978, 1982
- ^ Kropotkin 1902. Why Kropotkin did not prevail is interesting – see Stephen Jay Gould's article "Kropotkin was no crackpot" (Gould 1997) – but beyond the scope of this article.
- ^ Gauthier 1986.
- ^ Kavka 1986; Binmore1994, 1998a, 2004
Библиография
Most of these references are to the scientific literature, to establish the authority of various points in the article. A few references of lesser authority, but greater accessibility are also included.
- Axelrod, Robert (1984), The Evolution of Cooperation, Базовые книги, ISBN 0-465-02122-0
- Axelrod, Robert (1997), "The Complexity of Cooperation: Agent-Based Models of Competition and Collaboration", Сложность, Princeton University Press, 3 (3): 46–48, Bibcode:1998Cmplx...3c..46C, Дои:10.1002/(SICI)1099-0526(199801/02)3:3<46::AID-CPLX6>3.0.CO;2-K
- Axelrod, Robert (July 2000), "On Six Advances in Cooperation Theory" (PDF), Analyse & Kritik, 22: 130–151
- Axelrod, Robert (2006), The Evolution of Cooperation (Revised ed.), Perseus Books Group, ISBN 0-465-00564-0
- Axelrod, Robert; D'Ambrosio, Lisa (1996), Annotated Bibliography on the Evolution of Cooperation (PDF)
- Axelrod, Robert; Dion, Douglas (9 December 1988), "The Further Evolution of Cooperation" (PDF), Наука, 242 (4884): 1385–90, Bibcode:1988Sci...242.1385A, Дои:10.1126/science.242.4884.1385, PMID 17802133
- Axelrod, Robert; Hamilton, William D. (27 March 1981), "The Evolution of Cooperation" (PDF), Наука, 211 (4489): 1390–96, Bibcode:1981Sci...211.1390A, Дои:10.1126/science.7466396, PMID 7466396
- Binmore, Kenneth G. (1994), Game Theory and the Social Contract: Vol. 1, Playing Fair, MIT Press
- Binmore, Kenneth G. (1998a), Game Theory and the Social Contract: Vol. 2, Just Playing, MIT Press
- Binmore, Kenneth G. (1998b), Review of 'The Complexity of Cooperation'
- Binmore, Kenneth G. (2004), "Reciprocity and the social contract" (PDF), Politics, Philosophy & Economics, 3: 5–6, Дои:10.1177/1470594X04039981
- Bowler, Peter J. (1984), Evolution: The History of an Idea, Univ. of California Press, ISBN 0-520-04880-6
- Bowles, Samuel (8 December 2006), "Group Competition, Reproductive Leveling, and the Evolution of Human Altruism", Наука, 314 (5805): 1569–72, Bibcode:2006Sci...314.1569B, Дои:10.1126/science.1134829, PMID 17158320
- Bowles, Samuel; Choi, Jung-Koo; Hopfensitz, Astrid (2003), "The co-evolution of individual behaviors and social institutions" (PDF), Journal of Theoretical Biology, 223 (2): 135–147, Дои:10.1016/S0022-5193(03)00060-2, PMID 12814597
- Boyd, Robert (8 December 2006), "The Puzzle of Human Sociality" (PDF), Наука, 314 (5805): 1555–56, Дои:10.1126/science.1136841, PMID 17158313
- Camerer, Colin F.; Fehr, Ernst (6 January 2006), "When Does 'Economic Man' Dominate Social Behavior?" (PDF), Наука, 311 (5757): 47–52, Bibcode:2006Sci...311...47C, Дои:10.1126/science.1110600, PMID 16400140
- Carnegie, Andrew (1900), The Gospel of Wealth, and Other Timely Essays
- Choi, Jung-Kyoo; Bowles, Samuel (26 October 2007), "The Coevolution of Parochial Altruism and War", Наука, 318: 636–40, Bibcode:2007Sci...318..636C, Дои:10.1126/science.1144237, PMID 17962562
- Darwin, Charles (1964) [1859], О происхождении видов (A Facsimile of the First ed.), Harvard Univ. Нажмите
- Dawkins, Richard (1989) [1976], The Selfish Gene (2nd ed.), Oxford Univ. Press, ISBN 0-19-286092-5
- Fosco, Constanza; Mengel, Friederike (2011). "Cooperation through Imitation and Exclusion in Networks" (PDF). Journal of Economic Dynamics and Control. 35 (5): 641–658. Дои:10.1016/j.jedc.2010.12.002.
- Gauthier, David P. (1986), Morals by agreement, Oxford Univ. Нажмите
- Gauthier, David P., ed. (1970), Morality and Rational Self-Interest, Prentice-Hall
- Gould, Stephen Jay (June 1997), "Kropotkin was no crackpot", Естественная история, 106: 12–21
- Gürerk, Özgür; Irlenbush, Bernd; Rockenbach, Bettina (7 April 2006), "The Competitive Advantage of Sanctioning Institutions" (PDF), Наука, 312 (5770): 108–11, Bibcode:2006Sci...312..108G, Дои:10.1126/science.1123633, PMID 16601192, archived from оригинал (PDF) 19 июля 2011 г.
- Hamilton, William D. (1963), "The Evolution of Altruistic Behavior" (PDF), American Naturalist, 97 (896): 354–56, Дои:10.1086/497114[мертвая ссылка]
- Hamilton, William D. (1964), "The Genetical Evolution of Social Behavior" (PDF), Journal of Theoretical Biology, 7 (1): 1–16, 17–52, Дои:10.1016/0022-5193(64)90038-4, PMID 5875341, archived from оригинал (PDF) on 29 December 2009
- Hardin, Garrett (13 December 1968), "The Tragedy of the Commons" (PDF), Наука, 162 (3859): 1243–1248, Bibcode:1968Sci...162.1243H, Дои:10.1126/science.162.3859.1243, PMID 5699198, archived from оригинал (PDF) 19 июля 2011 г.
- Hauert, Christoph; Traulsen, Arne; Brandt, Hannelore; Nowak, Martin A.; Sigmund, Karl (29 June 2007), "Via Freedom to Coercion: The Emergence of Costly Punishment" (PDF), Наука, 316 (5833): 1905–07, Bibcode:2007Sci...316.1905H, Дои:10.1126/science.1141588, ЧВК 2430058, PMID 17600218, archived from оригинал (PDF) on 18 May 2011
- Henrich, Joseph (7 April 2006), "Cooperation, Punishment, and the Evolution of Human Institutions" (PDF), Наука, 312 (5770): 60–61, Дои:10.1126/science.1126398, PMID 16601179, archived from оригинал (PDF) on 29 June 2011
- Henrich, Joseph; и другие. (23 June 2007), "Costly Punishment Across Human Societies" (PDF), Наука, 312 (5781): 1767–70, Bibcode:2006Sci...312.1767H, Дои:10.1126/science.1127333, PMID 16794075
- Hobbes, Thomas (1958) [1651], Левиафан, Bobbs-Merrill [and others]
- Hoffman, Robert (2000), "Twenty Years on: The Evolution of Cooperation Revisited" (PDF), Journal of Artificial Societies and Social Simulation, 3 (2): 1390–1396
- Hofstadter, Douglas R. (May 1983), "Metamagical Themas: Computer Tournaments of the Prisoner's Dilemma Suggest How Cooperation Evolves", Scientific American, т. 248, pp. 16–26
- Hofstadter, Douglas R. (1985), "The Prisoner's Dilemma Computer Tournaments and the Evolution of Cooperation", Metamagical Themas: Questing for the Essence of Mind and Pattern, Basic Books, pp. 715–730, ISBN 0-465-04540-5
- Kavka, Gregory S. (1986), Hobbesian moral and political theory, Princeton Univ. Нажмите
- Kropotkin, Petr (1902), Mutual Aid: A Factor in Evolution
- Maynard Smith, John (1976), "Evolution and the Theory of Games", American Scientist, т. 61 no. 1, pp. 41–45, Bibcode:1976AmSci..64...41M
- Maynard Smith, John (September 1978), "The Evolution of Behavior", Scientific American, т. 239 no. 3, pp. 176–92, Bibcode:1978SciAm.239c.176S, Дои:10.1038/scientificamerican0978-176, PMID 705322
- Maynard Smith, John (1982), Evolution and the Theory of Games, Cambridge Univ. Нажмите
- Melville, Herman (1977) [1851], Moby-Dick, Bobbs-Merrill [and others]
- Milinski, Manfred (1 July 1993), "News and Views: Cooperation Wins and Stays", Природа, 364 (6432): 12–13, Bibcode:1993Natur.364...12M, Дои:10.1038/364012a0, PMID 8316291
- Morse, Phillip M.; Kimball, George E. (1951), Methods of Operations Research Отсутствует или пусто
| название =
(помощь) - Morse, Phillip M.; Kimball, George E. (1956), "How to Hunt a Submarine", in Newman, James R. (ed.), The World of Mathematics, 4, Simon and Schuster, pp. 2160–79
- Norenzayan, Ara; Shariff, Azim F. (3 October 2008), "The Origin and Evolution of Religious Prosociality" (PDF), Наука, 322 (5898): 58–62, Bibcode:2008Sci...322...58N, Дои:10.1126/science.1158757, PMID 18832637
- Nowak, Martin A (8 December 2006), "Five Rules for the Evolution of Cooperation" (PDF), Наука, 314 (5805): 1560–63, Bibcode:2006Sci...314.1560N, Дои:10.1126/science.1133755, ЧВК 3279745, PMID 17158317, archived from оригинал (PDF) on 18 May 2011
- Nowak, Martin A; Page, Karen M.; Sigmund, Karl (8 September 2000), "Fairness Versus Reason in the Ultimatum Game" (PDF), Наука, 289 (5485): 1773–75, Bibcode:2000Sci...289.1773N, Дои:10.1126/science.289.5485.1773, PMID 10976075, archived from оригинал (PDF) 19 июля 2011 г.
- Nowak, Martin A.; Sigmund, Karl (16 January 1992), "Tit For Tat in Heterogenous Populations" (PDF), Природа, 355 (6016): 250–253, Bibcode:1985Natur.315..250T, Дои:10.1038/315250a0, PMID 3889654, archived from оригинал (PDF) 16 июня 2011 г.
- Nowak, Martin A.; Sigmund, Karl (1 July 1993), "A strategy of win-stay, lose-shift that outperforms tit for tat in Prisoner's Dilemma" (PDF), Природа, 364 (6432): 56–58, Bibcode:1993Natur.364...56N, Дои:10.1038/364056a0, PMID 8316296, archived from оригинал (PDF) on 4 July 2008
- Poundstone, William (1992), "Prisoner's Dilemma: John von Neumann, Game Theory and the Puzzle of the Bomb", Physics Today, Anchor Books, 45 (9): 73–74, Bibcode:1992PhT....45i..73P, Дои:10.1063/1.2809809, ISBN 0-385-41580-X
- de Quervain, D. J.-F.; Fischbacker, Urs; Treyer, Valerie; Schellhammer, Melanie; Schnyder, Ulrich; Buck, Alfred; Fehr, Ernst (24 August 2004), "The Neural Basis of Altruistic Punishment", Наука, 305: 1254–1258, Bibcode:2004Sci...305.1254D, Дои:10.1126/science.1100735, PMID 15333831
- Rand, Ayn (1961), The Virtue of Selfishness: A New Concept of Egoism, The New American Library
- Rapoport, Anatol; Chammah, Albert M. (1965), Prisoner's Dilemma, Univ. Michigan Press
- Riolo, Rick L.; Cohen, Michael D.; Axelrod, Robert (23 November 2001), "Evolution of cooperation without reciprocity" (PDF), Природа, 414 (6862): 441–43, Bibcode:2001Natur.414..441R, Дои:10.1038/35106555, HDL:2027.42/62686, PMID 11719803
- Roughgarden, Joan; Oishi, Meeko; Akcay, Erol (17 February 2006), "Reproductive Social Behavior: Cooperative Games to Replace Sexual Selection" (PDF), Наука, 311 (5763): 965–69, Bibcode:2006Sci...311..965R, Дои:10.1126/science.1110105, PMID 16484485, archived from оригинал (PDF) 21 июля 2011 г.
- Rousseau, Jean Jacques (1950) [1762], The Social Contract, E. P. Dutton & Co. [and others]
- Rusch, Hannes (2014), "The Evolutionary Interplay of Intergroup Conflict and Altruism in Humans: A Review of Parochial Altruism Theory and Prospects for its Extension", Труды Королевского общества B: биологические науки, 281 (1794): 20141539, Дои:10.1098/rspb.2014.1539, ЧВК 4211448, PMID 25253457
- Sanfey, Alan G. (26 October 2007), "Social Decision-Making: Insights from Game Theory and Neuroscience", Наука, 318 (5850): 598–602, Bibcode:2007Sci...318..598S, Дои:10.1126/science.1142996, PMID 17962552
- Sigmund, Karl; Fehr, Ernest; Nowak, Martin A. (January 2002), "The Economics of Fair Play" (PDF), Scientific American, т. 286 no. 1, pp. 82–87, Bibcode:2002SciAm.286a..82S, Дои:10.1038/scientificamerican0102-82, PMID 11799620, archived from оригинал (PDF) on 18 May 2011
- Stewart, Alexander; Plotkin, Joshua B. (17 September 2013), "From extortion to generosity, evolution in the Iterated Prisoner's Dilemma", Труды Национальной академии наук, 110 (38): 15348–15353, Bibcode:2013PNAS..11015348S, Дои:10.1073/pnas.1306246110, ЧВК 3780848, PMID 24003115
- Trivers, Robert L. (March 1971), "The Evolution of Reciprocal Altruism" (PDF), Quarterly Review of Biology, 46: 35–57, Дои:10.1086/406755[мертвая ссылка]
- Vogel, Gretchen (20 February 2004), "News Focus: The Evolution of the Golden Rule", Наука, 303 (5661): 1128–31, Дои:10.1126/science.303.5661.1128, PMID 14976292
- Von Neumann, John; Morgenstern, Oskar (1944), "Theory of Games and Economic Behavior", Природа, Princeton Univ. Press, 157 (3981): 172, Bibcode:1946Natur.157..172R, Дои:10.1038/157172a0
- Wade, Nicholas (20 March 2007), "Scientist Finds the Beginnings of Morality in Primitive Behavior", Нью-Йорк Таймс: D3
- Williams, John D. (1954), The Compleat Strategyst, RAND Corp.
- Williams, John D. (1966), The Compleat Strategyst: being a primer on the theory of games of strategy (2nd ed.), McGraw-Hill Book Co.
- Wilson, Edward O. (2000) [1975], Sociobiology: The New Synthesis (25th Anniversary ed.), Harvard Univ. Press, ISBN 0-674-00235-0