?

Log in

No account? Create an account

Когнитивная психология, философы и ошибки мышления - Не кинокритик. Не палеонтолог.

окт. 25, 2010

09:30 pm - Когнитивная психология, философы и ошибки мышления

Previous Entry Поделиться Next Entry

Сначала - длинная цитата из aptsvet:

Представьте себе, что вы управляете локомотивом. Перед вами на рельсах — группа из пяти человек, затормозить нет никакой возможности, и они неминуемо погибнут. Единственный выход — свернуть на запасный путь, где находится только один человек, который погибнет, но ценой этой гибели будут пять спасенных жизней.

Другой вариант: вы стоите на виадуке над движущимся локомотивом, перед которым на рельсах все те же пятеро, а рядом с вами стоит очень толстый человек. Если сбросить его на рельсы, он погибнет, но локомотив будет остановлен, и пятеро спасутся.


В ходе опросов случайно отобранных респондентов выясняется, что в первом варианте большинство опрошенных считает допустимым свернуть на запасный путь, но во втором сбросить человека на рельсы представляется безнравственным. Автор статьи возводит эту разницу к принципу, сформулированному еще в XIII в. католическим богословом и философом Фомой Аквинским: позволительно совершить нравственный поступок даже если некоторые из его побочных последствий будут отрицательными при условии, что нравственный результат такого поступка перевешивает безнравственный. Но мне лично такое объяснение кажется неточным, вернее слишком широким. Согласно условиям, заданным св. Фомой, оба варианта приведенной задачи равноценны: одна загубленная жизнь в обмен на пять спасенных, баланс одинаковый. Откуда же в таком случае столь разные ответы респондентов?

Инстинктивно разницу легко понять: в первом случае убийство в наши намерения не входит, и мы будем только рады, если человек на запасном пути чудом спасется. Во втором эта мысленная уловка не срабатывает: для того, чтобы пятеро спаслись, один неминуемо должен умереть — и, как бы мы ни оговаривались, от нашей руки. Судя по всему, здесь срабатывает другой, куда более точный нравственный принцип, сформулированный Иммануилом Кантом столетия спустя после Фомы: в человеке следует видеть только цель и никогда — средство. В случае с толстым человеком нет никакого сомнения, что мы используем его как средство для спасения других пяти, и поэтому такой поступок нравственного оправдания не имеет, в первом же случае его присутствие на рельсах — случайность, мы бы, конечно, предпочли, чтобы его там не было.


Я время от времени встречаю описание этого мысленного эксперимента, снабженное некоторыми далеко идущие выводами, и решил, наконец, записать всё, что я о нем думаю.

Полная ерунда. И то, что некоторые философы принимают его "результаты" всерьез - признак незнания базовых достижений когнитивной психологии, простительного для программистов или поэтов, но уж никак не для людей, посвятивших себя изучению человеческой природы открыто декларирующих, что профессионально изучают человеческую природу.

Проблема вот в чем: предполагая, что у человека есть некоторый "моральный инстинкт", мы считаем, что при рассмотрении "моральных дилемм", подобных приведенным выше, он работает в чистом виде, и выводим отсюда какие-то свойства этого "морального инстинкта". Но предположение, что перед нами решение, управляемое исключительно "моральным чутьем", в большинстве случаев не просто бездоказательно, но грубо неверно.

Давайте вспомним, как люди принимают решения (эта самоссылка важна для дальнейшего понимания, если не читали - прочитайте, иначе дальнейшее будет непонятно).

Рассмотрим ромашки для двух ситуаций.

Ситуация первая: два пути.
Сворачиваем налево: шесть лепестков - пять трупов, седьмой - некоторое развитие событий, при котором мы успеваем экстренно затормозить, или они успевают убежать (по условиям задачи никакого седьмого лепестка нет, но речь идет о мгновенном и бессознательном анализе - мы люди, мы не успеваем принять условия игры, "ромашка" строится автоматически на основании того, что мы знаем о поездах, катастрофах, людях и их поведении в экстремальных ситуациях, и т.п.) Я отвожу на "оптимистический" вариант лишь один лепесток, но, вполне возможно, их окажется и два - зависит от испытуемого (условно говоря, оптимист-пессимист).
Сворачиваем направо: шесть лепестков - один труп, седьмой - его спасение с теми же шансами.

Итак, наш выбор: 30/7 трупа против 6/7 трупа.

Ситуация вторая: толстяк. В "пассивном" варианте наших действий она мало чем отличается от первой, а вот в "активном" лепестки совсем другие.

Вы часто толкали кого-нибудь под поезд? Вам случалось драться с толстяком в ситуации, когда от этого зависит его жизнь? Вам нужно уронить его на рельсы, причем не абы как; так, чтобы он упал ровно перед движущимся поездом, и остановил его своим телом.

Сколько лепестков на какой вариант вы отведете? У меня получается примерно так (интроспекция - плохой метод, устаревший и ненаучный, но для полноценного, статистически достоверного, когнитивистского исследования у меня нет ни лаборатории с секундомерами, ни табуна второкурсников):
Два лепестка: вам удается "уронить толстяка", поезд "тормозит об него", люди спасены, вас долго судят и оправдывают
Один лепесток: вам удается "уронить толстяка", поезд "тормозит об него", люди спасены, вы отправляетесь в тюрьму
Один лепесток: вам удается "уронить толстяка", но вы ошиблись: поезд "тормозит об него", но не до конца - это не помогает, погибли вообще все; вы отправляетесь в тюрьму
Один лепесток: вам не удается "уронить толстяка"
Два лепестка: вам не удается "уронить толстяка" должным образом, и вдобавок к этому вы оказываетесь избиты и/или отправляетесь в тюрьму.

Итак, наш выбор: 30/7 трупа против совокупности "27/7 трупа + 3/7 вероятности попасть в тюрьму + 1/7 вероятности быть сильно избитым + практически заведомые судебное разбирательство и потеря доброго имени". Причем этот анализ ситуации, кажется, еще довольно оптимистичный.

Ну-с, что вы выбираете?

Если вам и этого мало, нужно понимать также, что "ромашка" вряд ли умеет отличить 30 от 27. Я не знаю, что именно о подобном инстинктивном "управлении ресурсами" известно науке, но у меня большие сомнения насчет десятипроцентной точности.

Естественно, в условиях сказано, что выбор и в той и в другой ситуации - "пять против одного", без примесей, и делается всё возможное, чтобы ситуации уравнять. Но человеческая интуиция так не работает! Мы можем притвориться, что описываемые ситуации устроены так, как нам заявлено, мы можем помнить об этом, рассуждая "вслух" - но мы не можем убедить в этом нашу встроенную систему быстрой, бессознательной оценки. На "ромашку" практически невозможно повлиять многократными голословными уверениями в чем-либо, в особенности если человек должен принимать решение быстро (А.П. ниже в своей колонке пишет еще и о том, что измерялось время ответа, и какие-то выводы делались в зависимости от него!)

Такие дела.

Comments:

[User Picture]
From:aptsvet
Date:Октябрь 25, 2010 05:45 pm
(Link)
Думаю, что вы тут смешали два аспекта проблемы: психологически-когнитивный и чисто философский. Я эту разницу в тексте упомянул, правда мельком.
Но если подробнее, то в философском смысле это вовсе не руководство к предотвращению ДТП, потому что в этом аспекте вы конечно правы. Это чисто схематическая задача, реальным прототипом которой будет жизненная ситуация, в которой у нас есть достаточное время для принятия решения и средства к его осуществлению. Как я отмечаю, даже не все философы принимают такой метод, но иллюстративная польза в нем все же есть. Велосипедисты и бассейны в арифметических задачах редко ведут себя как настоящие.
(Ответить) (Thread)
[User Picture]
From:brainslugs.blogspot.com
Date:Октябрь 25, 2010 05:47 pm
(Link)
А по-моему основная разница в том, что в ситуации "вы - машинист" нужно обязательно выбрать один из двух вариантов действия (в любом случае получится "я переехал поездом людей"), а в случае с толстяком можно просто в стороне постоять, сняв с себя моральную ответственность.

Вообще, я эту задачу слышал в варианте "перед вами стрелка, приближается поезд" -- так чуток сложнее решить, бороться ни с кем не надо, но и оставить ситуацию на произвол судьбы можно.
(Ответить) (Thread)
[User Picture]
From:freetiger
Date:Октябрь 25, 2010 06:01 pm
(Link)
вспоминается атлантис:
- А они что, не увидят поезд и не смогут отойти?
- Они слепые.
- Ну тогда может им побибикать?
- Они еще и глухие.
- То есть убить пять слепоглухих инвалидов или спасти жизнь ребенку?!
(Ответить) (Thread)
[User Picture]
From:fenikso
Date:Октябрь 25, 2010 06:43 pm
(Link)
шикарно, это SG Atlantis или?
(Ответить) (Parent) (Thread)
[User Picture]
From:freetiger
Date:Октябрь 25, 2010 07:00 pm
(Link)
ага.
по памяти,правда. Маккей пытается дать моральную задачку Ронану и Тейле :)
(Ответить) (Parent) (Thread)
From:xoseernest
Date:Октябрь 25, 2010 06:19 pm
(Link)
Пост очень понравился, надо сохранить блог в закладки.
(Ответить) (Thread)
[User Picture]
From:bandures
Date:Октябрь 25, 2010 06:29 pm
(Link)
ПДД учат давить пятерых. Вот к примеру с той же стрелкой, а вдруг скорость прохождения будет выше ограничений, поезд сойдёт с рельс, и в реальности ты собьёшь всех 6-х, пострадаешь сам, и ещё не дай бог пассажиры поезда ?

PS: Локомотив не умеет управлять стрелками ;)
PPS: Фигли трогать толстяка, он на рельсах не стоит, ничего не нарушает.
(Ответить) (Thread)
[User Picture]
From:_foreseer
Date:Октябрь 26, 2010 04:06 pm
(Link)
+1 к pps-у - 5 нарушителей vs 1 нарушитель и 5 нарушителей vs 1 невиновный - без всяких ромашек понятно :)
(Ответить) (Parent) (Thread)
[User Picture]
From:timur0
Date:Октябрь 25, 2010 07:03 pm
(Link)
тут еще одна важная разница - машинист несет ответственность по-любому, а стоящий на виадуке - нет, если только сам не полезет. чисто психологически машинист захочет что-то сделать для предотвращения ситуации - свернет, рванет стоп-кран, что угодно. не уверен, что тут вообще ромашка какую-то роль играть будет - психологическая потребность в действии забьет доводы разума. даже если это заведомо неверное решение. в одной из поздних книг Конецкий писал об этом - что капитанам в экстренных ситуациях труднее всего воздержаться от действий, иногда это единственно верное решение (лучшее из возможных), но психологически самое трудное. если бы "Титаник" не пытался увернуться от айсберга, то были бы затоплены всего два носовых отсека и он остался бы на плаву. к тому же объяснять кому-либо свое бездействие (вспоминаем об ответственности!) гораздо труднее, так что какие-то действия все равно машинист предпримет - разумные или лихорадочные, зависит от того, насколько быстро работает его разум и опередит ли он чисто психологией мотивированную деятельность.
(Ответить) (Thread)
[User Picture]
From:_winnie
Date:Октябрь 25, 2010 07:05 pm
(Link)
(100 рублей + 3 доллара) очевидно лучше чем (90 рублей + 3 доллара)
(90 рублей + 4 доллара) очевидно лучше чем (90 рублей + 3 доллара)

Но вот сравнить что лучше, (100 р + 3 дол) и (90 р + 4 д) уже сложнее.
Возникает много доп. вопросов. А какой сейчас курс? А сколько идти до обменника? Под дождём ли? Срочно ли нужны деньги?

В первом случае у машиниста выбор (5 трупов, (X + epsilon)) и (1 труп, X). Выбор очевиден.
Во втором случае у нас (5, X) и (1, Y), где X и Y - наши действия, и восприятие остальными этих действий. Даже если избавится от факта, что не 1, а 1 + хрен знает сколько до 1+5+1.

В первом случае сравнение быстрое и однозначное. А во втором можно много рассуждать про то, как надо поступать с т.з. разных моралей и как оно в теории будет на самом деле.
Ну, будут настроены какие-то веса для
1) "смерть невинного" 2) "смерть идиотов с дороги" 3) "смерть близкостоящего" 4) "мои самостоятельные действия" 5) "оценка общества", 6) "ценность своей жизни" 7) "придёт ли вообще такой план в голову"
как веса будут настроены так и произойдёт.



Edited at 2010-10-25 19:08 (UTC)
(Ответить) (Thread)
[User Picture]
From:_winnie
Date:Октябрь 25, 2010 07:12 pm
(Link)
>6) "ценность своей жизни
Робот из рассказов Азимова должен сам сброситься с моста.

http://ru.wikipedia.org/wiki/Три_закона_роботехники
Или впасть в ступор, если он глупый. Или тупо хлопать камерами, если совсем тупой.


Edited at 2010-10-25 19:15 (UTC)
(Ответить) (Parent) (Thread)
[User Picture]
From:alex_mashin
Date:Октябрь 25, 2010 07:24 pm
(Link)
В проблеме есть ещё и технико-физический аспект: с каких это пор из локомотива можно управлять стрелками, а толстяка хватит затормозить локомотив?
(Ответить) (Thread)
(Удалённый комментарий)
[User Picture]
From:mikser
Date:Октябрь 25, 2010 07:27 pm
(Link)
>Причем этот анализ ситуации, кажется, еще довольно оптимистичный.

Угу. Забыл еще про ситуацию, когда толстяк сам меня скинет на пути. И ситуацию, когда туда упадем вдвоем.
(Ответить) (Thread)
From:(Anonymous)
Date:Октябрь 25, 2010 09:25 pm
(Link)
Вы потрясающе пишете. Пришёл из гугльридера, начал щёлкать по ссылкам и залип на час :)
Пишите ещё, пожалуйста.
(Ответить) (Thread)
[User Picture]
From:sorcerer_
Date:Октябрь 26, 2010 12:28 am
(Link)
Что-то мне непонятно с какого перепоя тут начинается с предположения, что все люди видят эту ситуацию одинаково?
(Ответить) (Thread)
[User Picture]
From:tea_with_milk
Date:Октябрь 26, 2010 05:19 am
(Link)
Есть профессор один в Гарварде. У него совершенно обалденный курс Justice. На первой лекции как раз эти примеры разбираются:

http://www.justiceharvard.org/

(Ответить) (Thread)
[User Picture]
From:janatem
Date:Октябрь 26, 2010 06:49 am
(Link)
Забавно: прочитав примерно половину (до семицветика), подумал, что всё это фигня, поскольку имеет место стохастичность с, очевидно, недостаточной априрной информацией. Т.е. я рассуждал примерно как и ты.

Таким образом, мысленный эксперимент обесценивается -- вообще непонятно, что мы меряем, изучая ответы опрашиваемых. "Правильное" решение такого рода философских проблема, на мой взгляд, таково: есть задача сравнить что-то с чем-то, и результат этого сравнения зависит от некоей меры, которая бывает разная, и которую даже трудно формализовать. В некоторых случаях любая "достаточно разумная" мера дает одинаковый результат, как 5 > 1 в первой части. В других -- нет. Это было отмечено и в комментариях, в частности http://plakhov.livejournal.com/145168.html?thread=2566416#t2566416 . Для полноты картины приведу еще такой вариант: пусть в этом первом случае 5+1 люди не случайные, а знакомые машинисту. Я уверен, что у каждого найдется 5+1 таких знакомых, таких что он засомневается в том, что 5 > 1.
(Ответить) (Thread)
[User Picture]
From:phantomych
Date:Октябрь 26, 2010 08:07 am

Не надо решать за других.

(Link)
Те пятеро сами слажали, оказавшист на рельсах. А толстяк и другой находились в безопасности. У нас нет права подвергать их опасности. Даже если бы они могли отделаться небольшой травмой. Нельзя использовать людей для достижения каких-либо целей. Единственный честный выход - предложить толстяку самому сброситься на рельсы и человеку, на запасном пути, самому повернуть стрелку.

Еще год назад, я бы спасал 5-х в обоих вариантах.
(Ответить) (Thread)
[User Picture]
From:alll
Date:Октябрь 26, 2010 08:19 am
(Link)
Ещё один аспект, который отчего-то не виден любителям моральных инстинктов: в случае с толстяком недеяние уголовно ненаказуемо, а деяние таки да. А в случае с управлением локомотивом отвечать за действия придётся в любом случае более-менее одинаково.
(Ответить) (Thread)
From:cobetbi
Date:Октябрь 26, 2010 08:42 am
(Link)
Вот еще тест для морально-нравстенных философов.

Представте что вы рыба, которая питается желудями. Но если вы съедите все желуди, вымрут все свиньи, а потом и почти все человечество, останутся только мусульмане. А если вы не будете есть желуди, вы похудеете, и луна упадет на землю и придавит всех мусульман.
Что вы выберете?

Ответ очевиден - нужно скинуть толстяка, быть провославным и соблюдать пост.

-------------

Все эти морально-вакуумные философии - бред. Человек живет в материальном мире, создает инструменты - всегда есть тормоз или гудок, или нужно рассуждать о том что они должны быть. А магия кидания толстяков против поездов бессильна.
(Ответить) (Thread)
[User Picture]
From:eednew
Date:Октябрь 26, 2010 09:29 am
(Link)
В случае с толстяком человек еще и оценивает свою комплекцию и возможности. 3-5 лепестков "да он сам меня -- того".
(Ответить) (Thread)
From:(Anonymous)
Date:Октябрь 28, 2010 07:38 am
(Link)
А как ученый механик представляет себе торможение поезда толстяком?
(Ответить) (Thread)
[User Picture]
From:musasy
Date:Ноябрь 8, 2010 03:24 pm
(Link)
Мне кажется спутаны два процесса: механизм принятие решения,и осознание процесса восприятие человеком. Твой "сеанс разоблачения" похож на сеанс разоблачения магии телевидения с помощью описания устройства телевизора. Типа, ребята, это не вовсе не кино в видите, это ЖК-панель , светодиоды и прочее.
(Ответить) (Thread)
[User Picture]
From:musasy
Date:Ноябрь 8, 2010 03:25 pm
(Link)
Да, в случае с толстяком есть еще еще широкий лепесток: "Я пытаюсь скинуть толстяка и сам лечу под поезд. Итого 6 трупов и один из них — я".
(Ответить) (Thread)
[User Picture]
From:stelazin
Date:Август 15, 2011 09:39 am

Насколько я знаю, там интереснее

(Link)
Проводился такой эксперимент. Не в смысле, что толстяка под поезд кидали, а в смысле, что людям предлагали оценить выбор. Давали карточки с картинками и объяснением ситуации и предлагали разделять их на группы по разным условным признакам. Серди всех прочих в стопке были также эти 2 ситуации, с рычагом, переводящим стрелки и толканием человека под поезд (для драматизма на путях 5 играющих детей сажали).

Это опыт по выявлению эмпатии. Тут неважно, как человек сам бы поступил, тут важно, как он оценивает эту ситуацию со стороны. Подавляющее большинство уверенно разделяет эти 2 случая, т.к. они для обычного человека имеют совершенно разную эмоциональную наполненность. Но часть людей, не способная к эмпатическому реагированию, не могла объяснить различия между этими случаями, т.к. по формально-логическим признакам они схожи. Люди без эмпатии не понимали, в чем разница.
(Ответить) (Thread)