Проблема вагонетки что это
Проблема вагонетки
Проблема вагонетки — мысленный эксперимент в этике, впервые сформулированный английским философом Филиппой Фут. Находясь вне рамок стандартных философских вопросов, проблема вагонетки играет большую роль в когнитивистике и нейроэтике.
Содержание
Оригинальная формулировка
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
Концепция утилитаризма предписывает в обязательном порядке переключить стрелку. Согласно этой концепции, переключение стрелки является не единственным допустимым действием, но, с точки зрения морали, лучшим действием (другая возможность — не делать ничего).
Похожие проблемы
«Толстый человек»
Похожая проблема была предложена философом Д. Д. Томсон.
Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути. Каковы ваши действия?
Стоит отметить, что для значительной части людей активное участие в этой ситуации выглядит практически невозможным. Большая часть тех, кто переключил бы стрелку в первой ситуации, не стали бы толкать человека под вагонетку во второй. Эта особенность явилась предпосылкой для более глубокого исследования различия этих двух ситуаций.
Стоит отметить, что подобное решение является следствием доктрины двойного эффекта, которая гласит, что в случае необходимости можно совершать действия, которые имеют негативные побочные эффекты, но умышленное проявление агрессии (даже для достижения положительных результатов) является неправильным.
«Толстый злодей»
Дальнейшее развитие этого примера включает в себя ситуацию, когда толстый человек оказывается злодеем, который и поставил пятерых людей в опасную ситуацию (привязал их к рельсам). В этом случае выталкивание толстого человека на рельсы выглядит не только выигрышным с моральной точки зрения, но и обязательным для выполнения.
«Ответвление»
Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Как и в первом случае, вы можете перевести её на запасной путь. К рельсам запасного пути привязан один толстый человек. Однако, после человека запасной путь делает петлю и снова возвращается на главный путь, перед тем местом, где привязаны пятеро. Таким образом, если бы на запасном пути не было бы толстого человека, который может остановить вагонетку, переключение стрелки не спасло бы пятерых. Каковы ваши действия?
«Человек на лужайке»
Эта формулировка принадлежит Питеру Анжеру.
Как и прежде, вагонетка несётся по рельсам. Вы можете убрать её с путей путём столкновения с другой вагонеткой. При этом обе вагонетки сойдут с путей и упадут с насыпи, попав на лужайку, где в гамаке спит человек. Человек при этом будет убит. Каковы ваши действия?
Ответы в этой ситуации частично зависят от того, знаком ли отвечающий с оригинальной проблемой вагонетки. Анжер в своих исследованиях заметил, что люди, которые не сталкивались с таким выбором раньше, чаще говорят, что предлагаемое действие (столкновение с другой вагонеткой) является неправильным.
Анжер поэтому замечает, что различные ответы на эту проблему базируются больше на психологии, нежели на этике — в этой новой формулировке единственное отличие от оригиналых постановок состоит в том, что человек на лужайке не вовлечён полностью в ситуацию. Таким образом, люди думают, что убийство человека на лужайке — «нечестная игра». При этом Анжер отмечает, что отсутствие вовлечённости в ситуацию никак не затрагивает её моральные аспекты.
«Донор»
Альтернативная формулировка, не использующая вагонетку, выглядит так.
У высококлассного хирурга есть 5 пациентов, каждому из которых необходима пересадка органа (разного для всех пятерых). Каждый пациент умрёт, если не получит этот орган. К сожалению, в больнице и окрестностях нет необходимых органов. В больницу для обычного рутинного осмотра приходит молодой здоровый посетитель. Осматривая его, хирург обнаруживает, что органы молодого человека полностью совместимы с организмами 5 его пациентов. Предположим, что в случае бесследного исчезновения посетителя никто не будет его искать и не заподозрит доктора в убийстве. Что должен сделать доктор?
Проблема с точки зрения когнитивистики
Проблема вагонетки впервые была исследована с позиции когнитивной науки Дж. Михаэлем. Он предположил, что ответы людей практически не будут зависеть от их пола, возраста, культурного уровня и образования, так как их решения основываются на неосознаваемой «моральной грамматике», которая, в некоторых смыслах, аналогична столь же неосознаваемой универсальной грамматике, лежащей в основе обычного языка.
Предварительные результаты подтвердили это наблюдение, и впоследствии исследования Михаэля были обобщены на 200 000 человек из более чем 100 различных стран.
Проблема с точки зрения нейроэтики
В целях изучения этой проблемы с точки зрения нейроэтики, Д. Грин и Дж. Коэн использовали методы ФМРТ (функциональная магнитно-резонансная томография). В их экспериментах анализировались ответы людей на вопросы, сформулированные в оригинальной формулировке и формулировке с «толстым человеком». Гипотеза учёных состояла в том, что решение этих проблем вызовет как эмоциональную, так и когнитивную реакцию, при этом возникнет их конфликт. Результаты исследования показали следующее: в ситуациях, которые вызывают яркий эмоциональный отклик («толстый человек») наблюдается значительная активность в тех частях мозга, которые ассоциированы с разрешением конфликта. В то же время, в более нейтральных ситуациях (например, оригинальная проблема вагонетки) наблюдается активность в области мозга, отвечающей за высшие когнитивные функции. Таким образом, потенциальные этические идеи в данной ситуации вращаются вокруг способности человека принимать рациональные решения морального свойства.
«Проблема вагонетки»: стоит ли принимать ее всерьез?
Кому из нас не знакома «проблема вагонетки»? Та, где предлагается сбросить с моста бедного тучного человека на рельсы, чтобы он перекрыл дорогу надвигающемуся вагону, и спасти тем самым 5 незадачливых работников, оказавшихся на путях. Но что наш выбор — «сбросить или нет?» — говорит о нас? И может ли вообще столь искусственная ситуация что-либо рассказать о человеческой морали? Собрав самые противоречивые материалы исследований по вопросу, об этом на страницах Nautil.us поразмышлял Мэттью Седакка. Присоединимся к нему.
В 1960-е годы философ Филиппа Фут, занимающаяся вопросами морали, придумала мысленный эксперимент, который стал революционным в этой области. Эта этическая головоломка, известная сегодня как «проблема вагонетки» (trolley problem), стала настолько влиятельной не только в философии, но и в области неврологии, поведенческой экономики, эволюционной психологии и в мем-культуре, что возник даже неологизм «вагонеткология» (trolleyology). Такое количество комментариев, писал один философ, «заставляет Талмуд выглядеть пособием для чайников».
Большинство отказывается делать выбор, несмотря на то что, пожертвовав полным человеком, в конечном счете можно спасти пятерых. С другой стороны, переключение путей ради спасения жизней пяти человек, кажется морально оправданным, даже если один человек всё же умирает. Почему у нас разные моральные ответы на эти, казалось бы численно равнозначные сценарии? Этим вопросом озадачены многие исследователи, занимающиеся этикой и психологией морали. Например, Джесси Принз, специалист, занимающийся философией психологии в Городском университете Нью-Йорка, уверен, что нравственный долг может измеряться эмпирически (2). Другие считают, что такой эксперимент способен прояснить тонкости, касающиеся нашей моральной интуиции; и, возможно, помещая исследуемых в аппарат МРТ, когда они рассуждают об этой дилемме, удастся также выяснить, каким образом мы размышляем о дилемме в её различных вариантах. Но что, если эта дилемма является слишком упрощенной, чтобы быть полезной?
Читайте также Моральные ценности как иллюзия: почему наши этические взгляды меняются, когда мы разговариваем на иностранном языке
Вот что Кристофер Бауман, социальный психолог из Университета Калифорнии в Ирвине, предложил вместе с некоторыми коллегами в 2014 году (3). Они были «обеспокоены» этими дилеммами по трем причинам: во-первых, «они забавят, а не отрезвляют»; во-вторых, «они являются нереалистичными и не представляют моральные ситуации, с которыми люди сталкиваются в реальном мире»; и третье — «они не помогают установить лежащие в их основе психологические процессы, как другие нравственные ситуации». Авторы продолжают:
Люди часто насмехаются над тем, что тело толстяка действительно может остановить поезд, спрашивают, неужели на самом деле нет места для рабочих рядом с путями, чтобы отойти, и сомневаются, что кто-то действительно может оценить все важные аспекты ситуации и быть уверенным относительно времени, когда нужно действовать.
В то время как большинство людей не беспокоили присутствующие в дилемме допущения (вам даются условия как сами собой разумеющиеся: например, что, если вы столкнете толстого человека, то он может остановить поезд), некоторых из испытуемых это не убеждало. Так, в работе 2009 года по проблеме вагонетки авторы отмечают, что около 5 процентов респондентов одного исследования и 12 процентов другого обвели ответ: «Описания предыдущих страниц показались мне нереалистичными, и мои ответы отражают мою неспособность серьезно отнестись к описанию, которое было дано» (4).
Углубляемся Моральная удача: как обстоятельства влияют на наши этические оценки
Это объяснение совпадет с результатами исследования 1992 года под названием «The disjunction effect in choice under uncertainty» (6). Это исследование показало, что «неопределенность результатов приводит к менее консеквенциалистским ⓘ Консеквенциализм (от консеквент, лат. consequens — «следствие, вывод, результат») — группа моральных теорий, где критерием нравственной оценки является результат (консеквент) поведения. решениям в неморальных сценариях принятия решений». Кортенкамп и Мур отмечают:
«Эти данные свидетельствуют о том, что при исследовании моральных суждений и рассуждений, касающихся неопределенных ситуаций, факт неопределенности должен быть учтён».
Может быть, просто настало время притормозить с рассмотрением моральных дилемм, таких как проблема вагонетки, со встроенными в них четкими последствиями и принять во внимание более неопределенные ситуации — реальная жизнь полна ими.
Ссылки на исследования
1. Judith Jarvis Thomson, Killing, letting die, and the trolley problem. The Monist/Vol. 59, No. 2, Philosophical Problems of Death (APRIL, 1976), pp. 204-217.
2. Jesse Prinz. Can Moral Obligations Be Empirically Discovered?/Midwest Studies in Philosophy 31(1):271 — 291 · September 2007. DOI: 10.1111/j.1475-4975.2007.00148.x
3. Christopher W. Bauman, A. Peter McGraw, Daniel M. Bartels, Caleb Warren. Revisiting External Validity: Concerns About Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology. Social & Personality Psychology Compass, Forthcoming/Mays Business School Research Paper No. 2015-12.
5. KATHERINE V. KORTENK AMP and COLLEEN F. MOORE. Ethics Under Uncertainty: The Morality and Appropriateness of Utilitarianism When Outcomes Are Uncertain. The American Journal of Psychology/Vol. 127, No. 3 (Fall 2014), pp. 367-382.
Источник: It’s Time to Retire the “Trolley Problem” / Nautil.us
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
Ультимативная моральная дилемма и проблема вагонетки: что мы выбираем?
Можно ли пожертвовать одним человеком ради спасения других? Ответ на этот этический вопрос совсем не прост.
Классическая ультимативная дилемма, которую еще называют проблемой вагонетки: движущийся поезд (вагонетка) грозит пяти людям, привязанным к рельсам. Они могут избежать смерти, если переключить рычаг. Тогда поезд перейдет на другую колею и убьет только одного человека. Пожертвовали бы вы одним, чтобы спасти пятерых (дилемма Switch)? А если вагонетку можно задержать, лишь сбросив другого человека с моста на рельсы, каким будет ваше решение (дилемма Footbridge)? А если поезд перенаправить на дополнительную петлю, где он убьет только одного рабочего, чье тело затормозит поезд, прежде чем тот убьет пятерых (дилемма Loop)?
Эти сценарии кажутся надуманными только на первый взгляд. Но в сфере автономного транспорта это уже почти реальность, очень даже актуальная. Например, когда вы покупаете себе модный электромобиль Tesla, оборудованный автопилотом. Искусственный интеллект, управляющий вашей машиной, должен будет принимать именно такие решения. Защитить водителя или спасти ребенка, внезапно выбежавшего на дорогу? Или пожертвовать им, если взамен удастся спасти нескольких пешеходов? Какое количество пешеходов означает «несколько», чтобы принять именно такое решение?
Исследования показали, что даже люди на эти вопросы не могуть дать однозначный ответ. Обычно при классическом сценарии с вагонеткой большинство считает допустимым перевести рычаг, пожертвовав одним ради спасения пяти человек. Гораздо больше колеблются относительно второго сценария: не так много участников готовы сами перейти к активным действиям и толкнуть человека с моста, даже для того, чтобы спасти остальных. Такая закономерность просматривается везде.
Кроме того, готовность принять то или иное решение зависит от культурных факторов, а также от языка, на котором осуществляют тест. В каждой культуре есть правила относительно того, что правильно или неправильно. Поэтому трудно найти моральные универсалии.
Насколько существенны здесь культурные различия? Важна ли национальность? Чтобы это выяснить, Эдмонд Эвад (Edmond Awad) из Массачусетского технологического института и его коллеги провели масштабное исследовании данной моральной дилеммы. Это было сделано с помощью интерактивных онлайн-сценариев. Задействовали 70000 онлайн-испытуемых из 42 стран и с 10 языковых регионов — то есть анализировали их поведение в двух классических сценариях и в третьем, связанном с первыми двумя.
Реакция в странах Азии выглядела иначе: в Китае, например, нажать рычаг согласилось 58% опрошенных. А сбросить человека с моста — 32%. Вопреки ожиданиям, это подтверждается не во всех азиатских странах: во Вьетнаме, Индии и Сингапуре показатели приближаются к европейским, зато в Китае, Тайване и Японии они значительно ниже.
Чем можно объяснить такое отличие? Ученые предполагают, что реакция на моральную дилемму сильно зависит от так называемой мобильности отношений. Это понятие обозначает, как часто в процессе своей жизни люди вступают в новые отношения — романтические и дружеские — и как легко это происходит за пределами традиционных социальных групп, в том числе семьи и профессионального круга. Мобильность отношений в западных странах выше, а в Китае и Японии — значительно ниже.
«Пока рано утверждать, что существует четкая причинная связь между моральными решениями и легкостью, с которой люди вступают в новые отношения, — сказал Раван. — Однако у нас теперь есть больше свидетельств, что тип личного поведения, которую культивируют в определенной культуре, может влиять на моральную интуицию человека».
Исследование было опубликовано в PNAS в январе 2020 года:
До мышей
Проблема вагонетки на практике
Одна из главных задач философии и психологии морали называется «Проблема вагонетки». Формулируется она так: «Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»
С помощью этой задачи можно отличить сторонников утилитаризма (моральной философии, которая считает, что морально то, что приносит наибольшее количество счастья наибольшему количеству людей, и что ради счастья большинства можно пожертвовать счастьем, а то и жизнью, отдельных людей), от сторонников деонтологии (моральной философии, которая считает, что мораль — это следование высшим нравственным принципам, независимо от последствий, к которым это приводит, то есть «делай, что должен, и будь, что будет»).
Утилитарист переключит стрелку, чтобы спасти пять человек ценой жизни одного. Деонтолог не станет этого делать, так как переключение стрелки будет сознательным убийством невинного человека.
Кроме чисто теоретического аспекта, задача имеет и практический — от её решения зависит, как программировать поведение беспилотных автомобилей в случае возможной аварии.
Проблема вагонетки известна уже более стал лет, и всё это время психологи изучают её на разных группах населения. Но до сих пор все эксперименты были чисто умозрительными — у испытуемых просто спрашивали, как они поступили бы в данной ситуации. И вот теперь, впервые в истории, ученые из университета Гента провели практический эксперимент.
Нет, никаких людей вагонеткой не давили. Сначала испытуемым, как и во время предыдущих исследований, задавали вопросы о том, как они поступили бы в теоретической ситуации с вагонеткой и другими подобными проблемами, где жертвами являются люди. Потом им задавали вопрос, как они действовали бы в следующей ситуации:
После того, как участники отвечали на теоретические вопросы, их действительно отводили в лабораторию, описанную в предыдущем абзаце, где находились две клетки с мышами, подключенные к генератору, и запускали таймер.
На самом деле никаким током мышей не били — всё это было постановкой. Выяснилось, что хотя в теории принципами (а не утилитарными соображениями) руководствовалась примерно треть испытуемых (34% ответили, что не стали бы нажимать кнопку), на деле таких оказалось в два с лишним раза меньше — всего 16% участников эксперимента не стали нажимать кнопку в реальной ситуации, чтобы электрический разряд получила одна мышь вместо пяти. 84% эту кнопку нажали.
Кроме того оказалось, что теоретические ответы оказались никак не связаны с практическими действиями — ученые не нашли значимой корреляции между ответами участников эксперимента о том, как они поступили бы в теоретической ситуации с мышиными клетками, и их действиями в ситуации с реальными мышами.
Этот, последний, пункт кажется мне самым интересным и по-моему требует дальнейших исследований. Такой результат может объясняться тем, что на теоретические вопросы отвечает каннемановская Система 2 (т.е. сознание), а реальные решения в ситуации стресса и ограниченного времени принимает каннемановская Система 1 (т.е. подсознание), и у этих двух систем могут быть разные взгляды на мораль. Но всё-таки сложно так сразу поверить, что реальные действия людей никак не связаны с декларируемыми им принципами и убеждениями, по крайней мере статистически.
Интересно ещё и то, насколько эксперимент с мышами можно считать реальной версией эксперимента с вагонеткой и насколько эти результаты показательны. Я вижу тут три проблемы.
Во-первых, 16 участников из 208 отказались участвовать в реальном эксперименте до или во время его проведения. С моей точки зрения это должно рассматриваться так же, как отказ нажимать кнопку — эти шестнадцать человек тоже не захотели “изображать Бога” и решать судьбы мышей. Поэтому я бы с осторожностью, но предположил, что деонтологов в реальном эксперименте было не 16%, а 22%. В статье, кстати, не раскрывается, как отвечали люди, отказавшиеся участвовать в практическом эксперименте, на теоретические вопросы. Возможно, если бы их действия учитывались как отказ нажать кнопку, это могло бы повлиять на корреляцию (а, возможно, нет — из статьи этого понять нельзя).
Во-вторых, мыши не люди, а к действиям в отношении животным мы всё же применяем не те же самые критерии, что и к действиям в отношении людей. Тем более в отношении мышей, к которым большинство из нас не испытывает никакой эмпатии. Все мыши для нас одинаковые, все люди разные. Понятно, что сейчас не времена Мильграма, и за подобный эксперимент на людях (даже без реальных ударов током) экспериментатора, скорее всего, четвертуют, но мне кажется, что подобный эксперимент было бы логичнее проводить, показывая участникам собак или обезьянок.
UPD Спасибо Алексею Медведеву в ФБ за информацию о том, что подобный эксперимент на людях всё же был проведён, хоть и не учеными, а развлекательным видеошоу, и на очень небольшой выборке — всего 7 человек. Из семи стрелку переключили только двое. Подробности смотрите сами на видео ниже.
Кстати, интересная вариация проблемы вагонетки — когда она приближается к развилке, оператору в рамках стандартной процедуры (когда на путях никого нет) нужно переключить стрелку, чтобы вагонетка свернула на второй путь (где сейчас находится один человек) с первого (где сейчас находится пятеро), потому что в вагонетке находится груз, который там ждут.
Почему наши действия порой расходятся с нашими намерениями
Одно дело — рассуждать, другое — принимать реальные решения. Причины такого поведения активно изучаются психологами, а лучше всего раскрыть несоответствие помогает «проблема вагонетки», которую человек сначала решает в ходе мысленного эксперимента, а потом пробует следовать принятому решению в реальной жизни. В классическом виде проблема вагонетки звучит так:
В одном из любопытных экспериментов, иллюстрирующих тезис о несоответствии слов и действий, три психолога из Гентского университета вместо вагонетки использовали электрошок, а вместо привязанных к рельсам людей — мышей. Участники эксперимента сначала заполнили опросники, в которых указали, как бы они разрешили эту этическую дилемму, а затем по одному вошли в лабораторию, где в электрическую цепь были включены «стрелка», таймер, источник тока и две клетки с мышами, в одной — одна, во второй — пять животных. Таймер был установлен на 20 секунд; по истечении этого времени по клетке с пятью мышами должен был ударить несмертельный, но очень болезненный разряд. нажав на кнопку, участники эксперимента могли направить ток на клетку с единственной мышью. На самом деле по мышам током не били вообще, но подопытные об этом узнавали только после того, как срабатывал таймер.
Участников эксперимента было больше двухсот, ученые постарались сделать выборку максимально правильно: участвовали и мужчины, и женщины, разного возраста, происхождения, с разным уровнем образования. Ученые предположили, что подопытные могут принять их эксперимент за разновидность эксперимента Мильграма (того, в котором люди в белых халатах заставляли участников эксперимента бить током других людей, оценивая склонность подчиняться приказам), поэтому прежде, чем начать, всем объясняли, что дело не в подчинении, и решение можно принимать какое угодно.
Больше всего ученых поразило огромное расхождение между ответами анкет и реальными действиями людей. Заполняя опросники, люди почти всегда склонялись к варианту «навредить меньше», зато в лаборатории почти половина из тех, кто на бумаге решил вмешаться и перенаправить «вагонетку», предпочитали ничего не делать. Это указывает на то, что между принятием решения в реальной жизни и рассуждениями есть большая разница, пишут ученые, и это следовало бы принимать во внимание всем, кто интересуется этическими вопросами. Возможно, отмечают авторы исследования, дело было в том, что в эксперименте решалась судьба не людей, а мышей, которые по понятным причинам вызывают меньше сочувствия; однако, по данным других исследований, между отношением к животным и к другим людям все-таки существует некоторый параллелизм, поэтому отмахиваться от результатов «мышиной вагонетки» не стоит.
Ранее несколько групп ученых (ссылки приведены в работе бельгийцев) пробовали приблизить «проблему вагонетки» к реальности с помощью VR-визуализации, и в этих экспериментах также наблюдалось некоторое расхождение с результатами чистого мысленного эксперимента.