Этика в беспилотном автомобиле: кого нужно спасти в аварии?
Moral Machine Experiment ставит трудный выбор перед 2,3 миллионами человек во всем мире. Несмотря на различия между странами, большинство людей ставят на первое место человеческие жизни.
Исследование, опубликованное в журнале Nature, дало неожиданные и ожидаемые результаты. В среднем респонденты из всех стран предпочли человеческую жизнь животным и предпочли пощадить большее количество жизней или пощадить молодняк. Представьте себе автономный автомобиль, едущий по двухполосному шоссе. Внезапно тормоза выходят из строя. Если он продолжит движение вперед, то столкнется с двумя мужчинами, переходящими дорогу. Если он свернет с полосы движения, он заденет несколько собак. Кого должна выбрать машина для спасения?
Представьте себе другой беспилотный автомобиль, на котором находятся мужчина, женщина, ребенок и собака. Впереди дорогу переходят беременная женщина, пожилая женщина, грабитель, девушка и бедняк. Если тормоза вышли из строя, если транспортное средство решит повернуть, оно врежется в баррикаду, что, вероятно, убьет его пассажиров. Какой выбор он должен сделать?
Эти два являются одними из 13 сценариев, представленных в рамках онлайн-игры The Moral Machine Experiment, в которой 2,3 миллиона человек столкнулись с двумя трудными выборами - адаптацией хорошо известной проблемы с тележкой, которая давно обсуждалась среди специалистов по этике и психологов.
Щелкните, чтобы увеличить изображение. Исследование, опубликованное в журнале Nature, дало неожиданные и ожидаемые результаты. В среднем респонденты из всех стран предпочли человеческую жизнь животным и предпочли пощадить большее количество жизней или пощадить молодняк. По другим аспектам респонденты из разных стран резко разошлись во мнениях. Это наводило на мысль, что выработать универсальный моральный кодекс будет сложно.
«Моральная машина» предназначена для исследования моральных дилемм, с которыми сталкиваются автономные транспортные средства, писали авторы, международная команда из Массачусетского технологического института, Гарвардского университета, Университета Британской Колумбии и Тулузской школы экономики.
Одним из преимуществ беспилотных автомобилей является то, что они смогут реагировать намного быстрее, чем мы, и без предубеждений и инстинктов, которые могли бы помешать нам делать то, что мы считаем правильным, если бы мы вели машину, доктор Азим Шариф, доцент , Университет Британской Колумбии и автор статьи, написали этот сайт . Они [люди] могут позволить себе роскошь обдумывать, а значит, и ответственность обдумывания. С помощью беспилотных автомобилей мы можем запрограммировать их на работу более этичным образом, чем мы ожидаем от людей - со всеми их психологическими ограничениями.
13 сценариев игры требуют от пользователей выбора между действием и бездействием, между экономией большего и меньшего, а также между пассажирами и пешеходами. Сценарии, которые мы использовали в игре, представляют собой идеализации или абстракции, призванные сделать этические компромиссы легко понятными. Чтобы лучше понять предубеждения людей, мы включили параметры, по которым, по нашим прогнозам, могут возникать эти предубеждения: возраст, пол, вес и социальный статус. Наконец, мы включили домашних животных в основном как легкомысленный способ сделать игру более увлекательной. Здесь был небольшой компромисс, когда мы хотели, чтобы игра предоставляла нам серьезные и полезные данные, но чтобы заставить людей выполнять задачу в большом количестве, нам нужно было сделать игру привлекательной, - сказал Шариф.
Индийские участники, по-видимому, в большей степени были склонны спасать пожилых людей и женщин, а не пешеходов, которые следуют правилам или тем, кто имеет более высокий статус. В то время как большинство пользователей с субконтинента демонстрировали схожие этические наклонности, Бангладеш больше походила на пользователей из западных стран. Кроме того, выбор индийцев был наиболее похож на выбор пользователей из Швеции; для пользователей из Пакистана наиболее близким было совпадение с индийскими участниками. По словам Шариффа, различные культурные факторы, по-видимому, влияют на этические обязательства людей, поэтому по мере их изменения мы можем наблюдать изменение этики.
До сих пор только Германия разработала руководящие принципы этического выбора беспилотных транспортных средств. Хотя они действительно ставят человеческие жизни перед животными, они умалчивают о большинстве других ситуаций, таких как спасение молодых жизней или большего количества жизней.
Хотя в Индии беспилотный автомобиль может показаться на некотором расстоянии, авторы надеются, что их эксперимент положит начало разговору. Технология быстро развивается, и прямо сейчас на улицах Соединенных Штатов есть полностью автономные автомобили (хотя все еще в пробной версии) ... Так что, да, скорее всего, эти автомобили будут в Калифорнии и Китае, прежде чем они перейдут в Индию, сказал Шариф. .
Исследование вызвало неоднозначную реакцию. В академических кругах психологи были взволнованы широтой результатов; Охватывая такое большое количество людей во многих странах, исследование дает ценную информацию о культурных различиях и универсальности моральных суждений. Тем не менее, по словам Шариффа, некоторых философов и других ученых раздражает использование аналогов классической задачи о троллейбусах.
Откровенно говоря, я думаю, что они здесь ошибаются и принимают сценарии, которые мы использовали, буквально, но не всерьез, тогда как к ним следует относиться серьезно, а не буквально.
ПОДЕЛИТЕСЬ С ДРУЗЬЯМИ:
