Mercedes-Benz также работает над автономными транспортными средствами, и вы не можете этому удивляться — немецкий производитель не хочет вдруг, после более чем ста лет присутствия на рынке выпасть из гонки. А оказывается, что его автомобили будут иметь безопасность водителя на первом месте, даже если нужно будет убивать пешеходов.

Эту информацию подтвердил Christoph von Hugo Mercedes — диспетчер отдела, занимающегося именно автономными транспортными средствами, который совершенно справедливо отметил, что специалисты компании, работающие над ИИ пришли к выводу, что в случае сложных, зависящих в значительной степени от факторов случайных ситуациях, как несчастные случаи, вы должны сосредоточиться на спасении жизней, которые, безусловно, удастся спасти,  на водителя и пассажиров, хотя, добавили (и очень справедливо), что прежде всего следует сосредоточиться на полном избегая аварий и 99% всей работы его команда посвящает именно этому вопросу.

Знаменитая дилемма вагончиков в этике ставит нас в такое положение: вагон мчится по рельсам в направлении группы из пяти привязали к ним лиц, а единственное, что мы можем сделать, это перевести стрелку и направить его на другой трек, к которому, в свою очередь, привязан один человек. Должны ли мы это делать? Имеем ли мы на это моральное право? От такие вот дилеммы будут стоять перед автономными автомобилями и их AI.

Потому что представьте себе ситуацию, в которой такой автономный автомобиль несется по автостраде, доходит до столкновения, и он теряет контроль над рулем, единственное, что может сделать, это решить, должен ли он столкнуться с микроавтобусом на борту которого много детей или с мини-фургоном, в котором может находиться вся семья.

В случае, человека за рулем такая ситуация в наибольшей степени зависит от случая и удачи — никто, ибо нет таких рефлексов для того, чтобы понять, с кем ему придется столкнуться, не говоря уже о реакции таким образом, чтобы выбрать одну из потенциальных «целей». Однако компьютер работает гораздо быстрее, и видит больше, а от запрограммированных ему человеком алгоритмов будет зависеть, что в такой ситуации выберет.

Если руководствоваться он будет минимизациею потерь — выберет автомобиль, в котором находится меньше людей? Или придет к выводу о том, что транспорту с детьми меньше грозит в случае столкновения? А если станет перед выбором столкновения с автомобилем на борту которого  люди, что может привести к их травмами или даже смерти и столкновения со стеной, что, в свою очередь, скорее всего, означало бы смерть людей, находящихся в интерьере автономного транспортного средства? Поставит ли  он на жизнь своих пассажиров, за счет жизни других участников движения? А может, он решит, чтобы убить нас, лишь бы спасти других?

Согласно подхода утилитарное транспортное средство должно всегда стремиться к минимизации потерь, а значит, если альтернативой будет убить нас или создание угрозы для большего количества человек, то он выберет первое решение. Однако, если он подойдет к программе по другому то выбор будет иным (в случае приведенного в начале проблемы с вагоном это означает, что может не спасти пять человек а одного который сидит в машине.

И это только начало проблем, потому что если в автобусе едут, например, осужденые, а в другом автомобиле находится молодой брак? Чья жизнь стоит больше? Можно ли легкой руки осуждать на смерть 20 заключенных, чтобы спасти двух невинных людей?

Для прагматиков есть дополнительные два выхода — либо каждый случай будет рассматриваться индивидуально, учитывая все сопутствующие обстоятельства, или же просто всегда решала будет число — компьютер будет решать, чтобы убить два человека вместо двадцати, независимо от того, кем они являются.

Так или иначе, здесь нет легкого выхода, и это проблема, которой просто не избежать, введя автономные автомобили на дороги. Она будет также повсеместной с увеличением количества роботов вокруг нас.

Однако, говорят, что автономные автомобили сократят число несчастных случаев, и это значительно, на целые порядки, поэтому, несмотря на все проблемы этики нельзя их бояться.