– Добрый день, Иоганн!

– Добрый день, Вилли! Что произошло?

– У нас странное дорожное происшествие. Нужна ваша помощь.

– Погодите, но какое отношение мы имеем к дорожной полиции?

– Иоганн, неужели вы думаете, что я пришел бы к вам с банальной автомобильной аварией? Я умею ценить ваше время и прекрасно понимаю, что у вас масса работы. Однако в данном случае произошел наезд «умного» автомобиля на пешехода. Причем странный наезд.

– А можно подробнее?

– Нужно! По 5-й авеню двигался автомобиль М-450 под управлением искусственного интеллекта. Вы знаете, они начали выпуск таких авто без водителя?

– Да. Я читал об этом, и мы долго спорили на эту тему.

– Ну так вот. Автомобиль на перекрестке 5-й и Короля Георга сбил мальчика, перебегавшего дорогу. Самое интересное, что мальчик уже заканчивал движение. Он начал его явно на зеленый. У автомобиля была возможность избежать столкновения, но при этом была вероятность аварии, в которой мог бы пострадать пассажир. Он отделался бы парой синяков. Однако ИИ выбрал решение спасать пассажира. Мы хотим понять, в чем дело и почему такое произошло.

– Действительно очень интересно. Привезите автомобиль к нам, а наши специалисты посетят компанию. Выясним, почему ИИ принял такое решение.

– Спасибо! Будем ждать!

Прошел месяц.

– Вилли, заедете к нам в гости? Есть новости. Увы, по телефону я не буду их рассказывать. Все не так просто.

Прошел час.

– Добрый день, Иоганн!

– Привет! Я пригласил для беседы конструкторов фирмы-производителя.

– Хорошо, послушаем, что они скажут.

– Итак, господа! Когда мы строили ИИ для управления автомобилем, то в его программу было заложено, что наибольший приоритет – жизнь пассажиров автомобиля. В результате все так и произошло. ИИ защищал своего пассажира и из двух возможных аварий выбрал ту, в которой пассажир бы не пострадал. Увы, мы так и не можем решить моральную проблему «меньшего вреда».

– Но почему вы не рассказали об этом?

– Да потому что иначе нас бы снесли толпы возмущенных граждан. И никто бы не покупал наши автомобили! А ведь мы – коммерческая компания. Нам продавать нужно!

– Но ведь так страдают пешеходы?

– А те, которые в машине – они не люди? Мы не смогли решить этот вопрос. А вы можете? Помогите тогда.

Впервые Иоганн не знал, что ответить.

Я тоже не знаю, что ответить… А вы знаете? Что важнее? Спасти пассажира или пешехода? Или другого водителя?