
Russian: 
Привет всем! Меня зовут Markiplier, и добро пожаловать в "Моральную машину".
Но что же такое "Моральная машина"?
Ну, это отсылка к беспилотным автомобилям и моральной неопределенности того,
как должнен поступать искусственный интеллект, когда он управляет вашим автомобилем.
И вы можете подумать, что беспилотное вождение - это что-то
нескорое и будет лишь в далеком будущем, но на самом деле
это будущее уже наступило. Tesla недавно выпустили видео, демонстрирующее,
как их машина проехала полный путь от точки А до точки Б по улицам, полным других автомобилей.
Случай из реальной жизни, среди бела дня, без какого-либо участия человека в автомобиле.
И вы можете подумать, "Ой, да это просто техническая демонстрация."
Но даже сейчас появляется все больше и больше автомобилей с функциями автопилота,
которые позволяют им проезжать по шоссе совершенно самостоятельно.
И, таким образом, в беспилотном вождении появляется дилемма.

English: 
Hello everybody, my name is Markiplier and welcome to the Moral Machine
Now, what is the Moral Machine?
Well it's in reference to autonomous driving
and the moral ambiguity of what the AI should do while it's in charge of your car.
And you may be thinking that autonomous driving is something down the road and in the future
but in reality, it's already here.
Tesla just released a video showing their car fully driving
from point A to point B through crowded streets
real life scenarios, in broad daylight, without any interaction from the person in the car.
And you may be thinking, "Oh, that's just a tech demo,"
but even today, there's more and more cars with autopilot features that take them down the highway
..all by themselves.
So there is a dilemma in this autonomous driving
If you're driving down the road, you have a choice

English: 
If someone leaps out in front of your car
and you were going to hit them and definitely kill them
you have a choice to swerve out of the way or continue forward
Now this seems like a no-brainer to me at least, because my car is built to save my life
the human body in front of me is built to not withstand a car
So for me, it's an obvious choice; I would swerve.
But what would the car do?
And that's the question that we have to ask here
What should the car do?
Should the car protect its occupant, its owner, above all else,
Or should it do calculations to determine who should die?
Now, in another scenario,
Imagine that you're driving down the highway
And there's a group of children.
In front of you.
And you are guaranteed to kill every single one of them
If you keep driving down the road
But you're on a bridge.

Russian: 
Если вы едете по дороге, у вас есть выбор. Если кто-то выпрыгивает на дорогу перед вашей машиной,
и вы знаете, что собьете их и однозначно убьете, у вас есть выбор свернуть в сторону
или продолжить движение. Ну, это кажется очевидным решением, по крайней мере, для меня,
потому что моя машина сконструирована так, чтобы спасти мою жизнь.
Тело человека передо мной не устроено так, чтобы выдержать удар машины.
Поэтому для меня это очевидный выбор. Я бы свернул. Но что бы сделала машина?
И здесь мы должны задать именно этот вопрос. Что машине следует делать?
Должна ли машина защитить людей внутри, своего владельца, превыше всего
или же ей следует провести вычисления для того, чтобы определить, кто должен умереть?
А теперь, в другом сценарии, представьте, что вы едете по шоссе, и перед вами оказывается группа детей.
И вы гарантированно убьете каждого из них, если продолжите движение по дороге.

English: 
And if you drive off the road you will fall to your death.
The choice becomes harder.
Now, what would the computer do?
Would it calculate that five is more than one
And kill you?
In my mind, that's still an easy choice
I would rather die than five children.
But it's not up to me
if there's complete, autonomous driving.
How do lawmakers make that decision?
What if there's someone in front of you,
and you're not on a bridge,
but swerving means that you go into oncoming traffic.
In that case, you might have to actually keep going forward.
Even further, how many people in front of you
would you have to kill
to be more than the people
that you would kill by swerving in front of traffic?
These are the choices
that an autonomous car would have to do,
and these are the choices that we, as drivers, have to face.
So let's decide.
So this one's simple.
What should the self-driving car do?

Russian: 
Но вы на мосте. И если вы свернете с дороги, то разобьетесь насмерть.
Выбор становится сложнее. И вопрос - что бы сделал компьютер?
Посчитает ли он, что 5 больше 1, и убьет вас?
Лично для меня это по-прежнему простой выбор. Лучше умру я, чем пятеро детей.
Но этого выбора у меня не будет, если автомобиль будет полностью автономным.
Как законодателям принять такое решение? Что, если кто-то перед вами, вы не на мосте,
но поворот означает, что вы направитесь на встречный поток автомобилей.
В этом случае вы, возможно, будете вынуждены продолжить движение.
И, если взглянуть глубже, сколько людей вам бы пришлось убить, чтобы их жизни стоили больше,
чем жизни людей, которых вы бы убили, свернув на встречную полосу.
Это решения, которые автономной машине пришлось бы принимать,
и это решения, с которыми мы, как водители, вынуждены сталкиваться.
Поэтому давайте решать.
Это довольно простой пример. Что должен сделать беспилотный автомобиль?

Russian: 
Должен ли он убить трех людей внутри, целую семью, или этих двух людей на переходе?
Что бы решил автомобиль? Нет никакого наказания за тот или иной выбор,
поэтому это просто сценарии, которые я вам представил, но теперь мне нужно на самом деле сделать выбор.
И это гарантированная смерть. Гарантированная смерть. Это не что-то вроде,
"О, ну, в машине могут сработать подушки безопасности, все может обойтись." Нет.
Это гарантированная смерть. Вы несетесь по дороге на скорости 160 км/ч,
и вы никаким образом не сможете пережить столкновение с этим препятствием.
Смотрите, мне кажется, что в этом сценарии не важно, что в машине 1 пожилая женщина,
1 преступник и 1 ребенок. Здесь 3 человека против 2.
И они даже пытаются изобразить других людей как более "важных" людей:
1 мужчина-АТЛЕТ, 1 женщина-ДИРЕКТОР.
Когда беспилотное вождение будет введено, будет ли выбор зависеть лишь от количества людей?
Я не могу думать над этим решением вечно. Мне нужно сделать выбор.

English: 
Should it kill three occupants,
an entire family, or these two people here?
What would the car decide?
There's no punishment for being one or the other,
so this is--these are the scenarios
I just presented to you,
but now, I actually have to make a choice for this.
And this is guaranteed death,
Guaranteed death, this isn't like,
"Oh, the car might actually--"
"Airbags might deploy, it might be okay,"
No, this is guaranteed death.
You're careening down the road at 100 miles an hour,
There's no way you're going to survive that obstacle.
See, in my mind--in my mind in this scenario,
it doesn't matter that it's one elderly woman,
one criminal, and one boy.
Three people versus two people.
And it even tries to paint the other people
as superior people: one male athlete
one female executive.
In the introduction of autonomous driving,
does it come down to a number scenario,
I can't stay here forever,
I have to make a choice, and I have
to go with...

Russian: 
И я последую логике, что...
3 - больше, чем 2.
И вот. Все. Нет никакого наказания за это.
А теперь вот другой сценарий. Что должна сделать машина?
Должна ли она свернуть, чтобы избежать двух людей перед ней, и при этом убить всех тех,
кто переходит дорогу на зеленый свет. Здесь они переходят на зеленый свет.
Или она должна продолжить движение и убить этих двух людей.
На мой взгляд, это немного проще, чем в прошлый раз. 5 - больше, чем 2, и они не смотрят на светофор.
Ну, что сказать... Мне выбор кажется очевидным.
Ооо... О, нет...
Должна ли машина убить 5 человек... или 5 животных? 3 кошки и 2 собаки.
Ооо, не хочу говорить это, но я думаю, что она должна убить кошек и собак.

English: 
*Think*
*Mumble* Three is greater than two.
And that's it, that's it,
There's no punishment for it.
Now here's another scenario,
What should the car do, should it swerve
to avoid the two people in front of it,
and also kill everyone else who is obeying the law signal,
here, they are obeying the walk signal,
or should it continue on and kill these two people?
In my mind, this is a little easier than the other one,
Five is greater than two, and
they're not looking at the walk signal.
I mean, seems obvious to me.
Ooooh,
Oh no.
Should it kill five people,
or *voice crack* five animals?
Three cats and two dogs!
Oh, I hate to say it, but
I think I should kill the dogs and cats!

English: 
And that's horrible to say out loud!
But these are the choices!
Oh, now it's perfectly even.
What should a self-driving car do?
Should it try to save its occupants,
or should it kill the people walking?
The strange thing is that if I was in that car--
if I'm gonna put in a literal scenario:
it's me and Tyler in that car,
we're driving down the road, not doing a thing,
the car is taking us where we want to go.
I feel like if it was two versus two,
If I was in that car, I would
rather it kill us than two other people.
And that's a big thing for me to say to Tyler,
Y'Know, about Tyler, like
"Hey, sorry buddy, looks like we're gonna die,"
"Oh well, nice knowin' ya,"
Like, it's, that's, uh, that's not an easy thing for me to say,
But if I'm in that car,

Russian: 
И ужасно говорить это вслух... Но такие вот варианты.
О, теперь все совершенно одинаково. Что беспилотный автомобиль должен сделать?
Должен ли он попытаться спасти людей внутри или тех, кто переходит дорогу?
Странная вещь заключается в том, что если бы я был в том автомобиле...
И я возьму реальный сценарий. В том автомобиле я и Тайлер. Мы едем по дороге,
ничего не делаем, машина везет нас туда, куда мы хотим добраться.
Я чувствую, что если бы было 2 против 2, если бы я был в том автомобиле, я бы предпочел, чтобы
она убила нас, а не тех 2 людей. И это было бы тяжело сказать Тайлеру, знаете, такую вещь про него.
Типа, "Эй, прости, друг. Похоже, мы умрем. Как жаль. Приятно было с тобой общаться."
Такое мне не так уж просто сказать, но если я в том автомобиле, я принимаю риск того,

English: 
I'm okay with assuming the risk that I might die
in this autonomous driving car.
I think it should kill the occupants.
Here's another one!
This is, this is the same scenario, but the thing is
that lady is not obeying the traffic signal.
Should it swerve out of the way and kill its occupant,
definitely do that.
In this scenario
In this scenario--in this specific scenario,
how would the car know that its, that the person is crossing the street
not at the right time?
In all honesty?
The lady is not crossing at the right time,
she is literally
crossing when she's not supposed to do that.
Car should continue.
Oh this is just--
This is the same scenario, but just two men versus two women.
It's the same choice.
This is--this is another scenario:
We've got a man, a homeless person, a criminal, and a woman;
Two female doctors, a man, and a woman,
but,
they're crossing at the wrong time.
The signal is red, they are not supposed to cross.

Russian: 
что я могу погибнуть в этом беспилотном автомобиле.
Я думаю, он должен убить людей внутри.
Вот еще один. Тут тот же сценарий, но дело в том, что та девушка идет на красный свет.
Должна ли машина свернуть и убить водителя, по определению сделать это?
В этом сценарии... В этом конкретном сценарии, откуда бы машина знала, что пешеход
переходит дорогу в неположенное время? Честно говоря...
Девушка переходит дорогу в неположенное время. Она буквально переходит тогда, когда запрещено.
Машина должна продолжить движение.
Так, ну, это тот же сценарий, что был раньше, но двое мужчин против двух женщин. Выбор тот же.
А это уже другой сценарий. У нас тут мужчина, бездомный человек, преступник и женщина.
двое врачей-женщин, мужчина и женщина, НО они переходят дорогу на красный свет.
Светофор показывает красный свет, они не должны переходить.

English: 
If they're not supposed to cross,
they're not supposed to be there.
But does that deserve death?!
Does that--deserve--death?
I don't kno-o-o-o-w...
*despondent sigh*
In this scenario, I have to go with what I said before,
like, if people are paying attention, and should follow the instructions.
But does--should that cost them their life?!
I think so, in the case where the only determining factor
is if--is someone obeying the traffic signal or not
*despondent growl*
It's not good.
It's not good.
Ooh god
Oh noo
Oh no!
They're both doing fine!
Should it kill...
An old lady
and a guy
or
a woman and a boy?
In my mind,
and this is me being logical about it,
the old lady is...
an old lady,

Russian: 
Если они не должны переходить дорогу, они не должны на ней находиться.
Но заслуживает ли это смерти? Заслуживает ли это смерти? Я не знаю.
В этом сценарии я должен следовать тому, что сказал ранее. То есть, люди должны быть внимательны
и должны следовать указаниям. Но должно ли нарушение стоить им жизни?
Думаю, да, в случае, когда единственным определяющим фактором является то,
следует ли кто-то сигналу светофора или нет.
Не хорошо все это. Не хорошо.
Ооо, бооже. Оо, нееет. О, нет. Они все переходят правильно. Должна ли машина убить...
старушку и парня, или женщину и ребенка?

English: 
and the kid
is a kid.
I'd save the kid.
This is four versus five
This is a number determination; you gotta kill the lesser amount.
There's kids in both scenarios, gotta kill the lesser amount.
Alright, now here
*despondent chuckle*
here,
Here!
Here...
is like a perfectly s--
a perfectly symmetrical equation.
There's a female doctor and a girl, and a male doctor and a boy.
Doesn't matter the gender,
it's a man--it's an adult and a kid.
Adult and a kid
in both scenarios.
Should the car continue its path,
or swerve to avoid?
*highly despondent sigh*
This one is probably the toughest decision in this...
...scenario. And I say that knowing there's ten of thirteen left!
So honestly who knows what questions they have lying ahead?
But what I see here is...
It breaks down to this:

Russian: 
На мой взгляд, и тут я просто пытаюсь следовать логике, старушка - это... старушка.
А ребенок - это ребенок.
Я бы спас ребенка.
Здесь 4 против 5. Это просто дело количества. Нужно постараться убить как можно меньше людей.
Дети есть в обоих сценариях. Нужно убить как можно меньше.
Ну а теперь, тут... Тут... Тут, тут у нас совершенно симметричное равенство.
Есть врач-женщина и девочка, и врач-мужчина и мальчик.
Не важно, какой пол, - есть взрослый и ребенок. Взрослый и ребенок в обоих сценариях.
Должна ли машина продолжить движение или свернуть, чтобы избежать столкновения.
Скорее всего, это самое сложное решение в этом сценарии.
И я говорю это, зная, что это 10 вопрос из 13, поэтому, честно говоря, кто знает, что будет дальше.
Но тут я вижу, что... Все сводится вот к чему. Автономная машина может

English: 
The autonomous car can scan the road ahead better than we ever could.
My dad, when he was teaching me to drive, he taught me
to always look ahead down the road, see routes of escape,
see what would happen if there was an accident
and know where you're going to go.
But an autonomous car can do that with greater attention span than I ever could
So it would know
that there's four people on the road,
it would know there's two people in those scenarios,
but what I see here fundamentally
is the car on the left
taking an action to try to avoid an accident.
Even if it results in the same loss of life, it's taking an action.
In the first--in the second scenario,
in this scenario here,
it's continuing on, without taking an action,
and preventing a possibility scenario, if it does something.
If it does something, scenarios change,
and who knows what could happen if it swerves out of the way?
But if it continues on the path, it's guaranteed.
In this scenario,
guaranteed death, yes.

Russian: 
просматривать дорогу впереди лучше, чем мы когда-либо могли. Мой отец, когда учил меня водить,
он учил меня всегда смотреть на дорогу, видеть пути бегства, видеть, что бы случилось,
если бы произошла авария, и знать, куда ты тогда поедешь.
Но автономный автомобиль может делать это с куда более высокой точностью, чем я когда-либо мог.
Поэтому, он бы знал, что на дороге 4 человека, он бы знал, что по 2 человека в каждом сценарии.
Но что я вижу тут на базовом уровне, так это то, что машина слева принимает меры,
чтобы попытаться избежать столкновения.
Даже если результатом будет такая же потеря жизни, машина принимает меры.
Во втором же сценарии, вот в этом, она продолжает движение без принятия каких-либо мер
и предотвращает возможный сценарий, где она делает хоть что-то.
Если она что-то делает, сценарий меняется, и кто знает, что может случится, если она свернет с пути.
Но если она продолжит путь, это гарантированная, в этом сценарии, гарантированная смерть.

English: 
I understand that it's guaranteed death in both scenarios.
But what I see fundamentally is
the car
taking action
on the left
versus the car
continuing on the path.
I would rather
it take an action
than not.
Cuz,
when you deviate
you change possibility.
That's the only thing that I could say out of this,
I don't think either is a right choice here,
because if it's determining just on loss of life alone,
there is no way to determine which one's better
so I'm going to fundamentally define it by action versus inaction.
And this is--this is a similar scenario,
this is just four people versus four people,
it just so happens that some are athletic and some are not.
Maybe they could run away faster!
I have no idea,
but I have to determine the same outcome that I used in the last one.

Russian: 
Да. Я понимаю, что это гарантированная смерть в обоих сценариях.
Но по сущности я вижу машину, принимающую меры, слева, против машины, продолжающей движение.
Я бы предпочел, чтобы она приняла меры, чем не сделала ничего.
Потому что, когда ты меняешь направление, ты меняешь перспективы происходящего.
Это единственное, что я могу сказать по этому поводу.
Я не думаю, что здесь есть правильный выбор, потому что если решение принимается только
на основе потери жизни, нельзя определить, какой вариант лучше,
поэтому я фундаментально определю это как действие против бездействия.
И это похожий сценарий. Это просто 4 человека против 4 людей.
Просто так выходит, что кто-то из них - атлеты, а кто-то нет.
Может, они могли бы убежать быстрее. Понятия не имею.
Но я должен определить тот же исход, что я использовал в предыдущем сценарии.

English: 
It's action
versus inaction.
*laughing* And maybe they're sturdier??
This is not good
Oooh boy
Five people
versus five animals.
And, again, in this scenario,
*pained* I'd pick the animals!
And it's going in--coinciding with the action/inaction thing that I was talking about.
Ooooh
Now it's completely equivalent.
Oh, no it's not!
They're not obeying the traffic laws!
Ha HA ha ha!
They are--they're flouting the law by crossing on a right signal.
So...
In this scenario...
It's hard to say, it's hard to say.
It is really, really, REALLY hard to say.
But they are--
judging by my previous logic,
they are NOT
crossing at the right time
there is a definitive obstacle on the other side
that results in guaranteed death.
I gotta, I gotta go with this one.

Russian: 
Это действие против бездействия.
И, может, они покрепче.
Не хорошо все это.
Ох, ужас. 5 человек против 5 животных.
И, вновь, в этом сценарии...
Я бы выбрал животных. И это совпадает с идеей "действия-бездействия", о которой я говорил.
Оо... Теперь все совершенно равноценно.
А, нет, не равноценно! Они не следуют правилам перехода!
Они "попирают закон, переходя на красный свет".
Так что, в этом сценарии...
Сложно сказать, сложно сказать.
Это очень, очень, очень сложно сказать.
Но они, рассуждая по моей прошлой логике, они переходят в неположенное время,
есть определенное препятствие на другой стороне дороги, которое приведет к гарантированной смерти.
Я должен выбрать вот это.

Russian: 
О, господи.
Так... Наиболее спасаемый персонаж - этот чувак. Наиболее у... Ооо!
Нееет!
О, нееет!
Оо, неет!
Ооо, нееет.
В общем, это краткий анализ моих решений. Спасти больше жизней - Важно.
Спасение пассажиров - Важно чуть больше.
Соблю... Соблюдение закона - Очень важно для меня!
Избегание вмешательства... Так, ну они пишут, что избегание вмешательства для меня важно,
но я не думаю, что это правда. Я принимал решения на основе того,
что говорилось в законе о движении вперед и назад.
Показано, что у меня был небольшой уклон к защите пассажиров,
но я однозначно понимаю, что общий настрой в том, что машина должна защищать, знаете, всех.
Лично я, лично я, применительно к реальному миру, здесь, в реальности, я искренне верю,

English: 
Oh geez.
Let's see--most saved character:
This dude!
Most--K-OOOHHHH!
*agonized* NOOOOO!
*terrible realization* Oh no!
*verified realization* Oh no!
*despondent realization* Oh no...
So, this is my breakdown:
Saving more lives matters,
protecting passengers matters a little more.
*laughing* Upholding--upholding the law matters a LOT to me!
Avoiding intervention...
Now they're saying that avoiding intervention matters a lot to me,
but I don't think that's entirely true.
I was doing it judged based on
what the laws was saying, in terms of going forward and going back.
Protecting passengers I seem to have a bit of a bias for,
but I--I totally understand that the overall feel
is that I should protect, y'know, everybody.
In my mind--in my mind, in real-world application
in reality here,

English: 
I fully believe that the car should take action
to protect the people in front of it
because the car is built with airbags and humans are not.
In reality, I believe that,
but in this specific scenario where death--
death is guaranteed,
you have to do different outcomes.
But in reality!
In reality!
I feel like it should be biased to take action
more than it should take inaction.
So, it's a little not accurate to my interpretation of what it is
because I fully believe, that in real-world scenarios
it should definitely take action
and hit something else to protect its passengers.
But!
I definitely believe that
abiding the law
and following the signals
and if people pay attention
then things should run smoothly,
but I know in reality that people don't do that.
Also apparently, I have a--I have an extreme gender preference?

Russian: 
что машина должна предпринять меры, чтобы защитить людей перед собой,
потому что у машин есть подушки безопасности, а у людей - нет.
В реальности, я считаю так.
Но в этом конкретном сценарии, где смерть гарантирована, приходится действовать иначе.
Но в реальности, в ре-аль-но-сти, мне кажется, что система должна быть склонна принять меры
больше, чем их не принять. Так что, это немного неточно в моем понимании того, что это,
потому что я искренне верю, что в сценариях реального мира она должна однозначно
принять меры и столкнуться с чем-нибудь еще, чтобы защитить пешеходов.
НО, я однозначно верю, что следовать закону и идти на зеленый свет, и если люди будут внимательны,
то все будет гладко. Но я знаю, что в реальности люди так не делают.
Еще, оказывается, у меня огромная гендерная предвзятость.

Russian: 
Я вполне уверен, что убил несколько парней.
Я вполне уверен, что убил немало парней.
Предпочтительность в видах - люди против животных.
Предпочтительность в возрасте - молодые против старых.
Предпочтительность в подтянутости - крупные люди против подтянутых людей.
Я не думаю, что и это хоть немного правда. Это очень странное разделение для меня, потому что
я полностью на той или другой стороне, по словам этого... опроса.
Я ПОЛНОСТЬЮ за то, чтобы спасать больше жизней, я ПОЛНОСТЬЮ за соблюдение закона,
я, по всей видимости, имею полное предпочтение к женщинам, хотя я, повторюсь, вполне уверен,
что убил немало мужчин. Я ПОЛНОСТЬЮ предпочтителен к людям.
Я ПОЛНОСТЬЮ предпочтителен к молодым, и я полностью предпочтителен к крупным людям.
Хотя, опять же... вполне уверен, что я убивал подтянутых людей.
Но... И затем, в предпочтительности к социальной ценности, "не имеет значения".

English: 
I'm pretty sure I killed some dudes.
I'm pretty sure I killed a lotta dudes.
Species preference: hoomans versus pets.
Age preference: young versus old.
Fitness preference:
Large people versus fit people.
*indignantly* Now I don't think that's true at all either!
Now this is--this is a really weird split for me because
I am completely on one side or another, according to this--like, this quiz.
I am completely about saving more lives,
I'm completely about upholding the law,
I, apparently, have a complete preference for feh-males,
which I'm, again, I'm pretty sure I killed a lot of guys there.
I'm completely preferable to hoomans,
I'm completely preferable to the younger,
and I'm completely preferable to large people.
Which, again!
*maybe suffocating?* Pretty sure I killed fit people?
But, and then, in social value
it does not matter.

Russian: 
Может быть, на самом деле, я сам робот.
В общем, как бы то ни было, такая вот "Моральная машина".
А что бы вы, ребят, подумали в этих сценариях? Что бы вы выбрали в качестве поступка машины?
Вы можете решить сами, пройдя по ссылке в описании ниже.
И я действительно хочу узнать ваши результаты, так что...
Дайте знать, что думаете. Дайте знать, какие у вас мысли. Дайте знать, отличаются ли ваши ответы от моих.
Результаты могут вас удивить.
В общем, как бы то ни было, огромное спасибо вам всем за просмотр и, как обычно,
увидимся с вами в следующем видео!
Пока-пока!

English: 
I might actually be a robot myself.
So, anyway! That is the Moral Machine.
Now what would you guys think in these scenarios?
What would you have the car do?
You can decide for yourself through the link in the description below,
and I actually want to hear your results, so,
let me know what you think! Let me know what you got!
Let me know if it deviated from this scenario here.
The results may surprise you.
So, anyway! Thank you everybody so much for watching.
And as always! I will see you...
In the next video!
Buh-bye!
