
Italian: 
Mettiamo che ci sia un tram un binario.  E che su questo binario ci siano anche delle persone. Il tram sta
viaggiando sul binario e tu sai con assoluta certezza che colpirà queste
cinque persone. Però, di fronte a te c'è una deviazione del binario con sopra un uomo. Di fronte a te c'è uno
uno scambio. Se lo premi, il tram cambierà direzione e colpirà una sola
persona. Se non fai niente, il tram colpirà e ucciderà tutte e cinque le persone. Cosa fai?
Giochi un ruolo attivo ma condanni l'uomo sulle rotaie di sinistra o non fai niente
permettendo a cinque persone di morire?
Questo è un classico esperimento sul pensiero etico.
La maggior parte delle persone è d'accordo nell'usare lo scambio e uccidere il singolo uomo.
Conduce al minor danno possibile e riduce i rischi. Ora, in diverso scenario, immagina di essere su un ponte
sopra il binario e c'è ancora il tram che viaggia sul binario verso le cinque

English: 
Let’s say theres a trolly on some tracks.
On those tracks are five men. The trolly is
barreling down these tracks and you know with
absolute certainty that it will hit those
five men. Although, there is a side track
with one man on it. In front of you is the
switch. If you push it, the trolly will change
directions and strike and kill the single
man. If you do nothing, the trolly will strike
and kill all five men. What do you do? Do
you play an active role but condemn the man
on the left track to death or do you do nothing
but allow five individuals to die? This is
a classic ethics thought experiment. Most
people agree that they should divert the trolley
and kill the one man. It works for the greater
good and mitigates risk. Now in a different
scenario, let’s say you’re standing on
a bridge over the trolly tracks and once again
theres a trolly barreling down towards five

English: 
individuals on the track. Standing next to
you is a man so fat that you know that, if
you were to push him onto the tracks, he would
stop the trolly in its tracks and save the
five individuals. Far fewer people say that
they would push the man in this circumstance
than say they would divert the trolly in the
first circumstance. They are just not comfortable
taking such an active role in the fat man’s
death. These thought experiments are just
hypotheticals and its unlikely that anyone
would ever have to make those decisions, however
ethicists and developers are now having to
create algorithms to dictate what our autonomous
cars of the future should do in similar ethical
conundrums.
Unlike humans, self-driving cars will have
the ability to carefully choose their response
to an oncoming collision, and will need a
set of pre-designated rules to dictate what
they should do in the event of an unavoidable
collision. One thought would just be to tell
the cars to follow the laws. The problem with
this is that there aren’t really laws for
these situations. Many laws are written considering
that ethics is a messy and fluid concept.

Italian: 
persone. Vicino a te c'è un uomo così grasso che
se lo spingessi giù, fermerebbe il tram e salverebbe le
cinque persone. Molte meno persone dicono che spingerebbero l'uomo in questa circostanza,
rispetto a quelle che devierebbero il tram nella prima situazione. Non si sentono a loro agio
nel attuare un ruolo così attivo verso la morte dell'uomo grasso. Questi esperimenti sul pensiero sono solo
ipotetici ed è augurabile che nessuno debba mai prendere tali decisioni, comunque
studiosi di etica e sviluppatori devono creare algoritmi per determinare come le nostre
macchine a guida autonoma del futuro dovranno comportarsi in questi dilemmi etici.
A differenza degli umani, le macchine a guida autonoma avranno l'abilità di scegliere attentamente la loro reazione
a una collisione imminente, e avranno bisogno di un set di regole predeterminate che determineranno
cosa dovranno fare in caso di una collisione inevitabile. Un'dea potrebbe essere di dire
alle auto di rispettare le leggi. Il problema di questa opzione è che non ci sono vere leggi per
queste situazioni. Molte leggi sono scritte considerando che l'etica è un concetto fluido e complesso.

English: 
When judging a situation, one can never really
know what motivated an individual to choose
a certain action, but with self-driving cars,
we will be able to understand the decision
making process. Additionally, following the
laws could be harmful in some situations.
For example, lets say a vehicle is stopped
at a traffic light and there is a pedestrian
in the crosswalk directly in front of the
car. The car detects that a truck is coming
in too fast from behind and will hit the car.
The car cannot move forward without hitting
the pedestrian. There are two options. The
car can do nothing, stay put, get hit by the
truck, and therefore hit the pedestrian in
front or alternatively, the car can move forward,
hit the pedestrian, but avoid being hit by
the truck. From our perspective it probably
seems right for the car to move and hit the
pedestrian, however this would mean that it
was the car injuring the pedestrian now rather
than the truck. This presents tricky legal

Italian: 
Nel giudicare una situazione, non si può mai sapere cosa ha motivato una persona a scegliere
una certa azione, ma con le auto a guida autonoma, saremo in grado di comprendere il
processo decisionale.  In più, seguire le leggi può essere peggio in certe situazioni.
Per esempio, diciamo che un veicolo è fermo a un semaforo e c'è un pedone
sulle strisce pedonali di fronte all'auto.
La macchina si accorge che da dietro
sta arrivando un camion troppo rapidamente e che colpirà l'auto.
L'auto non può muoversi in avanti senza colpire
il pedone. Ci sono 2 opzioni. L'auto può non fare niente, stare ferma, essere colpita dal
camion, e di conseguenza colpire il pedone frontalmente oppure può muoversi in avanti,
colpire il pedone, ma evitare di essere colpita dal camion. Dalla nostra prospettiva, è forse
giusto che l'auto si muova e colpisca il pedone, comunque questo porterebbe a far sì che
sia l'auto a ferire il pedone piuttosto che il camion. Questo evidenzia un problema etico-legale

Italian: 
sul fatto che la colpa dell'incidente al pedone sia dell'auto
o del camion. Con le leggi che abbiamo oggi, è possibile che la colpa
sia attribuita all'auto. Un'altra domanda è di chi è la colpa di un incidente con un auto a guida autonoma.
Considerando che la guida non è umana, è colpa del proprietario del veicolo?
Ammettiamo che il pedone stesse muovendosi abbastanza velocemente da
non essere di fronte all'auto al momento dell'impatto tra l'auto e il camion, ma
per far sì che l'auto possa spostarsi fuori strada prima dell'impatto con il camion
l'auto debba colpire il pedone. È etico per l'auto, ferire il
pedone anche se il pedone potrebbe evitare l'incidente se l'auto non si muovesse?
Dipende dal numero di persone nell'auto? E se nell'auto ci fosse una madre di tre figli
e il pedone fosse un criminale? Farebbe differenza se in auto ci fosse un criminale e
il pedone fosse la madre di tre figli?
È qui che questi dilemmi etici diventano ancor più
complicati. Un'altra scuola di pensiero sostiene che le auto a guida autonoma

English: 
and ethical questions on whether the car is
now at fault for the injuries of the pedestrian
or if the truck is. Given the laws we have
now, it’s possible that the fault would
be laid upon the car. Another question is
who is at fault for an accident with a self-driving
car. Considering that there isn’t a human
driving, is it the owner of the vehicles’s
fault? Now let’s say that the pedestrian
was moving fast enough that he would no longer
be in front of the car at the time of impact
between the truck and the car, but that, in
order for the car to move out of the path
before the time of impact between the truck
and the car, it would need to hit the pedestrian.
Is it now ethical for the car to injure the
pedestrian even though the pedestrian would
likely escape injury if the car didn’t move?
Does it depend on the number of people in
the car? What if the car had a mother of three
and the pedestrian was a felon? Would it be
different if the car had a felon in it and
the pedestrian was the mother of three? That’s
where these ethical questions become even
messier.
Another school of thought is that the self-driving

Italian: 
dovrebbero essere programmate per salvare il maggior numero di vite umane, o causare il minor numero di danni,
e poi ci sono già situazioni risolte in questo modo. Pensiamo a un'altra situazione.
Poniamo che ci siano 2 moto che si dirigono verso l'auto a guida autonoma in una strada che
è troppo stretta per far passare tutti quanti. L'auto non ha abbastanza
tempo per rallentare e non c'è spazionper accostare. Un motociclista ha il casco e
l'altro no. L'auto dovrebbe colpire il motociclista col casco perché le sue ferite potrebbero
essere meno gravi, o dovrebbe colpire il motociclista senza casco perché non
si è protetto adeguatamente? Se le auto fossero programmate per colpire il motociclista con
il casco, questo potrebbe voler dire che sarebbe più sicuro viaggiare senza casco. È
davvero una situazione complessa, e un vero enigma etico.
È molto difficile per gli uomini, spiegare o giustificare le regole che stanno dietro la loro etica,
ecco perché queste situazioni hanno una così difficile risposta. Per questa ragione, una soluzione prevede

English: 
cars should be programmed to save the most
human lives, or cause the least possible injury,
however there are issues with this solution
as well. Let’s think about another situation.
Say there are two motorcycles coming down
towards the self-driving car on a road that
is too narrow for the different vehicles to
pass eachother. The car does not have enough
time to slow down and there is nowhere to
veer. One motorcyclist has a helmet on and
one does not. Should the car hit the motorcyclist
with the helmet on because his injuries might
be less severe or should the car hit the motorcyclist
who does not have a helmet on because he did
not properly protect himself? If cars were
programmed to hit the motorcyclist with the
helmet, that could mean that in a way it would
become safer to ride without a helmet. It’s
a tricky situation altogether, and a real
ethical conundrum.
It’s very difficult for humans to explain
or justify the rules behind our own ethics,
so that’s why these questions are so difficult
to answer. For this reason, a proposed solution

Italian: 
di programmare la auto a guida autonoma è la "programmazione della morale", in breve una programmazione basata su esempi. Al computer
sarebbe presentata una situazione, e un umano, o idealmente una commissione etica, gli direbbe
la soluzione "etica". Nel tempo il computer imparerebbe
come imitare l'etica di un umano, ed essenzialmente prendere la stessa decisione che
prenderebbe un umano. Queste sono tutte situazione molto improbabili
ma visto che è auspicabile una prevalenza di auto a guida autonoma, gli algoritmi
che determineranno gli incidenti possono scegliere il destino di dozzine di persone all'anno. Comunque,
con le auto a guida autonoma si prevede di salvare oltre 30.000 vite all'anno, una volta che si diffonderanno.
Questi principi etici potrebbero diventare oggetto di forti contestazioni nei prossimi anni, comunque se queste discussioni
eviteranno o rallenteranno la diffusione delle auto a guida autonoma, andranno perse molte più vite di quelle
di tutte quelle determinate dai cosiddetti "algoritmi della morte".

English: 
to program self-driving cars is “moral modeling,”
essentially programming by example. The computer
would be presented with a situation, and a
human, or ideally an ethics board, would tell
the computer what the “ethical” solution
would be. Over time the computer would learn
how to emulate the ethics of a human, and
essentially make the same decisions that a
human would make.
These are all situations that are very unlikely
to happen, but with how prevalent autonomous
cars are likely to become, the algorithms
that will determine how to crash could choose
the fate of dozens of lives each year. However,
autonomous cars are predicted to save upwards
of 30,000 lives per year once they are widespread.
These ethics may become a hotly contested
issue in a few years, however if these negotiations
prevent or slow down the spread of driverless
cars many more lives could be lost than would
ever be determined by the so called “death
algorithms.”
