
Spanish: 
Imagina disponer de un vehículo autónomo
que elimine el 50% de los accidentes.
Sería increíble, ¿a que sí?
Llevamos años soñando con vehículos
autónomos e incluso voladores.
Con cómo alterarían
la forma de moverse en las ciudades.
Según lo que cuenta la industria,
ya no se trata de un sueño
y es que estamos ante una revolución.
Si, mañana, en Manhattan
todos los coches fueran autónomos
la ciudad funcionaría con el 50% de coches
de los que se usan hoy.
Los robots más presentes en nuestras vidas
no tienen ni dos brazos, ni dos piernas
sino cuatro ruedas.
Robots, conectados permanentemente
a través del 5G.

French: 
Imaginez que nous ayons ici une voiture
autonome qui élimine 50% des accidents.
C'est merveilleux, non ?
Nous rêvons de conduite autonome
et de voitures volantes depuis des années.
De la façon dont elles modifieront
les déplacements en ville.
Si l′on en croit l′industrie,
ce n′est plus de la fiction...
et nous sommes à la veille
d'une révolution.
Demain, s′il n'y avait que des voitures
autonomes dans tout Manhattan...
juste en améliorant la répartition,
on aurait 50% des véhicules actuels.
Les premiers robots de notre quotidien
n'ont pas deux bras et deux jambes...
mais quatre roues.
Des robots qui communiquent
en permanence via la 5G.

French: 
Ils deviennent de plus en plus autonomes
grâce aux systèmes d′auto-apprentissage.
Ces données sont très précieuses ;
tout le monde saute dessus.
Les voitures serviront de chevaux de Troie
afin de mettre la main sur les données.
Le monde numérique
entre dans notre environnement physique.
Cela va-t-il améliorer la mobilité
ou conduire à encore plus de voitures ?
Et qu'adviendra-t-il de nos données
et de notre vie privée cette fois-ci ?
Devrions-nous laisser la technologie
régner en maître dans la ville ?
Ou est-ce le moment
d′établir des conditions ?
Si vous êtes encore naïf à ce stade, les 25
dernières années ne vous ont rien appris.
Voici Backlight,
le choix de votre nouvelle voiture
Des voitures intelligentes
qui ne causent plus d'accidents.

English: 
This data is incredibly valuable
so everyone is jumping on it.
Cars will be used as Trojan horses
to get their hands on data.
If you're still naive now, you have
learned nothing from the past 25 years.

Spanish: 
Van adquiriendo más autonomía
gracias al aprendizaje automático.
Es una información muy valiosa
y, por eso, todos la quieren.
Usarán los coches como caballos de Troya
para poder acceder a esa información.
El mundo digital
ya es parte de nuestro entorno físico.
¿Mejorará la movilidad
o conllevará la fabricación de más coches?
¿Qué ocurrirá esta vez
con nuestros datos y nuestra privacidad?
¿Debería la tecnología
tener libre albedrío?
¿O es el momento
de establecer unas normas?
Si sigues sin estar alerta, no
has aprendido nada en los últimos 25 años.
Esto es Backlight,
por la elección de tu coche nuevo.
Coches inteligentes
que ya no provocan accidentes.

French: 
On peut se les partager
et elles trouvent elles-mêmes où se garer.
Cela libérera l'espace occupé aujourd'hui
par les voitures.
Les entreprises technologiques disent
que les transports intelligents...
peuvent rendre la ville
plus attrayante que jamais.
Aujourd'hui, la voiture est un élément
d'infrastructure urbaine inefficace.
Aujourd'hui, une voiture aux USA
est utilisée en moyenne 5% du temps.
Dans 95% des cas, on ne l'utilise pas
mais elle occupe un espace précieux.
Carlo Ratti, designer, collecte des données
de différentes villes du monde...
pour connaître la ville et la concevoir
d'une nouvelle façon.
Au MIT Senseable City Lab,
il étudie avec ses étudiants...
comment la technologie et les données
peuvent rendre la ville plus agréable.
Quand vous regardez les villes,
que voyez-vous ?
Je pense
que ce qui est le plus intéressant...

Spanish: 
Se pueden compartir
y encuentran aparcamiento solos.
Así, recuperamos el espacio que los coches
ocupan en las ciudades hoy en día.
Las empresas afirman que los sistemas
de transporte inteligente
darían a las ciudades
un atractivo innegable.
Hoy, un coche es una parte poco eficiente
de la infraestructura urbana.
Un coche en los Estados Unidos
se usa una media de un 5% del día.
El otro 95% del tiempo no se le da uso
y ocupa un espacio valioso en la ciudad.
El diseñador Carlo Ratti reúne información
de distintas ciudades del mundo
para así conocerlas
y rediseñarlas de una forma diferente.
Investiga, junto a sus alumnos,
el proyecto "Senseable City Lab" del MIT
cómo usar tecnología y datos para hacer
más atractivas y habitables las ciudades.
Cuando miras ciudades, ¿qué ves?
Yo creo que una de las cosas
más interesantes de ver en una ciudad

Spanish: 
son cómo se mueven e interaccionan
las personas. Esa es la clave.
También, cómo nos conocemos,
las redes y conexiones que creamos
es una de las cosas más emocionantes
que estamos estudiando.
Hoy, por primera vez, tenemos un mapa
hecho con todas la conexiones que creamos.
Por fin, podemos observar la vida
en la ciudad y no solo la forma física.
Por ejemplo, con coches autónomos,
has de saber dónde están
y se pueden crear
carriles virtuales en la ciudad.
Por las mañanas, podrías tener
una calle así, lleno de coches y carriles.
Pero, la misma calle, horas más tarde,
con menos gente, podría ser así.
Un lugar donde la gente
puede jugar y divertirse.
Por la noche,
podría ser un lugar para dar una fiesta.

French: 
ce sont les gens et comment
ils se déplacent et se rencontrent.
La façon dont on se rencontre,
le réseau de connexions que l'on crée...
sont parmi les choses
les plus passionnantes à étudier.
Aujourd'hui, pour la première fois,
nous pouvons regarder la carte...
composée de toutes les connexions
que nous créons en vivant ensemble.
Nous pouvons observer la vie dans la ville
et pas uniquement la forme physique.
Par exemple, si on a beaucoup de voitures
autonomes, il faut savoir où elles sont...
et on peut créer des voies virtuelles.
On peut avoir une voie comme ça. Le matin,
on a beaucoup de voitures et de voies.
La même rue, quelques heures plus tard,
avec moins de monde, ressemble à ça.
Un endroit où les gens
peuvent jouer et s'amuser.
Le soir, on peut y faire la fête.

French: 
Une des choses intéressantes est que
nous avons de plus en plus d'autonomie...
et de plus en plus
de systèmes de mobilité intelligents.
Nous pouvons reprogrammer la rue.
La même rue peut devenir autre chose...
et cela devient
un espace public plus dynamique.
Peut-être que nous pouvons prendre
une partie de l'espace...
dont nous n'aurons peut-être pas besoin
demain pour les voitures...
pour le transformer
en un espace utilisable par la communauté.
Donc, nous avons commencé avec les données
de la commission des taxis et limousines.
Mike Bloomberg, ancien maire de New York,
a mis ces données à notre disponibilité.
Je me souviens que son bureau de maire
avait un petit panneau qui disait :
"Dieu a notre confiance,
les autres fournissent des données."
Il a pris des ensembles de données
et les a rendues accessibles.

Spanish: 
Una de las cosas más interesantes es
que cada vez tenemos más autonomía
y más sistemas de movilidad inteligentes.
Podemos reprogramar las calles.
La misma calle cambiaría de función
y tendríamos espacios más dinámicos
y aprovechar esos espacios de coches
y aparcamientos que no necesitemos
y convertirlos en un espacio
que la comunidad pueda usar.
La información con la que empezamos fue
la de la comisión de taxis y limusinas.
Pudimos acceder a ella gracias
a Mike Bloomberg, exalcalde de Nueva York.
Recuerdo que en su oficina
tenía un pequeño cartel que decía:
"Creemos en Dios,
los demás que aporten datos".
Cuando era alcalde, reunía información
y la ponía a disposición de la gente.

French: 
Je pense que c'est très important.
Il s'agit de démocratiser les données...
de savoir comment utiliser les données
pour mieux connaître notre environnement.
Nous avons commencé avec les données
nous informant sur les taxis de New York.
On voit tous les trajets
de tous les taxis.
Ce sont les données que l'on a commencé
à analyser pour poser nos questions :
combien de trajets peut-on partager,
quelle est la meilleure répartition ?
On appelle ça
le problème de la flotte minimale.
Prenez Manhattan. Vous voulez
que Manhattan soit toujours fluide.
Combien vous faut-il de taxis au minimum
pour y parvenir ?
Beaucoup de gens vont en fait
dans la même direction.
Donc partager un taxi est une bonne idée.
Pour lui, la solution réside
dans les taxis robotiques autonomes.
Cela réduira à la fois le nombre
de voitures et le coût par trajet.
Les conclusions sont intéressantes :
aujourd′hui, le système est inefficace.

Spanish: 
Creo que democratizar datos
es muy importante.
Se trata de cómo usar esa información
para aprender más sobre nuestro entorno.
El grupo con el que empezamos mostraba
los datos de los taxis de Nueva York.
Veíamos el inicio
y el final de trayecto de cada taxi.
Empezamos a analizar esa información
para poder formular preguntas.
Como: ¿Cuántos viajes podemos compartir?
¿Cómo podemos repartirnos mejor?
A esto lo llamamos:
"El problema de la flota mínima".
Pongamos Manhattan.
Imagina que quieres que siga funcionando.
¿Cuál es la flota mínima
que se necesita para conseguir eso?
Resulta que mucha gente
en Manhattan va hacia el mismo lugar
por lo que tiene más sentido
que compartan taxi.
La solución está
en los taxis-robot autónomos.
Esto reducirá el número de coches
y el coste por trayecto.
Descubrimos que hay
muchas ineficiencias en el sistema

English: 
Transport will become
like running tap water.
It does cost a bit of money
but we don't know how much exactly.
We don't think: This is expensive,
I'll put less in my glass.
That's how cheap transport will become,
like tap water.

Spanish: 
pero si, mañana, en Manhattan,
todos los coches fueran autónomos
con un reparto mejor, habría un 50%
de los coches que se usan hoy.
Carlo van den Weijer ayuda a desarrollar
alternativas de movilidad inteligentes.
Está convencido de que los centros
de las ciudades no son para coches.
Pero también de que los coches
son cada vez más cómodos y baratos.
El transporte será como un grifo abierto.
Cuesta dinero,
pero no sabemos cuánto exactamente.
No pensamos: "Esto es caro,
me voy a echar menos agua en el vaso".
El transporte barato acabará siendo
como el agua del grifo.

French: 
Mais demain, s′il n'y avait
que des voitures autonomes...
en améliorant la répartition, on n'aurait
besoin que de 50% des véhicules.
Carlo van de Weijer développe
des options de mobilité intelligente.
Il est convaincu que les voitures
devraient être bannies des centres-villes.
Mais il réalise aussi que les voitures
sont plus confortables et moins chères.
Ça deviendra aussi facile
qu'ouvrir un robinet d'eau.
Cela coûte un peu cher
mais on ne sait pas combien exactement.
On ne se dit pas : "C'est cher,
je vais moins remplir mon verre."
Les transports seront peu onéreux,
comme l'eau du robinet.

Spanish: 
En un coche autónomo no tienes
que preocuparte de cuándo arrancar.
El coche ya lo sabe.
No es tan difícil.
Será muy útil en la ciudad
con los atascos.
Sabe cuándo hay que girar.
No es nada difícil.
Me voy a acercar más
o no pondré el intermitente.
Es una prestación bastante cómoda.
Es genial que el coche pueda adelantar
en un atasco o en un semáforo.
Ya no podría vivir sin esta prestación,
pero esta prestación tampoco sin mí.
Tienes que ser capaz de intervenir,
hace cosas raras a veces.
Como al adelantar un camión,
si se mueve un poco, el coche frena.
Tienes que prestar atención
para evitar eso o podría ser peligroso.
El coche autónomo podría volverse
más popular y no al contrario.

French: 
Avec une voiture autonome, vous n'avez pas
à vous inquiéter de la conduite.
La voiture sait faire.
Ce n'est pas si difficile.
C'est très utile en ville,
avec tous les embouteillages.
Elle sait où il faut tourner.
C'est facile.
Je vais me rapprocher un peu,
sinon je ne passerai pas le feu.
C'est une fonction très agréable.
C'est bien que la voiture puisse décider
dans un embouteillage ou à un feu.
Je ne pourrais plus me passer de ça.
Mais ça ne marcherait pas sans moi.
On doit pouvoir intervenir.
Elle fait parfois des bêtises.
Par exemple, lorsque je double un camion
qui part légèrement à gauche, elle freine.
Il faut être capable de réagir,
sinon ce serait dangereux.
La voiture pourrait devenir plus populaire
au lieu de l'inverse.

English: 
With a self-driving car you don't have
to worry about when to start driving.
The car knows. It's not that hard.
It's very useful in the city,
with all the traffic jams.
It recognises the turn.
That's not hard.
I will get a bit closer
or I won't make the light.
It's a very comfortable feature.
It's nice that the car can overtake
in a traffic jam or at a light.
I couldn't go without this feature now,
but it couldn't go without me either.
You have to be able to intervene.
It does silly things sometimes.
Like when I overtake a truck which
then goes slightly left, it hits the brake.
You have to be ready to prevent that,
or it would be dangerous.
The car could become more popular
instead of the other way around.

Spanish: 
Para empezar, sería barato.
El mayor impacto de los coches eléctricos
no es que sean menos contaminantes
sino que, incluso sin una ayuda,
seguirían siendo la opción más barata.
No requieren mantenimiento
y duran más tiempo.
La única pieza cara es la batería,
que acabará siendo también barata.
Así, los coches llegarán a ser
incluso más baratos que ahora.
Los coches harán parte del trayecto solos.
Primero,
eliminarán las partes más pesadas
como conducir con tráfico denso
y las distancias largas.
Si eliminas esas partes,
conducir será más cómodo aún.
La popularidad de los coches
no va a disminuir en las próximas décadas.
¿Esperas que sea incluso mayor?
- Me temo que sí.
Y es que no hay espacio suficiente
para los coches en zonas urbanas.

English: 
For one, it will be cheaper.
The biggest effect of electric cars
is not that they're cleaner...
...but that even without a subsidy,
it will become the cheaper option.
There's no maintenance,
and it will last longer.
The only expensive part is the battery,
which will become cheaper too.
So cars will be even cheaper
than they already are.
Cars will drive part of the journey
themselves.
First they'll eliminate
the most annoying parts...
...like driving in heavy traffic
and long distances.
If you remove those aspects,
driving will be even more comfortable.
So the popularity of cars certainly
won't decrease in the next decades.
You expect there might even be more?
- Yes, I'm afraid so.
The remaining problem is that we don't
really have room for cars in urban areas.

French: 
D'une part, elle coûterait moins cher.
La chose la plus conséquente n'est pas
la propreté des voitures électriques...
mais le fait que, même sans subvention,
elles seront l'option la moins chère.
Il n'y a pas d'entretien,
et elles durent plus longtemps.
La batterie est la seule chose coûteuse.
Elle aussi va devenir moins chère.
Les voitures deviendront donc
encore moins chères.
Elles conduiront elles-mêmes
une partie du trajet.
D'abord, elles élimineront
ce qu'il y a de plus ennuyeux :
conduire quand il y a beaucoup
de circulation et sur de longues distances.
Si on supprime cela,
conduire sera encore plus agréable.
Les voitures resteront populaires
durant les prochaines décennies.
Y en aura-t-il davantage ?
- Oui, je le crains.
Le problème est qu'il n'y a pas vraiment
de place pour les voitures dans les cités.

English: 
So we'll have to come up
with other ideas to get them out.
There's a trend in many cities
to handle that better.
We won't get rid of them,
but we can be more efficient.
Particularly in areas
where they're unwanted guests.
Do you think people will drive more
dangerously once they get an autopilot?
Yes, that seems to be the case.
People rely too heavily on them,
and this has led to accidents.
It can turn left itself if I indicate,
but we're probably too close.
Yes, we're too close to the car.
Now it's OK. The wheel is turning left.
That's quite good, isn't it?
Is it addictive, letting go of the wheel?
- Yes, I do it a lot.

Spanish: 
Así que hay que pensar en maneras
de sacarlos de ahí.
Hay una tendencia en muchas ciudades
para rediseñarlo todo mejor.
Solo queremos eficiencia, sobre todo,
donde son invitados no deseados.
¿Crees que se conducirá con menos cuidado
con el piloto automático?
Sí, eso parece.
La gente confía ciegamente
y eso provoca accidentes.
Podría girar a la izquierda si lo indico,
pero seguramente estemos cerca.
Así es, estamos muy cerca del coche.
Ahora sí. Está girando a la izquierda.
Eso está muy bien, ¿verdad?
¿Es adictivo dejar el volante?
- Sí, yo lo hago bastante.

French: 
Il faudra donc trouver d'autres idées
pour les éliminer.
Dans de nombreuses villes,
la tendance va vers une meilleure gestion.
On ne s'en débarrassera pas,
mais on peut être plus efficace.
Particulièrement dans les zones
où elles ne sont pas les bienvenues.
Pensez-vous que les gens conduiront
plus dangereusement avec un autopilote ?
Oui, cela semble être le cas.
Les gens comptent trop dessus,
ce qui a engendré des accidents.
Elle peut tourner à gauche si je mets mon
clignotant mais on est un peu trop près.
Oui, on est trop près de la voiture.
Maintenant c'est bon. La roue va à gauche.
C'est pas mal, non ?
Est-ce que lâcher le volant est addictif ?
- Oui, je le fais souvent.

English: 
You can't let go completely.
It's not advanced enough.
But once you've got used to it,
you can't go without it.
This is the heart, or the brain even,
of a self-driving car.
What you see here
is lots of computers.
They collect all the data of the sensors
in and around the car.
Video streams,
data from radars, lidars.
It's all collected and calculated here...
...so the car can brake, steer,
and accelerate by itself.
Where does all this data go?

French: 
On ne peut pas le lâcher complètement.
Ce n'est pas assez perfectionné.
Mais une fois qu'on s'y est habitué,
on ne peut pas s'en passer.
Les sociétés de logiciels du monde entier
se font une concurrence féroce...
pour acquérir et analyser le plus
de données possible venant des voitures...
afin de concevoir la mobilité de l'avenir.
L'une d'entre elles s'appelle Zenuity.
C'est une société suédoise.
L'avenir du commerce automobile
réside dans les logiciels et les données.
Voici le cœur, le cerveau même,
d'une voiture autonome.
Il y a ici beaucoup d′ordinateurs.
Ils collectent les données des capteurs
dans et autour de la voiture.
Flux vidéo, données provenant de radars,
de lidars.
Tout est collecté et calculé ici...
afin que la voiture puisse freiner,
tourner et accélérer toute seule.
Où vont toutes ces données ?

Spanish: 
Pero no puedes apartarte por completo.
Todavía no está tan avanzado.
Una vez que te acostumbres,
no podrás vivir sin él.
Las empresas de software
de todo el mundo compiten
por adquirir y analizar el mayor número
de datos de tráfico posibles
para diseñar la movilidad del futuro.
Una de ellas es Zenuity,
una empresa sueca.
El futuro de la industria no está
en el hardware, sino en el software.
Este es el corazón, o incluso el cerebro,
de un coche autónomo.
Esto es un conjunto de ordenadores
que contienen toda la información
de los sensores de alrededor del coche.
Retransmisores de vídeo,
datos de radares, lídars.
Está calculado aquí para que el coche
pueda conducir por sí mismo.

French: 
Pour le moment,
tout est stocké sur des disques durs.
Beaucoup de données,
plusieurs gigaoctets par seconde.
Au total, nous obtenons peut-être
plus de 100 pétaoctets.
C'est trop pour envoyer ça ici
via Internet.
Pour collecter les données dans le monde.
entier, DHL livre un disque dur vierge...
le met dans la voiture, prend le plein...
et l'amène dans un grand centre de données
à Amsterdam où il est stocké.
Et tout cela sera possible
dans une petite boîte ?
Pas la collecte de données, mais le calcul
des données nécessaires pour conduire....
sera fait par un petit appareil
discrètement caché dans la voiture.
On verra  les capteurs car ces voitures
ont besoin de beaucoup de données.
Des caméras derrière le pare-brise,
un radar derrière le pare-chocs...
peut-être quelque chose sur le toit,
donc on les garde.
Mais en beaucoup plus concis.

English: 
At the moment,
everything is stored on hard drives.
A lot of data,
several gigabytes per second.
In total maybe we acquire
over 100 petabytes.
It's too much to send here via Internet.
So to gather data worldwide,
DHL delivers an empty hard drive...
...puts it in the car,
takes the full one out...
...and takes it to Amsterdam to
a big data centre where it's stored.
And all that will be possible
in a tiny box?
Not the data collection part, but
calculating the data needed to drive...
...will be done by a small device
hidden away neatly in the car.
You will still see the sensors, because
self-driving cars need lots of data.
Cameras behind the windscreen,
a radar behind the bumper...
...maybe something on the roof,
so that will remain.
But far more concise than this.

Spanish: 
¿Y a dónde va toda esa información?
- Está toda guardada en discos duros.
Hay mucha información,
bastantes gigabytes por segundo.
En total, llegamos a más de 100 petabytes.
Es mucho para mandar a través de Internet.
Para reunir datos de todo el mundo,
DHL envía un disco duro vacío
lo conecta al coche, saca el contenido
y lo lleva a Ámsterdam a un gran centro
de información donde se almacena.
¿Y es posible meter todo eso
en una pequeña caja?
La recopilación de datos no,
pero los cálculos para conducir
los hace un pequeño dispositivo
escondido ingeniosamente en el coche.
Aún así, verás los sensores,
porque se necesita mucha información.
Cámaras detrás del parabrisas,
un radar detrás del parachoques
quizás algo en el techo,
todo eso permanecerá.
Pero será mucho más compacto que esto.

English: 
It's telling me that
autonomous driving is available.
So I push these two buttons
on the steering wheel...
...and the car takes over
the steering and the driving.
To teach a network, you first need
to tell it what it's supposed to learn.
So we have to indicate manually
or semi-manually:
This is a pedestrian,
this is a mark, this is a sign.
We use thousands of images,
so it's a lot of work.
We use this data to teach networks
what pedestrians or signs look like...
...and then we can download it
in the car and start driving.
To put it bluntly, how 'stupid'
is the machine right now?

Spanish: 
Me dice que el piloto automático
está disponible.
Así que le doy
a estos dos botones del volante
y el coche toma el control
del volante y de la conducción.
Para enseñar a un sistema, primero
tienes que decirle lo que debe aprender.
Así que hay que indicárselo
manualmente o semi-manualmente:
Esto es un peatón,
esto es una marca, esto es una señal.
Usamos miles de imágenes,
es mucho trabajo.
Usamos esta información para enseñar
al sistema qué es un peatón o una señal
y luego podemos descargarla
en el coche y empezar a conducir.
Hablando en plata, ¿cómo de "estúpida"
es la máquina ahora mismo?

French: 
La voiture me dit
que la conduite autonome est possible.
Alors je presse ces deux boutons
sur le volant...
et la voiture prend la conduite en charge.
Pour apprendre, le réseau doit d′abord
savoir ce qu′il est censé apprendre.
Il faut donc indiquer manuellement
ou semi-manuellement :
C'est un piéton, c'est une marque,
c'est un panneau.
Nous utilisons des milliers d′images,
c′est donc beaucoup de travail.
Ces données servent à enseigner à quoi
ressemblent les piétons ou les panneaux...
et ensuite nous pouvons télécharger ça
dans la voiture et partir.
Si vous me permettez, quel est le degré
de "stupidité" de la machine ?

English: 
The machine is stupid.
It's not an intelligent machine.
But they are capable of driving
automatically in nearly all conditions.
But that's not good enough.
To be able to offer this car
to a regular customer....
...we have to make sure
it doesn't cause accidents.
Although humans are good at driving...
...25,000 people still die in traffic
every year in Europe.
Most people don't think about that
when they get into a car.
It doesn't have to be your mistake,
it could be someone else's.
Driving carries risks.
25,000 deaths is a high number.
It's equivalent to several
plane crashes a week.
Some people have a fear of flying...
...but the taxi drive to the airport
is more dangerous than the flight.

French: 
La machine est stupide.
Elle n'est pas intelligente.
Mais elle sait conduire automatiquement
dans presque tous les environnements.
Mais cela ne suffit pas.
Pour pouvoir proposer cette voiture
à un client régulier....
nous devons nous assurer
qu'elle ne cause pas d'accident.
Bien que les êtres humains
soient bons conducteurs...
en Europe, 25.000 personnes
meurent encore sur la route chaque année.
La plupart des gens ne pensent pas à cela
quand ils montent dans une voiture.
Ce n'est pas forcement votre faute
mais la faute de quelqu′un d'autre.
Conduire comporte des risques.
25.000 décès est un nombre élevé.
Cela équivaut
à plusieurs accidents d'avion par semaine.
Certains ont peur de prendre l'avion...
mais le trajet en taxi vers l'aéroport
est plus dangereux.

Spanish: 
La máquina es estúpida.
No es una máquina inteligente.
Aunque conducen de manera autónoma
en casi cualquier condición...
eso no es suficiente.
Para ser capaz de ofrecer
este coche a un cliente normal
habría que asegurarse
de que no provoca accidentes.
Aunque a los humanos
se nos de bien conducir
25.000 personas siguen muriendo
en Europa en las carreteras cada año.
La mayoría ni piensa en ello
cuando se monta en un coche.
No tiene ni que ser error tuyo,
puede ser el de otra persona.
Conducir conlleva riesgos.
25.000 muertes es un número muy alto.
Equivale
a varios accidentes de avión por semana.
Mucha gente le tiene miedo a volar
pero el trayecto en taxi al aeropuerto
es mucho más peligroso que el vuelo.

French: 
La sécurité est une priorité absolue
pour les véhicules autonomes.
Il serait inacceptable
que ces voitures causent des accidents.
Et il faut prendre en compte
les marges de sécurité.
Il faut respecter le code de la route
et les limitations de vitesse.
Quand nous aurons plus de données
et de connaissances...
nous pourrons prendre plus de risques.
Mais pas maintenant.
Ces voitures ont beaucoup de potentiel
en termes de sécurité routière...
de bons réseaux routiers, de construction
de villes, d'infrastructures.
Nous avons un intérêt collectif
à trouver de bonnes solutions.
C'est ce que nous faisons.
Au MIT Media Lab...
un psychologue français et un expert
en intelligence artificielle syrien...
étudient la relation
entre l'homme et la machine.

English: 
Safety is a top priority
for self-driving vehicles.
It would be unacceptable
for these cars to cause accidents.
And you have to factor in
safety margins.
You must stick to traffic regulations
and speed limits.
After a while, the more data
and knowledge we have...
...we might start taking more risks.
But not to begin with.
Self-driving cars have so much potential
in terms for road safety...
...more effective road systems,
building cities and infrastructures.
We have a collective interest
in finding a good way forwards.
That's what we're doing.

Spanish: 
La seguridad es la máxima prioridad
para los vehículos automáticos.
Sería inaceptable
que estos vehículos provocaran accidentes.
Y hay que considerar
la distancia de seguridad.
Hay que acatar a las normas de circulación
y los límites de velocidad.
Al tiempo, cuando tengamos
más datos e información
podremos empezar
a correr más riesgos, pero todavía no.
Estos vehículos tienen mucho potencial
en cuanto a seguridad vial
sistemas viales más efectivos,
construcción de infraestructuras.
Hay un interés colectivo
en encontrar la mejor manera de avanzar.
Eso es lo que hacemos.
En el Media Lab del MIT
un psicólogo
y un experto en inteligencia artificial...
estudian la relación
entre el ser humano y la máquina.

Spanish: 
Espero que a los humanos
se les prohíba conducir.
Excepto como entretenimiento, un poco
- ¿Sí? ¿En serio?
Sí, me da pánico. Estoy seguro
de que moriré en un accidente de coche.
Iyad Rahwan
Técnico eticista del MIT
Es una de las mayores causas de muerte
y yo no fumo
¿Sabes? Tú no puedes
- Claro.
Claro, yo me enfrento
a otros factores de riesgo.
La tecnología ha eliminado
muchas causas de muerte.
Y es genial, pero también
ha dado lugar a nuevas
cáncer por contaminación
o los accidentes de coche
son nuevas causas de muerte y sería genial
que pudiésemos deshacernos de ellas.
Bonnefon and Rahwan
decidieron realizar un experimento online
llamado Máquina Moral.
En el juego, presentaban dilemas morales
en situaciones de tráfico extremas.
Sin esperarlo,
el experimento se hizo viral.

French: 
J'espère qu'on interdira aux êtres humains
de conduire.
Sauf dans le divertissement.
- Ah oui ? Vraiment ?
Oui, ça me terrifie. Je suis convaincu
que je vais mourir dans un accident.
Iyad Rahwan, éthicien technologique au MIT
C'est l'une des principales causes de décès
et je ne fume pas.
Je ne fume pas.
- OK.
Oui, j'ai d'autres facteurs de risque.
La technologie a éliminé
de nombreuses causes de décès.
Ce qui est génial,
mais elle en a aussi créé de nouvelles.
Le cancer dû à la pollution
ou mourir dans un accident de voiture.
C'est une nouvelle cause de décès.
Ce serait bien de s'en débarrasser.
Bonnefon et Rahwan ont décidé
de faire une expérience en ligne.
avec la "Moral Machine".
Les joueurs sont confrontés à des dilemmes
moraux dans des situations extrêmes.
À leur grande surprise,
l'expérience est devenue virale.

French: 
Des millions de personnes ont participé
et pris des décisions de vie ou de mort.
La "Moral Machine" montre des dessins.
Des dessins de situations
dans lesquelles il faut choisir...
pour des gens contre d′autres gens...
En fait, des valeurs différentes.
Je crois que notre constatation était
que lorsqu'on demande aux gens :
"Alors, si la voiture peut sauver
une personne ou cinq personnes..."
On n'a pas eu de surprise.
Ils ont dit : "Le plus grand nombre."
Même si j'étais le passager,
ils disaient...
que moralement parlant,
il fallait me sacrifier.
Bien sûr, nous avons alors demandé :
"OK, mais achèteriez-vous cette voiture ?"
Personne ne voulait l'acheter.
Et il y a eu aussi
des résultats inquiétants.
On avait des sans-abris, des dirigeants,
des gens de statuts sociaux différents.
Nous avons constaté que les gens
sacrifiaient davantage les sans-abris.

Spanish: 
Participaron millones de personas
que tomaron decisiones de vida o muerte.
La Máquina Moral es un dibujo animado.
Es un dibujo que recrea una situación
en la que hay que sacrificar
a unas personas o a otras  Sí,
básicamente, enseña diferentes valores.
Lo primero que descubrimos fue
que al preguntar a la gente:
"¿Debería el coche salvar a una persona
o a cinco?"
Quizá no lo esperábamos, pero decían:
"Al mayor número de personas.
Incluso si yo fuera el pasajero".
"Moralmente hablando, aunque el pasajero
fuera yo, debería sacrificarme a mí".
Por supuesto, entonces les preguntamos:
"Vale, ¿y comprarías el coche?"
Nadie lo compraría.
Aunque también hubo
resultados perturbadores.
Pusimos a mendigos y empresarios,
gente de un estatus social diferente.
Descubrimos que, normalmente,
la gente sacrificaría antes al vagabundo.

Spanish: 
Eso se repetía bastante en lugares
donde había una desigualdad económica.
Por ejemplo,
en algunos países sudamericanos.
Y diría que, entre Oriente y Occidente
la diferencia más clara
era la preferencia por los niños.
Quizás es por la población asiática,
eso lo explicaría.
Otro descubrimiento fue que se respeta más
el estatus de los ancianos en la sociedad.
La Máquina Moral
captó cosas de estas sociedades.
Pero es importante recordar
que hablamos de un coche robot.
No hablamos de decisiones humanas,
de lo que los conductores humanos harían.
Porque nadie lo sabe.
No podemos programarnos
a nosotros mismos como conductores.
La pregunta no es qué harían los humanos,
sino cómo programar los coches.

French: 
Cela a été plus évident dans les lieux
avec une forte inégalité économique.
Certains pays d'Amérique du Sud,
par exemple.
Et je dirais, Est contre Ouest,
la différence...
la plus frappante était que la préférence
pour les enfants était moindre.
Une des explications est peut-être
qu'il y a une population asiatique.
Où peut-être que les personnes âgées
sont plus respectées.
C'était comme si la "Moral Machine"
observait la société.
Mais il est important de savoir
que nous parlons d'une voiture robot.
Et non pas de décisions humaines,
de ce que feraient les conducteurs.
Parce que personne ne le sait.
Nous ne pouvons pas nous programmer
en tant que conducteurs.
Il ne s'agit pas de ce que feraient les hommes
mais comment programmer les voitures.

Spanish: 
Especialmente porque lo que harían
los humanos si esa situación ocurriese
seguramente sería impredecible,
se pondrían nerviosos...
por ello se anticiparán
al programar el coche.
¿Cómo programas un coche
que provoque menos accidentes
pero que, a la larga,
como nosotros, tendrá sus fallos?
¿Hemos pensado bien las implicaciones
que tendría este "robot conductor"?
Marleen Stikker es la directora de Waag
un centro de investigación de tecnología
creativa e innovación social.
Ella cree que nuestra sociedad
necesita tecnologías libres
que se puedan debatir.
Esto contrasta bastante
con las empresas de software comerciales.
Creo que estamos todos de acuerdo
en que hay demasiados coches en la ciudad
y que debería haber
menos coches en general.
La gente está preparada para compartir
o para conducir coches eléctricos.

English: 
I think we can all agree that
there are too many cars in the city.
And that there should be
less cars in general.
I think people will be prepared to
share cars or drive electric cars.

French: 
Surtout, parce que
dans une telle situation, les hommes...
réagiraient spontanément,
ils paniqueraient...
mais les programmeurs
programmeront la voiture à l'avance.
Comment programmer une voiture
qui pourrait causer moins d'accidents...
mais qui finalement,
comme nous, commettrait des erreurs.
Avons-nous suffisamment pensé
aux implications ?
Marleen Stikker
est la directrice de Waag...
un centre de recherche pour la technologie
créative et l'innovation sociale.
Elle pense que notre société
a besoin de technologies ouvertes...
dont on peut débattre.
Cela contraste fortement avec l'optique
commerciale des éditeurs de logiciels.
Nous pensons tous
qu'il y a trop de voitures en ville.
Et qu'il devrait y avoir
moins de voitures en général.
Je crois que les gens seront prêts pour le
covoiturage ou les voitures électriques.

English: 
Strangely, the industry has responded
to the need for less cars...
...by saying we need these self-driving,
autonomous cars.
I don't understand the logic of that.
But that's what we are told.
They say: Get used to it, everyone,
this is going to happen.
But if you consider the values of
public areas and self-determination...
...you could say: No, it's not.
Autonomous cars and systems
tend to force us to do things.
We need to display certain behaviour
for the system to act autonomously.
So how autonomous
are these systems really?
If we want to prevent our life
from becoming a computer model...
...we shouldn't be optimising systems...
...but accept that people act a certain
way and systems should adapt to that.

Spanish: 
Sin embargo, la industria
responde al exceso de coches
diciendo que necesitamos
vehículos autónomos autoconducidos.
No le veo la lógica a eso,
pero es lo que nos cuentan.
Nos dicen:
"Acostumbraos, pues es lo que va a pasar".
Pero si tienes en cuenta los valores
de las zonas y la autodeterminación
dirías: "No, para nada".
Los coches autónomos y los sistemas
tienden a forzarnos a hacer cosas.
Hay que exponer ciertos comportamientos
para que funcione de forma autónoma.
¿Entonces,
cómo de autónomos son en realidad?
Si queremos evitar que nuestra vida
se transforme en una especie de ordenador
no deberíamos optimizar sistemas
sino aceptar cómo actúa la gente
y adaptar los sistemas a ello.

French: 
Étrangement, l′industrie a répondu
au besoin de moins de voitures...
en disant que nous avons besoin
de ces voitures autonomes.
Je ne comprends pas leur logique.
Ils disent :
"Acceptez-le, cela va arriver."
Si on tient compte de la valeur des espaces
publics et de l'autodétermination...
on pourrait dire :
"Non, ça ne va pas arriver."
Les voitures et les systèmes autonomes ont
tendance à nous forcer à faire des choses.
Il faut avoir certains comportements
pour que le système soit autonome.
Alors, à quel point ces systèmes
sont-ils vraiment autonomes ?
Si nous ne voulons pas que notre vie
devienne un modèle informatique...
nous ne devrions pas
optimiser les systèmes...
mais accepter que les gens ont certains
comportements et adapter les systèmes.

French: 
C'est possible sur les autoroutes,
dans les embouteillages.
Mais on ne veut pas conditionner
tout le pays, notre réalité.
C'est le dilemme fondamental
auquel nous sommes confrontés.
Tous les systèmes numériques
nécessitent un conditionnement.
Nous devons nous adapter
à ce conditionnement.
C'est une décision fondamentale.
Et à quoi sommes-nous conditionnés,
qu'optimisons-nous ?
C'est basé sur l′idée
que les gens font beaucoup d'erreurs...
et que les machines sont meilleures.
C'est un argument invalide.
L'argument selon lequel ces voitures
causeraient moins d'accidents...
ne peut pas être justifié.
En aucun cas...

Spanish: 
En situaciones condicionadas,
como autopistas o atascos, es posible.
Pero no queremos condicionar
a todo el país, a la realidad.
Ese es el dilema principal
al que nos enfrentamos.
Todos los sistemas digitales
requieren condicionamiento.
De nosotros, se espera que nos adaptemos
a ellos, a ese condicionamiento.
Esa decisión es fundamental.
¿A qué estamos condicionados?
¿Qué estamos optimizando?
Se basa en el concepto
de que las personas cometen errores.
y a las máquinas se les da mejor,
pero ese argumento es inválido.
El argumento de que los coches autónomos
provocarán menos accidentes
no se sostiene.
No se ha dado la situación en la que

English: 
In conditioned situations, like
motorways, traffic jams, that's possible.
But you don't want to condition
your whole country, your reality.
That's the fundamental dilemma
we are faced with.
All digital systems require conditioning.
We are expected to adapt to them,
to that conditioning.
That's a fundamental decision to make.
And what are we condition to,
what are we optimising?
It's based on the concept
that people cause many mistakes...
...and machines are better at it.
That's an invalid argument.
The argument that self-driving cars
will cause less accidents...
...cannot be substantiated.
There isn't a single situation anywhere...

French: 
les voitures autonomes
font autant de kilomètres que les hommes.
Ce sont donc des modèles, des suggestions,
présentés comme des faits.
Comme en Arizona,
dans un environnement fabriqué et sûr...
où elles tournent en rond.
Là, ça se passe bien.
Ça ne marcherait pas
dans une ville comme Amsterdam.
Les résultats de ces tests
ont peu été publiés.
Il existe quelques chiffres sur le nombre
d'accidents ou d'interventions...
par kilomètre.
Mais on ne sait pas
dans quels environnements.
Est-ce que c′était
dans des environnements conditionnés...
avec peu de cyclistes,
de piétons ou de chiens...
ou dans le centre-ville de La Haye
ou d'Amsterdam ?

English: 
...where autonomous cars drive as many
kilometres as cars driven by humans.
So they're all models, suggestions,
that are being presented as facts.
Like in the created, safe environment
in Arizona...
...where they go around in circles,
that's going well.
If they did that in a city like Amsterdam,
things would go wrong.
Very little has been published
about these test results.
There are a few figures regarding
how many accidents or interventions...
...occurred per driven kilometre.
But they don't tell you what conditions
the cars were driving in.
Were these conditioned environments...
...with few cyclists, people,
or dogs walking around...
...or was it in the city centre
of The Hague or Amsterdam?

Spanish: 
un coche autónomo y uno pilotado
conduzcan la misma cantidad de km.
Son todos modelos, teorías
que están presentando como hechos.
Como en el entorno seguro
fabricado en Arizona
dónde están dando vueltas, eso va genial.
Si lo hicieran una ciudad como Ámsterdam,
la cosa no saldría bien.
Se han publicado muy pocas cosas
sobre los resultados de esa prueba.
Hay algunos gráficos que muestran
cuántos accidentes o intervenciones
han tenido lugar
por cada kilómetro recorrido.
Pero no especifican
las condiciones en las que se circulaba.
¿El entorno estaba condicionado
por ciclistas, personas o perros paseando
o era en el centro de La Haya o Ámsterdam?

English: 
That cyclist isn't supposed to be there.
Officially this is a road.
Cyclists in Holland only have a few rules
to stick to, which they generally don't.
Yet the system works well,
because it's based on unwritten rules.

French: 
Doit-on autoriser le plus de technologie
et de conditionnement possible...
pour rendre les villes plus attrayantes ?
Ou choisissons-nous
la vie privée et la liberté de mouvement ?
Ce cycliste n'est pas censé être là.
Officiellement, c'est une route.
En Hollande, les cyclistes ont peu
de règles et, en général, ils les ignorent.
Pourtant, le système fonctionne bien,
car il repose sur des règles non écrites.

Spanish: 
¿Debemos aceptar tanta tecnología
y condicionamiento como podamos
para hacer las ciudades más atractivas?
¿O elegimos la privacidad
y la libertad de movimiento?
Ese ciclista no debería estar ahí.
Oficialmente, esto es una carretera.
Los ciclistas en Holanda deben seguir
un par de normas y no lo hacen.
Aún así, el sistema funciona bien,
porque se basa en normas no escritas.

Spanish: 
Me pregunto
si se podrían programar en un coche.
Ya que esas normas no escritas
solo se aplican en los Países Bajos
e incluso dependen de la ciudad
y cambian con el tiempo.
Esas personas van por la carretera,
no podemos obviarlas.
Pero para adelantarlo, no se puede dejar
una buena distancia de seguridad.
No hay suficiente espacio
para pasar por ahí.
Lo haré yo, en este caso.
Se podría decir que no está permitido
que el camión aparque ahí, pero ahí está.
Debe ser difícil programar estas cosas,
con esas normas no escritas.
Creo que la conducción autónoma
va a llegar lejos.

French: 
Je me demande si on pourrait un jour
les programmer dans une voiture.
Surtout parce que ces règles non écrites
ne s'appliquent qu'ici...
et varient selon les villes
et changent avec le temps.
Ces personnes marchent sur la route
et on ne veut pas les en empêcher.
Mais si on les dépasse,
on sera trop près d'eux.
Il n'y a pas vraiment assez de place
pour doubler.
Mais là, je vais le faire.
Le camion n'a pas le droit de stationner
ici, mais c'est comme ça en réalité.
Ces choses doivent être difficiles
à programmer, ces règles non écrites.
Je pense que la conduite autonome
ira assez loin.

English: 
I wonder if we'll ever be able
to programme those into a car.
Particularly because those unwritten
rules only apply to the Netherlands...
...and even here differ per city
and change over time.
These people are walking in the road
and you don't want to forbid them.
But to overtake him, you can't keep
a safe distance from these people.
This is not really enough space
to pass there.
I'll do it, in this case.
You could say the truck wasn't allowed
to be parked there, but that's reality.
These things must be hard to programme,
these unwritten rules.
I think autonomous driving
will get quite far.

English: 
On the motorway, this car could manage
about 80 or even 90% of the drive itself.
Maybe 99 percent, they're working hard
on it in this rat race that's going on.
But that last percentage might be harder
than the other 99.
And it's undesirable,
because you'll get overly careful cars...
...that follow the law completely,
and they won't be popular...
...because they'll block traffic.
On the motorway you need to keep a
two-second distance to the car in front.
This means that when merging, you'd
have to wait for a gap of four seconds.
You don't have gaps like that
in the Netherlands during the day.
To get through traffic efficiently you need
to be able to bend the law sometimes.
That's something we should
fundamentally never allow robots to do.
Those cars would be too careful
by definition.
You could argue that we adapt the rules.

Spanish: 
En la autopista, podría controlar
el 80 o el 90% de la conducción.
Quizá el 99%, están trabajando
sin descanso debido a la competitividad.
Pero ese último porcentaje
podría ser más difícil que el otro 99%.
Y no es lo que buscamos, porque tendremos
unos coches demasiado cuidadosos
que seguirán las normas
al completo y no serán populares
porque bloquearán el tráfico.
En la autopista hay que mantener
una distancia frontal de dos segundos.
Y para incorporarse, hay que esperar
a que haya un hueco de cuatro segundos.
No hay huecos así
en los Países Bajos durante el día.
Para controlar el tráfico bien
hay que ser capaz de romper la norma.
Y eso es algo fundamental que no podemos
permitir que hagan los robots.
Esos coches serían demasiado cuidadosos.
Podrías argumentar
con una modificación de la norma.

French: 
Sur l'autoroute, cette voiture pourrait
conduire 80 voire 90% du temps.
Peut-être 99%, ils travaillent dur
dans cette course effrénée.
Mais ce dernier pourcentage pourrait être
plus difficile que les 99 autres.
Et ce n'est pas souhaitable,
car on aura des voitures trop prudentes...
qui suivent le code à la lettre
et qui ne seront pas populaires...
parce qu'elles bloqueront la circulation.
Sur l'autoroute, il faut garder
une distance de deux secondes.
Pour s′insérer sur la voie d′accélération
il faut une distance de quatre secondes.
Aux Pays-Bas, il n'y a jamais
de si grandes distances durant la journée.
Pour une conduite efficace,
il faut parfois ne pas suivre les règles.
On ne devrait jamais autoriser les robots
à faire ça.
Ces voitures
seraient trop prudentes par définition.
On pourrait dire
que nous adaptons les règles.

English: 
But these rules are often hard to define,
unwritten rules.
How you can you programme that?
They differ per country and over time.
By definition,
these cars can't handle that.

Spanish: 
Pero esas normas, a veces,
son ambiguas, no están escritas.
¿Cómo programas eso?
Cambian en cada ciudad y con el tiempo.
Por definición,
estos coches no pueden ocuparse de eso.
Cada ciudad tiene su propio plano,
su propia cultura y sus normas.
Autopistas de seis carriles
o canales, con o sin carriles bici.
Carlo Ratti experimenta
con varios datos de diferentes ciudades
para idear soluciones originales
para la movilidad.
Creo que a todos os sonará esto,
la maravillosa ciudad de Ámsterdam.
El centro de Ámsterdam no tiene
grandes calles, tiene muchos canales.
Hablando sobre la ciudad, proponemos:
"¿Y eso de la movilidad autónoma?
¿Cómo se haría en Ámsterdam?"
Se nos ocurrió una idea: botes autónomos.
Los llamamos "robotes".

French: 
Mais ces règles non écrites
sont souvent difficiles à définir.
Comment programmer cela ? Elles varient
selon les pays et changent avec le temps.
Par définition,
ces voitures ne peuvent pas gérer cela.
Chaque ville a sa propre configuration,
sa propre culture et ses propres règles.
Des autoroutes ou des canaux à six voies.
Avec ou sans pistes cyclables.
Carlo Ratti expérimente avec différentes
données provenant de différentes villes...
afin de proposer
des solutions de déplacement originales.
Je pense que vous connaissez tous
la magnifique ville d′Amsterdam.
Le centre a peu de grandes routes
mais de gros canaux.
On dit à la ville :
"Qu'en est-il des déplacements autonomes ?
Comment faites-vous à Amsterdam ?"
On a pensé à des bateaux autonomes.
On les appelle des "roboats".

Spanish: 
¿Qué se puede hacer con un bote autónomo?
Se puede usar para transportar cosas.
Como si fueran unos píxeles flotantes.
Un puente se montaría automáticamente
para conectar partes de la ciudad.
Si quieres organizar un concierto, unes
estos elementos y formar un escenario.
Entonces, al acabar el concierto,
se desharía mágicamente.
Me gusta creer que lo que hacemos
en el llamado mundo artificial
debería, de alguna manera,
recrear lo que ocurre en el mundo real.
Igual que la naturaleza,
que crea sistemas diferentes
y observa cuáles resisten más
y funcionan mejor.
Tenemos que copiar eso, no recrear
algo que funciona con un sistema.
Si ese sistema falla,
toda la ciudad falla.

French: 
Que fait-on avec un bateau autonome ?
On peut transporter des choses.
En les utilisant
comme une sorte de pixels flottants.
Un pont fait automatiquement un assemblage.
Il lie deux parties de la ville.
Si on souhaite organiser un concert,
on peut créer une scène avec ces éléments.
Et la scène disparaîtra comme par magie
une fois le concert terminé.
Je crois que ce que l'on fait
dans ce monde artificiel...
devrait en quelque sorte copier
ce qui se passe dans le monde naturel.
La nature essaie de créer
différents systèmes...
et voit lesquels sont les plus robustes
et fonctionnent le mieux.
On devrait faire pareil et ne pas créer
une ville gérée par un système unique.
Si ce système tombe en panne,
toute la ville est bloquée.

French: 
Qui se fait concurrence dans ce domaine ?
- Les entreprises automobiles.
Mais il y a aussi
les géants de l'informatique.
Pensez à Google, au système Alphabet...
ou à Apple, qui travaille apparemment
sur les voitures autonomes, etc.
Et il y a aussi des gens
qui dirigent des flottes, comme Uber.
Il y a alors concurrence
entre ces trois acteurs.
Il sera intéressant de voir
qui va gagner dans les prochaines années.
Malgré ces dilemmes moraux
et ces règles non écrites...
les entreprises high-tech continuent
de développer les transports autonomes.
Le monde numérique fusionne
avec notre environnement physique.
Dans la Silicon Valley, en Asie et au cœur
de l'industrie automobile allemande...

Spanish: 
¿Quiénes compiten en este mundo?
- Tradicionalmente, empresas del sector.
Pero también están
los gigantes tecnológicos.
Piensa en Google, Alphabet
o Apple, que está trabajando
en vehículos autónomos.
Los hay que trabajan con flotas,
como Uber.
Así que hay competencia
entre esas tres partes.
Será interesante
ver quién gana en los próximos años.
Excepto esos dilemas morales
y reglas no escritas
las empresas tecnológicas siguen
desarrollando transportes autónomos.
El mundo digital
ya es parte de nuestro entorno físico.
En Silicon Valley, en Asia y en el corazón
de la industria automovilística alemana

French: 
les programmeurs testent les voitures
sur la route.
Mercedes se consacre au développement
de voitures autonomes dans les villes.
Ils sont convaincus que cela deviendra
réalité d′ici quelques années.
Croyez-vous que toutes les voitures
seront autonomes dans les villes ?
Oui, c'est notre objectif.
On y travaille.
Vous êtes sûr ?
- Oui.
Mercedes a une excellente réputation
en ce qui concerne ses voitures.
Si l'entreprise est convaincue
qu'elle peut y arriver...
des robots pourraient apparaître
dans les villes plus tôt que prévu.
Comment êtes-vous sûr de pouvoir gérer
des voitures ou des concepts autonomes ?
Il y a quelques années,
quand j'avais 18 ans...
je suis allé à Amsterdam avec mon véhicule
et j'ai trouvé cela difficile.
Très difficile.
Pas dangereux mais très difficile.

Spanish: 
los programadores
prueban los coches en la calle.
En Mercedes están decididos
a insertar coches autónomos en la ciudad.
Están convencidos
de que ocurrirá en unos años.
¿Creéis que llegaréis a tener
vehículos autónomos en ciudades?
Sí, ese es el objetivo,
es en lo que estamos trabajando.
¿Estás seguro?
- Sí.
Mercedes tiene una reputación
en lo que concierne a coches decentes.
Si la empresa está tan convencida
de que lo pueden hacer
estos coches podrían aparecer
en las ciudades antes de lo esperado.
¿Cómo sabes que conseguiréis implantar
vehículos autónomos en las ciudades?
Si miramos atrás unos años,
cuando tenía 18
conduje un coche por primera vez
y esa situación supuso un reto para mí.
No diría inseguro,
pero sí que fue un reto

French: 
Et maintenant, revenir à Amsterdam
me semble beaucoup plus facile.
Qu'est-ce que j'ai fait ?
J'ai acquis plus d'expérience.
Je connais l'environnement
et j'ai compris ce que je faisais là-bas.
Évidemment, ce sera également le cas
avec le système.
Nous avons fait de gros progrès
dans la détection de notre environnement.
Nous possédons
beaucoup d'intelligence artificielle...
qui nous permet de comprendre
les images qui se présentent à nous.
Il y a 20 ans, la voiture ne possédait pas
ce grand réseau de neurones artificiels...
et elle ne pouvait pas se baser dessus.
On a développé la technologie,
on a le produit, la base, la voiture.
On a l'expérience
des services de déplacements.
On a donc l'ensemble du processus
relatif à ces services de déplacements.
La norme et les véhicules.
Et nous aurons la conduite autonome.
C'est vraiment dangereux.
- Ouais.

Spanish: 
y ahora al volver a Ámsterdam
siento que me es mucho más fácil
¿Qué hice? Ahora tengo más experiencia.
Aprendí de la situación
y entendí lo que debía hacer.
Por supuesto,
esto ocurrirá con el sistema también.
Por ejemplo, hemos avanzado mucho
en la detección del entorno.
Llevamos a bordo
mucha inteligencia artificial
para identificar lo que nos muestra
la imagen en realidad.
Hace 20 años, no era posible tener
en el coche esta gran red artificial
y que el coche funcionara con ella.
Hemos desarrollado la tecnología
y tenemos el producto, la base, el coche.
Tenemos la experiencia
de los servicios de movilidad.
Por lo que ya tenemos el ciclo completo
de los servicios de movilidad
Ahora, con los coches normales
y, en el futuro, con los autónomos.
Esto es muy peligroso.
- Sí.

Spanish: 
Habrá accidentes en el futuro
con los coches autónomos.
Si te chocas con uno de nuestros coches,
por supuesto que habrá un accidente.
Si no se puede seguir evitando.
Entonces, ¿estás convencido
de que la conducción autónoma es segura?
¿Qué significa eso? ¿Qué es 100% seguro?
La pregunta es
si pueden evitar accidentes
pero muchos accidentes ocurren
porque los conductores miran el móvil
con un coche autónomo,
nunca podremos distraernos.
No, ¿qué he hecho? Le he dado a Escape.
Venga, hombre.
¿Qué ha pasado?
- Le he dado a "Fn" y a "Escape".
Se ha cerrado el
Se ha cerrado el sistema.
- Vale.
No sabía que existía ese atajo.

French: 
Il y aura des accidents à l'avenir
avec les voitures autonomes.
Si vous rentrez dans la voiture autonome,
cela causera un accident, bien sûr.
Si on ne peut plus l′éviter.
Vous êtes donc vraiment convaincu
que la conduite autonome est sûre à 100% ?
Qu'est-ce qui est sûr ?
Qu'est-ce qui est sûr à 100% ?
La question est la suivante :
peut-on prévoir les accidents ?
Être sur son smartphone
cause beaucoup d'accidents.
Il n'y aura plus de problème d′inattention
avec un véhicule autonome.
Non, qu'est-ce que j'ai fait ?
J'ai appuyé sur la touche "échap".
Oh, non.
Qu'est-ce qui se passe ?
- J'ai appuyé sur "Fn" et "échap".
Ça a éteint le...
Cela éteint le système.
- D'accord.
Je ne connaissais pas ce raccourci.

Spanish: 
La seguridad es clave en nuestra empresa.
La seguridad y el lujo.
Estamos seguros de que la conducción
autónoma aumentará la seguridad.
Conducción autónoma.
Conducción autónoma completa
para ciudades y entornos urbanos.
¿Estás totalmente convencido?
- Bastante convencido.
Cuantos más datos obtengamos,
más optimizado estará el sistema.
La información es la clave del éxito.
¿Quién posee esa información?
Al principio, los datos pertenecían
al conductor o el dueño.
Ellos tienen los datos.
Y luego, como usuario

English: 
Who owns this data?
Initially, the data acquired in the car
belongs to the driver, or the owner.
They have the data.
And then as a user...

French: 
La sécurité est primordiale pour nous.
La sécurité et le luxe.
Nous sommes convaincus que la conduite
autonome peut accroître la sécurité.
La conduite entièrement autonome.
La conduite entièrement autonome
en milieu urbain.
Vous êtes convaincu que cela se produira ?
- Oui, assez convaincu.
Plus le nombre de données est important,
plus le système peut être optimisé.
Les données sont la clé du succès.
À qui appartiennent ces données ?
Celles acquises dans la voiture
appartiennent au chauffeur, au propriétaire.
Ils ont les données.
Et puis, en tant qu'utilisateur on peut...

French: 
faire des accords avec les fabricants
de voitures pour partager ces données.
Comme vous le faites avec votre téléphone.
Les données vous appartiennent mais vous
acceptez de les partager avec des tiers.
Ce sera similaire avec les voitures.
Est-ce que cela comporte des risques
comme pour Facebook, Twitter ?
Les données partagées pourraient-elles
ensuite être utilisées contre nous ?
Cela pourrait-il arriver ?
- Oui, ce risque existe.
Les données de la voiture ne sont pas
si différentes de celles du téléphone.
Il y a des risques.
C'est pourquoi des compagnies comme Google
s′intéressent au commerce automobile.
C'est une énorme source de données.
Il faudra prendre en considération
avec qui vous partagez les données.
Il faut s'assurer que le conducteur sait
si et avec qui il partage des données.

English: 
...you can make agreements with car
manufacturers to share that data.
Just like you do with your phone.
In principle the data is yours, but you
accept that it's shared with other parties.
It will be similar with cars.
Does that carry risks like
those of Facebook, Twitter...
...of sharing data that can subsequently
be used against you?
Could that happen in this industry?
- Yes, there is that risk.
The data from your car isn't that different
from the data from your phone.
Those risks are there.
That's why companies like Google
are interested in the car trade.
It's a huge source of data.
You will have to consider
who you share data with.
We have to make sure the driver knows
if and who he's sharing data with.

Spanish: 
puedes acordar con los fabricantes
compartir esa información.
Igual que hacemos con los móviles.
Los datos son tuyos, pero aceptas
que se compartan con otras personas.
Será parecido con los coches.
¿Habrá riesgos, como en Facebook, Twitter
de que pueden usar esos datos contra ti?
¿Podría ocurrir en esta industria?
- Sí, existe ese riesgo.
Los datos de tu coche no serán
muy diferentes de los que hay en tu móvil.
Esos riesgos permanecen.
Por eso empresas como Google
están interesadas en este comercio.
Es una gran fuente de información.
Tendrás que pensar bien
con quién compartes información.
El conductor debe saber si está
compartiendo información y con quién.

English: 
Is it anonymous or not?
We'll have to handle that with care.
The problems with mobility will be the
same as with internet and smartphones.
Without knowing,
you're paying with your privacy.
The car knows exactly
what you're doing.
Cars will have around 15 cameras,
so having access to 1% of all cars...
...means you will know everything
that's happening in the world.
If that data becomes worth more
than it costs to drive the car...
...you might get cars for free soon.
And pay with your privacy.
Like all those free services
Google offers.
Driving a car might be like that.
This data is so valuable.
Everyone is after it.
That's why Google are into cars now.
Cars themselves aren't that lucrative.

Spanish: 
¿Es anónimo o no?
Habría que tratar esto con cuidado.
Los problemas de movilidad seguirán siendo
los mismos que con Internet y los móviles.
Sin saberlo,
estás pagando con tu privacidad.
El coche sabe exactamente
todo lo que haces.
Los coches tendrán unas 15 cámaras,
así que, accediendo al 1% de los coches
ya podrías saber
todo lo que pasa en el mundo.
Si esa información se hace
más valiosa que el coste del coche
se podrían conseguir los coches gratis,
se pagaría con la privacidad.
Como todos esos servicios
que Google ofrece gratis.
Conducir un coche podría ser así.
Todos quieren esta información.
Por eso Google está tan metido ahora.
Los coches en sí no son muy lucrativos.

French: 
Est-ce anonyme ou pas ?
Nous devrons gérer cela avec prudence.
Les problèmes seront les mêmes
qu'avec Internet ou les smartphones.
Sans le savoir, vous payez
avec votre vie privée.
La voiture sait exactement
ce que vous faites.
Chaque voiture aura environ 15 caméras.
Avoir accès à 1% de toutes les voitures...
signifie que vous saurez
tout ce qui se passe dans le monde.
Si ces données ont plus de valeur
que le coût de conduire la voiture...
on pourrait avoir des voitures gratuites.
Et payer avec sa vie privée.
Comme tous ces services gratuits
offerts par Google.
Conduire une voiture
pourrait être comme ça.
Ces données sont très précieuses.
Tout le monde les veut.
C'est pourquoi, même si les voitures
rapportent peu, Google s′y intéresse.

English: 
They'll use their cars as Trojan horses,
to get their hands on that data.
If you are still naive at this point...
...you've learned nothing
from the past 25 years.
No citizen, policy maker
or politician can still be naive.
It's a cowboy environment
where a lot is already going on.
And later we'll all think:
This can't be right.
How did we end up in this situation?
It's not the robots that take over jobs,
it's the companies behind them.
This power issue isn't raised
often enough in technology.
So how do we prevent this?
By viewing technology as an
expression of culture and power.
Not something that simply
happens to us.

French: 
Leurs voitures seront des chevaux de Troie
leur donnant accès aux données.
Si vous êtes encore naïf à ce stade...
les 25 dernières années
ne vous ont rien appris.
Aucun citoyen, décideur politique
ou politicien ne peut être resté naïf.
C'est un environnement de cow-boy
où il se passe déjà beaucoup de choses.
Et plus tard, on se dira tous :
"Ce n'est pas possible.
Comment en sommes-nous arrivés là ?"
Les robots ne prennent pas les emplois,
les compagnies qui les créent si.
On ne parle pas assez de cette question
de pouvoir en technologie.
Alors, comment pouvons-nous empêcher ça ?
En considérant la technologie comme
une expression de la culture et du pouvoir.
Et non pas juste
comme quelque chose qui nous arrive.

Spanish: 
Usarán los coches como caballos de Troya,
para poder acceder a esa información.
Si sigues sin estar alerta,
no has aprendido nada
en estos últimos 25 años.
Ningún ciudadano o político
puede ser tan ingenuo.
Vivimos una situación de locos,
están pasando muchas cosas ya.
Y luego pensaremos: "Esto no puede ser.
¿Cómo hemos llegado a este punto?"
Los robots no nos quitan el trabajo,
sino las empresas que hay detrás de ellos.
Este problema no se trata lo suficiente
en el mundo de la tecnología.
¿Cómo lo evitamos?
Tratando la tecnología
como una expresión de cultura y poder.
Y no como algo
que simplemente nos pasa...

French: 
Une chose qui se produit automatiquement,
comme une force de la nature.
Mais nous créons la technologie.
On la possède.
En gardant le débat ouvert sur le pouvoir
en matière de technologie...
et en permettant aux gens
de prendre part à ce débat...
nous pouvons mettre fin à cette naïveté.
Nous ne pouvons plus nous permettre
d'être naïfs.
Elle me dit de changer de voie,
et je confirme ça.
Et elle change automatiquement de voie.
Chaque développeur de logiciels
écrit son propre code.
Cela signifie
qu'ils font eux-mêmes leurs lois.
Après tout, aucune loi ou réglementation
n'a encore été établie.
Regardez la circulation derrière vous
et tous les gens dans la rue.

Spanish: 
algo que ocurre de manera automática,
como por fuerza de la naturaleza.
Pero lo tecnología
es algo que diseñamos nosotros.
Nos pertenece.
Si abordamos esta problemática del poder
cuando hablamos de tecnología
y permitimos que las personas
participen en este debate
podremos poner punto y final
a esta ingenuidad.
No podemos permitirnos ser ingenuos.
Me dice que cambie de carril, lo confirmo
y automáticamente cambia de carril.
Todo desarrollador de software
escribe su propio código.
Lo que significa que se toman
la justicia por su mano.
Pues todavía no hay
ninguna ley o norma establecida.
Mira el tráfico detrás de ti
y toda esa gente en la calle.

English: 
Something that happens automatically,
like a force of nature.
But technology is something we design.
It is owned.
By keeping this power issue on the table
when it comes to technology...
...and allowing people to take part
in this debate...
...we can put an end to this naivety.
We can't allow ourselves
to be naive anymore.
It's telling me to switch lanes,
and I confirm that.
And it automatically switches lanes.

French: 
Par où commence-t-on ?
La chose compliquée à faire...
serait d'opter pour les 26 millions
de scénarios de la "Moral Machine"...
et de dire à la voiture : "Voici ce qu'il
faut faire pour le scénario numéro 1...
numéro 2..." Et ainsi de suite,
26 millions de fois. C'est impossible.
Où se place le véhicule entre le véhicule
qui le précède et celui qui le suit ?
Si on est trop proche de celle de devant,
on se met plus en danger.
Quand est-ce que l'on double
et où se positionne-t-on dans la voie ?
Beaucoup de ces petites décisions
qui ne semblent pas liées à l'éthique...
qui semblent être
des décisions bénignes...
ont un impact sur les risques
pour différentes parties.
En Hollande,
beaucoup de gens aiment leurs vélos.
Si la voiture est proche
de la piste cyclable...
il y a moins de risques pour les autres
voitures mais plus pour les vélos.
Ce n'est pas le dilemme de la "Moral
Machine". Personne ne meurt immédiatement.

Spanish: 
¿Por dónde empiezas?
Lo más complicado de hacer
sería pasar por los 26 millones
de escenarios de la Máquina Moral
y decirle al coche: "Tienes que hacer esto
en el escenario uno
en el número dos, en el número ",
y así 26 millones de veces. Es imposible.
¿Dónde se posiciona el vehículo
entre dos coches?
Si te acercas mucho
al de delante, te pones en peligro a ti.
¿Cuándo adelantas
y dónde te colocas en el carril?
Puede parecer que esas decisiones
no requieren de ética
que son decisiones sin importancia.
Pero tienen un impacto,
ponen en riesgo a otras partes.
En Holanda, la gente adora las bicis.
Si el coche se acerca al carril bici
tiene menos riesgo de dar a otros coches,
pero más de darle a un ciclista.
No es un dilema como los de la Máquina
Moral en el que alguien muere ahora mismo.

Spanish: 
Es un dilema estadístico.
Si programas el coche así, el número
de ciclistas atropellados subirá al año.
La mejor forma de implementar esto
es observando las estadísticas.
Y decir: "¿Esto es aceptable?
¿Hay demasiadas muertes de ciclistas?"
Entonces hacemos ajustes.
- Exacto.
Se le puede decir a los coches
que hay un límite de número de ciclistas
y de número de peatones
que pueden atropellarse al año.
O puedes cambiarlo, cambiar esos números.
Dar con un porcentaje
que la sociedad encuentre aceptable.
La gente dirá:
"No vamos a tolerar ni un accidente".
Y eso es  Es diferente.
Primero porque eso es imposible.
Aún queda mucho trabajo
por hacer al respecto.
Pero imagina que disponemos
de un vehículo autónomo aquí

French: 
C'est un dilemme dans les statistiques.
Si on programme la voiture ainsi,
elle heurtera davantage de cyclistes.
La meilleure solution est de regarder
les statistiques et de se dire :
"Est-ce acceptable ? Est-ce que
trop d'enfants ou de cyclistes meurent ?"
Ensuite, on fait des ajustements.
- Exactement.
On peut dire aux voitures : "Il y a
des limites au nombre de cyclistes...
liées au nombre de piétons
que vous pouvez heurter sur une année."
Ou on peut changer,
on peut changer ces chiffres.
Trouver un ratio
que la société juge acceptable.
Le public dira :
"Nous n'accepterons aucun accident."
C'est... C'est différent.
D'abord, ça ne va pas arriver.
Il y a beaucoup de travail à faire
à cet égard.
Mais imaginez une voiture autonome ici...

French: 
qui élimine 50% des accidents.
C'est merveilleux, non ?
50% des accidents sont éliminés.
On pourrait sauver la moitié
des personnes qui meurent sur la route.
On devrait donc avoir cette voiture ici.
D'un autre côté,
50% d'accidents c'est encore beaucoup.
Cela signifie qu'il faut accepter
que ces voitures tueront beaucoup de gens.
Si on accepte
que ces voitures auront des accidents...
il faut se demander quel genre d'accidents
sont-elles autorisées à avoir ?
C'est une question
pour l'ensemble de la société.
Les nouvelles technologies ne sont
ni neutres, ni bonnes ou mauvaises.
C'est à nous de décider
comment nous allons les utiliser.

Spanish: 
que elimina el 50% de los accidentes.
Eso es genial, ¿verdad?
Fuera el 50% de los accidentes.
Salvaríamos a la mitad de la gente
que mueren al año en la calle.
Por lo que deberíamos tener este coche.
Por otro lado, sigue estando el otro 50%
de accidentes, que aún son muchos.
Hay que aceptar que los coches autónomos
van a matar a mucha gente.
Tan pronto como aceptemos
que estos coches tendrán accidentes
La pregunta es: ¿Qué tipo
de accidentes se les permitirá tener?
Esa pregunta va para toda la sociedad.
La tecnología nueva no es neutral,
pero tampoco es ni buena ni mala.
Depende de nosotros,
de cómo decidamos usarla.

English: 
There are still plenty of errors.
I recently swapped cars...
...but was able to track my old car
for six weeks.
I could have picked it up, or open
the roof while this guy was driving.

Spanish: 
Eso también se aplica
a las redes sociales.
Podemos usarlas para conectar
con los demás, formar una comunidad.
Pero también para cosas horribles,
como ya se ha visto.
Como amañar elecciones y más.
Es lo mismo con los vehículos autónomos.
Por eso este estudio es tan importante
para que podamos aprender
de los errores y del mal uso que hagamos
e incluso arreglarlo antes de que ocurra.
Esa es la diferencia entre ser víctimas
o ser los arquitectos del mañana.
Somos nosotros y los políticos
los que decidimos hasta dónde dejar entrar
inteligencias artificiales sobre ruedas.
¿Pero está esta discusión moral
lo suficiente a la orden del día?
Aún quedan un montón de fallos.
Hace poco cambié de coche
pero pude seguir
al otro coche durante seis semanas.
Podría haberlo cogido o abrir el maletero
mientras otra persona lo conducía.

French: 
Cela s'applique aussi aux réseaux sociaux.
On peut s'en servir pour nous connecter,
créer une meilleure communauté.
Mais aussi pour des choses terribles,
comme on l'a vu ces dernières années.
Pour essayer de truquer les élections etc.
C'est pareil pour ces voitures. Alors,
il est très important d'expérimenter...
afin de tirer les leçons
de nos erreurs et des abus possibles...
et d'anticiper les problèmes.
Alors, ce sera la différence
entre être les victimes de l'avenir...
ou en être les architectes.
C'est à nous et à nos politiciens...
de décider dans quelle mesure
on autorise l'IA sur roues en ville.
Mais cette question morale est-elle
suffisamment souvent à l'ordre du jour ?
Il y a encore beaucoup d'erreurs.
J'ai récemment changé de voiture...
mais j'ai pu suivre ma vieille voiture
pendant six semaines.
J'aurais pu la prendre ou ouvrir le toit
pendant que le gars conduisait.

English: 
I didn't of course, but that was a bit of
mistake on the manufacturer's part.
There more examples of that,
some of which are worrying.
It hasn't got out of hand yet.
But it would still be relatively easy
to hack 20 or 30 million cars.
Maybe something should go
a bit wrong before we wake up.
The concept of building a machine
that does the right thing...

French: 
Je ne l'ai pas fait, bien sûr,
mais c'était une erreur du fabricant.
Il y a d'autres exemples.
Et certains sont inquiétants.
Ce n'est pas encore devenu incontrôlable.
Mais il serait encore relativement facile
de pirater 20 ou 30 millions de voitures.
Peut-être faut-il qu'il se passe
quelque chose pour que l'on se réveille.
Pour nous,
l'exemple de la voiture est parfait.
C'est le parfait exemple
d'une question plus vaste.
Sur des machines capables de prendre des
décisions qui pourraient blesser les gens.
Ce n′est pas seulement l′exemple parfait,
mais aussi le plus urgent en un sens...
parce que ces voitures seront dans la rue.
Construire une machine qui fait
le bon choix est un concept impossible...

Spanish: 
Por supuesto que no lo hice,
pero eso es un error del fabricante.
Hay más ejemplos como ese,
algunos más preocupantes.
No se ha descontrolado todavía
pero sería relativamente fácil
hackear unos 20 o 30 millones de coches.
Puede que algo salga mal
de aquí a que eso cambie.
Para nosotros,
el coche es el dominio perfecto.
Es el ejemplo perfecto
para un debate abierto.
Sobre máquinas que tomarán decisiones
que podrían dañar a gente.
No solo es el ejemplo perfecto,
sino el que más presión hace
porque los coches
van a circular por la calle.
El concepto de construir
una máquina que haga lo correcto

French: 
car "le bon choix" dépend du contexte.
Il n'y a pas qu'un
mais plusieurs problèmes moraux.
Nous nous retrouverons
avec différents systèmes d'IA éthiques.
Le seul moyen de protéger ça
est de passer une loi.
Il faut l'intégrer au système judiciaire.
La justice est synonyme de morale
Une nouvelle voiture
est toujours quelque chose qui fait envie.
Plus elle a d'options,
plus on en a envie.
Spécialement quand la conduite autonome
devient une option.
Et pour ceux
qui ne veulent pas acheter de voiture...
les transports à la demande sans chauffeur
deviendront très bon marché.

Spanish: 
es imposible,
porque "lo correcto" es algo subjetivo.
No hay un único problema moral,
sino varios.
Vamos a acabar con diferentes sistemas
de inteligencia de diferente ética.
La única manera de proteger eso
es a través de la ley.
Hay que integrarlo en el sistema judicial.
"Justicia" es sinónimo de "ética".
Comprarse un coche nuevo suena tentador.
Cuantos más accesorios tenga,
más atractivo es.
Sobre todo cuando la conducción autónoma
es una característica.
Y para los que no quieran un coche
el transporte público autónomo
será súper barato.

English: 
...is impossible, because 'the right thing'
is subject to context.
There are not just one
but several moral issues.
We will end up with various different
ethical artificial intelligence systems.
The only way to protect that
is through a rule of law.
It needs to be built in the justice system.
Justice is synonymous with moral.

English: 
We've made such a big effort
to get the car out of the city centre.
And now they're driving themselves
back. That's a weird image.
We've said we want to give pedestrians
and cyclists more space...
...and cars as little as possible.
Many cities are optimised for cars.
The difficult thing for me is that I'm
discerning, but not against technology.
We should let go of this idea
of being in favour or against.
I'm against the power
that companies have...
...but in favour of what
technology can offer us.
As long as it's in the hands
of a democratic community.

French: 
On a fait de gros efforts pour éliminer
les voitures du centre-ville.
Elles reviennent sans chauffeurs.
C'est une image étrange.
On a voulu donner plus de place
aux piétons et aux cyclistes...
au détriment des voitures.
Beaucoup de villes sont optimisées
pour les voitures.
J'ai du discernement mais pas
en ce qui concerne la technologie.
Il faut abandonner l'idée
du pour ou contre.
Je suis contre
le pouvoir des entreprises...
mais pour ce que la technologie
peut nous offrir.
Tant que c'est entre les mains
d'une communauté démocratique.
La même technologie pourrait nous mener
dans deux directions différentes.
Aujourd'hui, le coût de prendre un Uber...
tourne autour de deux dollars par mile.

Spanish: 
Nos hemos esforzado mucho en sacar
los coches de los centros de las ciudades.
Y ahora vuelven conduciendo
ellos solos. Vaya panorama más raro.
Hemos dicho que queremos dar
a peatones y ciclistas más espacio
y el menor número de coches posible.
Muchas ciudades están
optimizadas para los coches.
Lo más difícil es que soy muy exigente,
no estoy en contra de la tecnología.
Deberíamos abandonar esa idea
de estar en contra o a favor.
Estoy en contra del poder de las empresas
pero a favor de la tecnología.
Mientras esté en manos
de una comunidad democrática.
La misma tecnología podría llevarnos
en dos direcciones muy diferentes.
Hoy en día, lo que cuesta
coger un coche, como un Uber
ronda los 3 dólares por kilómetro.

English: 
The future of the car industry
and the use of cars and roads...
...is very uncertain due to the many
changes that are taking place:
China starting to manufacture cars,
electric driving, autonomy...
...connectivity and data sharing...

French: 
Si le coût diminue pour arriver
à 30 ou 40% de cette somme...
ce sera moins cher que de prendre le métro
à New York ou à Londres.
Alors, les gens ne voudront plus prendre
les transports en commun mais la voiture.
Si nous arrêtions
de prendre le métro à Londres...
Londres serait totalement congestionnée.
La technologie peut donc nous mener
dans deux directions différentes...
selon les politiques...
les décisions que nous prenons
au niveau de la ville...
afin de promouvoir et taxer
un transport moderne ou un autre.
L'avenir de l'industrie automobile,
l'usage des voitures et des routes...
est très incertain en raison
des nombreux changements en cours :
la fabrication des voitures par la Chine,
les véhicules électriques, l'autonomie...
la connectivité
et le partage des données...

Spanish: 
Si ese número baja, y la mayoría
espera que baje 30 o 40 céntimos...
será más barato que coger
el metro en Nueva York o en Londres.
La gente dejará de usar transporte público
y usará vehículos privados.
Si ese fuera el caso,
si se dejara de usar el metro en Londres
Londres quedaría totalmente obstruido.
Un ejemplo de cómo la tecnología
podría tomar dos caminos diferentes.
Y la diferencia entre esos dos caminos
está en la política
en las decisiones sobre la ciudad
con el fin de fomentar y tasar
un transporte moderno u otro.
El futuro de la industria del automóvil
y el uso de coches y carreteras
no está claro, debido a los cambios
que están sucediendo.
China ha empezado a fabricar coches,
la conducción eléctrica, autónoma
la conectividad, compartir información

English: 
...they're all reasons why the car trade
is going to change dramatically.

French: 
vont changer radicalement
le commerce automobile.
Aujourd'hui, malheureusement,
quelques grandes entreprises...
savent tout de nous
et nous savons peu de choses sur elles.
Il nous faut avoir
une discussion ouverte sur les données.
S'assurer tout d'abord
qu'il y a une symétrie...
et aussi que nous ne créons pas
de monopoles.
Qui va lancer le débat
sur la protection de nos données...
et rendre cette symétrie possible ?
Je pense que le débat est en cours,
particulièrement en Europe.
Dans ce cas l'Europe est probablement
en avance sur les autres parties du monde
Le RGPD, le règlement concernant
la vie privée...
implémenté récemment en Europe
va dans cette direction.
Elle s'assure qu'il y a transparence
au sujet des données...
que l'on sait qui les utilise
et que l'on peut les récupérer.
Les régulateurs jouent un rôle
très important dans deux domaines.

Spanish: 
son razones por las que la industria
del automóvil va a cambiar por completo.
Hoy en día, por desgracia, se ve
en la sociedad, hay unas grandes empresas
que lo saben todo sobre nosotros
y de las que sabemos poco.
Lo que necesitamos es tener
un debate abierto sobre información.
Asegurándonos de que,
primero, haya una igualdad
pero que no se creen monopolios.
¿Quién empezará el debate
sobre guardarnos la información
para que la igualdad sea posible?
El debate ya ha empezado en Europa.
En este caso, Europa está seguramente
más adelantada que otros lugares.
El GPRS,
la regulación sobre la privacidad
que salió en Europa hace poco,
va hacia esa dirección.
Asegurando la transparencia
con la información
que se sepa quién tiene acceso
y que la gente pueda reclamar sus datos.
Los reguladores
son importantes en dos cosas.

English: 
How do you see it?
- I think the different companies...
...in the developing market
will make different choices.
Some companies will choose
to take more risks than us.
We have a safety culture.
We programme cars cautiously.
We test them thoroughly
and build in safety margins.

Spanish: 
Pueden hacer que se revele información
así, fuerzan a los fabricantes
a revelar estadísticas sobre accidentes.
Quién falleció y en qué tipo
de accidente fue, cosas así.
También pueden investigar la opinión
del público sobre lo que es aceptable.
Para llegar a un consenso.
Es lo que hace el gobierno,
representa el consenso del pueblo.
Y, entonces, pueden imponer
esas cosas a los fabricantes de coches.
¿Cómo lo ves?
- Yo creo que las distintas empresas
en el mercado en desarrollo
elegirán cosas diferentes.
Algunas decidirán
asumir más riesgos que nosotros.
Tenemos una cultura segura,
programamos los coches con cuidado.
Los probamos a conciencia y construimos
bajo unos límites de seguridad.

French: 
Ils ont la capacité de faire respecter
la divulgation des données.
Et d'obliger les constructeurs à divulguer
les statistiques sur les accidents.
Qui est mort dans quel type d'accident
et ainsi de suite.
Et ils peuvent également sonder l'opinion
publique sur ce qui est acceptable.
Ainsi, ils peuvent obtenir un consensus.
C'est ce que fait le gouvernement.
Ils représentent le consensus public.
Ensuite, ils peuvent imposer ces choses
aux constructeurs automobiles.
Comment voyez-vous ça ?
- Je crois que les différentes sociétés...
sur le marché émergeant
feront des choix différents.
Certaines entreprises
prendront plus de risques que nous.
Pour nous, la sécurité est primordiale.
On programme les voitures avec prudence.
Nous les testons minutieusement
et établissons des marges de sécurité.

Spanish: 
El inconveniente es que no es
el coche más rápido, conduce con cautela.
La justicia dirá quién es el responsable
y decidirán si lo ha hecho bien o no.
Tendremos que pasar esa fase.
Pienso que, nosotros, como empresa,
al igual que los gobiernos y otros socios
debemos encontrar
la mejor manera de hacerlo.
Cuando China traiga
los coches autónomos al mercado europeo
tenemos que darlo todo
para competir con ellos.
¿Seguiremos la ruta de Silicon Valey,
donde las empresas dominan el comercio?
¿Tendremos que confiar
en que nos van a dar lo mejor de verdad?
¿O seguimos la ruta china, donde el estado
decide lo que es ser un buen ciudadano?
Yo creo
que la actitud de Europa es la correcta.

English: 
The downside is that it's not the fastest
car in the road and drives cautiously.
The courts will decide who is responsible
and if it's been done well or not.
We'll have to get through that stage.
I think that we as companies as well
as governments and other partners...
...have to find the best way through it.
When China starts to bring self-driving
cars on the European market...
...we'll have to do our best
to compete with them.
Will we follow the Silicon Valley route,
where companies dominate the trade?
Where we have to trust that they
have our best interest at heart?
Or do we follow the Chinese path,
where the state decides...
...how to be good citizens?
I think Europe has the right attitude.

French: 
L′inconvénient est qu'elles sont
moins rapides. Elles sont prudentes.
Les tribunaux diront qui est responsable
et si ça a été bien fait ou pas.
Il faudra passer par là.
Je pense que les entreprises,
les gouvernements et autres partenaires...
doivent trouver la meilleure solution.
Quand la Chine exportera
des voitures autonomes en Europe...
nous devrons faire de notre mieux
pour leur faire concurrence.
Fera-t-on comme dans la Silicon Valley,
où les entreprises dominent le commerce...
et où nous devons leur faire confiance ?
Ou suivrons-nous l'exemple chinois,
où l'État décide...
comment nous pouvons être
de bons citoyens ?
Je pense que l'Europe a la bonne attitude.

Spanish: 
Aquí, el interés colectivo
y los valores son principales.
Europa está actuando de acuerdo con ellos,
también porque no queda otra opción.
No estamos al día
con lo que está pasando en Silicon Valley.
Tenemos las manos vacías, por ahora,
no somos un gigante tecnológico.
China tiene una visión poco atractiva.
Así que Europa trabaja su propia visión
sobre la infraestructura digital
y sobre lo que nos va mejor a nosotros.
Si ese es tu punto de partida,
la cosa cambia por completo.
Yo creo que las ciudades
que toman decisiones políticas claras
serán capaces de formar parte
en estas plataformas.
Y sí que me preocupo por las ciudades
en las que el clima político está ausente.
Ahí, la ciudadanía
está a merced de esas plataformas.
Queremos ver un futuro

English: 
Here, the collective interest
and values are central.
I see Europe acting accordingly,
partly because we have no choice.
We've missed out on what's going on
in Silicon Valley.
We're empty-handed.
We're no big tech at the moment.
China is an unattractive perspective.
So Europe has its own definition
of what to do with digital infrastructure...
...and how we want it to work for us.
If that's your point of departure,
it's a whole different ball game.
I think that cities that make
clear political decisions...
...will be able to take part
in these platforms.
I do worry about cities
where that political climate is absent.
There, citizens are at the mercy
of these platforms.

French: 
Ici, l′intérêt collectif et les valeurs
sont essentiels.
Je vois l'Europe agir en conséquence,
en partie parce qu'on n'a pas le choix.
On est passé à côté
de ce qui se passe dans la Silicon Valley.
Nous avons les mains vides.
Nous n'avons pas la technologie.
La Chine est une perspective
peu attrayante.
L′Europe définit elle-même quoi faire
avec l'infrastructure numérique...
et comment nous voulons
que cela fonctionne pour nous.
Si c'est notre point de départ,
alors c'est totalement différent.
Je pense que les villes qui prennent
des décisions politiques claires...
pourront participer à ces plates-formes.
Je m'inquiète pour les villes
qui n'ont pas ce climat politique.
Leurs citoyens sont à la merci
de ces plates-formes.
On veut un avenir...

French: 
où les données sont utilisées
pour comprendre et améliorer la société...
et non comme un instrument de contrôle,
comme c'est le cas aujourd'hui.
70 à 80% des accidents actuels
auraient pu être évités...
avec la technologie qui existe déjà.
Il faut que cette technologie
soit davantage utilisée pour les voitures.
Les Pays-Bas sont un peu en retard.
Nos voitures sont vieilles, plus petites.
Elles n'ont pas cette technologie.
C'est un argument...
en faveur des voitures autonomes
mais on peut déjà prendre des mesures.
Alors, pourquoi voudrait-on
une voiture totalement autonome ?
Peut-être pour emmener
les enfants à l'école.
Mais si on remplace les vélos
par des voitures autonomes, on régresse.
Alors peut-être que la voiture totalement
autonome est une solution compliquée...

Spanish: 
en el que se usen los datos
como un instrumento de mejora
y no como un instrumento de control,
como ocurre hoy en día.
Un 70 o un 80% de los accidentes
que ocurren hoy se podrían evitar
con una tecnología que ya existe.
Debemos esforzarnos mucho para combinar
esa tecnología con los coches.
En Holanda nos hemos quedado atrás,
porque conducimos coches antiguos
que aún no ofrecen esta tecnología.
Eso vale para los coches autónomos,
pero ya podemos avanzar.
Entonces ¿por qué querrías conducir
de manera completamente autónoma?
Quizás para llevar
a los niños a la escuela.
Pero pasar de la bici al coche autónomo
ya es un paso adelante.
Así que, quizás, un coche autónomo
es una solución complicada

English: 
70 or 80 percent of accidents that occur
now could have been prevented...
...with the technology that already exists.
We need to work hard to get
more of that technology into cars.
The Netherlands is somewhat behind
because we drive older, smaller cars...
...which don't have this technology.
That argument is used for self-driving
cars but we can already take steps.
Then why would you want to drive
completely autonomously?
Maybe to drive kids to school.
But taking them off the bike and into a
self-driving car seems a step backward.
So maybe the fully autonomous car
is a complicated solution...

English: 
...that creates a problem. I don't know
why we'd still want it, if cars were safer.
The question is what are you
optimising the system for?
I think it would be nice
if we focus on people.
That sounds a bit like 'Team Human'.
It's like coming out of the closet,
saying you're 'in favour of people'.
You want to improve things
to make people happier and get along.
I'm not in favour of optimising a system
or Uber's share ownership.
Those are the two choices you have.

French: 
qui crée un problème. Serions-nous pour
si les voitures étaient plus sûres ?
La question est de savoir
pour quoi optimise-t-on le système.
Je pense que ce serait bien
si on se concentrait sur les gens.
Ça fait un peu "Team Human".
C'est comme si avouait qu'on était
"pour les gens".
On améliore les choses pour que les gens
soient plus heureux et qu'ils s'entendent.
Je ne suis pas pour l'optimisation
d'un système ou l'actionnariat d'Uber.
Ce sont les deux choix que l'on a.
Merci de nous avoir suivis.
Pour en savoir plus,
consultez notre playlist.
Vous pouvez aussi visionner
cette vidéo recommandée.
N'oubliez pas de vous abonner...
N'oubliez pas de vous abonner...

Spanish: 
que provoca problemas, pero, si los coches
fueran más seguros, no lo querríamos.
La pregunta es:
¿Para qué se optimiza este sistema?
Sería genial
que nos centráramos en las personas.
Eso ha sonado un poco a "Equipo humanos".
Como si saliera del armario al decir
que estoy a favor de las personas.
Las cosas se mejoran para hacer feliz
a la gente y para facilitarnos la vida.
No estoy a favor de optimizar un sistema
ni de la propiedad de acciones de Uber.
Y esas son las dos opciones que tenemos.
Gracias por ver este vídeo.
Para más vídeos sobre este tema,
consulta la playlist.
También te recomendamos este vídeo.
No olvides suscribirte a nuestro canal
para mantenerte actualizado.

Spanish: 
No olvides suscribirte a nuestro canal
para mantenerte actualizado.

French: 
et nous vous tiendrons informés
de nos documentaires.
