
Spanish: 
¿Por qué estamos hablando tanto de robótica
e inteligencia artificial en la actualidad?
Porque...
Estas tecnologías
están avanzando y funcionan cada vez mejor.
Pero...
¿De qué van?
¿Qué es lo que hacen?
Lo que hacen es automatizar tareas.
Automatizan cosas
que nosotros, como humanos, solíamos hacer.
Estamos en una era en la cual la tecnología 
influye cada vez más en nuestras vidas
y donde adquiere un papel 
cada vez más autónomo.
La tecnología hace cosas
que antes hacían los seres humanos.

Spanish: 
Cuanto más sucede esto...
más importante es pensar en lo que queremos hacer,
en qué queremos hacer con la tecnología.
Qué queremos hacer
con problemas potenciales como la privacidad.
Pero también abordar otras cuestiones,
como la responsabilidad.
¿Quién es responsable cuando algo
sale mal con un sistema automatizado?
Hay otras cuestiones que tienen 
que ver con aspectos sociales
por supuesto, la pregunta de si se perderán empleos,
cuántos se perderán y qué sucederá.
También una pregunta sobre el significado del trabajo
y el significado de nuestras vidas.
Creo, por decirlo en pocas palabras,
que el mayor desafío, que el mayor peligro es
simplificar, simplificar demasiado,
reducir el significado de la ética.

Spanish: 
La ética tiene que seguir siendo una pregunta,
y la tentación, en el ámbito del derecho
pero sobre todo en el de la informática,
es convertir la ética en una respuesta.
Muchas nuevas tecnologías son controvertidas
y preocupan a la gente
pues se siente afectada por ellas y, ante esto,
la respuesta típica de los desarrolladores es:

English: 
I have no problem knowing
if a machine can think,
if we ask the question
in non-technical terms.
Without taking into account
the idea of simulation, etc.
In general terms, if you ask me
if a machine can really think, the answer is no.
I know that the machine cannot think
for many reasons.
Because, is such a reductionist
view of the human being.
To believe that all human thought
is in the brain
and that it is not in the whole body, 
in its history, in its context, etc.
seems to me that
this is such a reductionist view,
that it is absolutely impossible
that can be produced.
However, on the other hand,
the opposite effect is true.
Human beings can think like robots.
We are seeing it every day,
and we will see it more and more.

Spanish: 
"oh, no entienden los números", "no nos escuchan",
"¿por qué no hacen caso a nuestros datos?", etc.
El problema es que en realidad
se está hablando de dos cosas distintas.
Los ingenieros hablan
de información cuantitativa
mientras que lo que le preocupa a la gente
suelen ser las implicaciones éticas.
Entonces, ¿Cómo diseñamos?
No sólo se trata de ver los problemas
y decir, "¡oh, esto es muy complicado!"
Es cierto.
No sólo identificar los peligros, 
claro que es importante hacerlo,
sino también pensar en soluciones de diseño,
construirlas y probarlas,
y pensar en cómo escalarlas.
No sólo pensar, vale, tenemos un humano y un robot,
o unos pocos humanos y unos pocos robots
o sistemas de inteligencia artificial,
pensar realmente en su impacto sistémico.
En el panorama general veo esto
como una nube oscura
sobre el futuro de las
sociedades democráticas.
Pero esta nube no tiene
por qué existir necesariamente.

English: 
Robotics are many different things
from Artificial Intelligence (AI).
AI can be applied to many other fields 
that aren't robotics,
but the conjunction of these two worlds,
is what shapes robots
as we understand them to be right now.
In fact, the countries where
there is a greater density of robots
are the countries that have higher productivity

Spanish: 
Si te fijas en, digamos,
Noruega, Dinamarca, etc.
allí se negocia colectivamente sobre el trabajo,
la vida social, el bienestar del día a día, etc.
y la gente tiene voz, tiene algo que decir, 
y los resultados parece que pueden ser diferentes.
Sin embargo, en los Estados Unidos, las tendencias
a largo plazo con respecto al cambio tecnológico...
"¡Esto es innovación, tiene que ser bueno!"

English: 
and the quality of jobs, the jobs the workers have,
are improving over time.
So, you don't have to be afraid of
the implementation of new technologies,
but rather set the lines along which
their application should be developed.
Because, let's not kid ourselves,
artificial intelligence will be collective
or it won't be.
That is, the future that awaits us,
is a future of interconnected devices,

Spanish: 
Ponemos mucho énfasis en el aspecto ético
de la implementación de la tecnología
porque pensamos que
si introduces una nueva tecnología
también tienes la responsabilidad
de hacerlo de la mejor forma posible.
Los robots son cosas.
No hay ningún fundamento técnico,
filosófico ni legal, a día de hoy,
que justifique considerar a una máquina
o al robot más avanzado,
o a un sistema de IA,
como algo más que un objeto.

English: 
each one of them with intelligent capabilities.
If we take into account the human need
for social connection with other human beings,
but also with nature
and with other non-human animals,
and this is what we try to implement in the artificial
creatures and entities we are going to construct,
then, we will create a more harmonious,
a more inclusive society.
One where these silicon beings
will also have a place.

Spanish: 
En la tecnociencia no tenemos
una preocupación escéptica.
Empezamos justo en el medio de las cosas.
Sabemos que manipulamos la materia, 
que nosotros mismos somos físicos.
Estamos en interacción material con el mundo,
así que no tenemos ese problema
de cómo unir las cosas,
la mente y el mundo.
Ese no es nuestro problema.
Nuestro problema es hacer que las cosas funcionen,
organizarlas, componerlas de tal manera 
que funcionen y produzcan ciertos efectos.
Y también es una forma de comprender el mundo,
de aprender sobre él.

English: 
The million dollar question is what is a robot,
and we aren't going to agree.
If you sit two people
who do robotics at a table,
they'll end up with three
different definitions of a robot
because we aren't completely in agreement.
There are various definitions from different entities
and none of them satisfy the community,
therefore, it's a bit difficult.

English: 
Also, the public, in general, uses robot
and artificial intelligence quite indifferently
and many of the fears and questions
that people have,
in fact, when I go to give informative talks
the majority of the questions aren't about robotics
they're about artificial intelligence.
A robot is a fairly complex system.
A robot has a very important part that differentiates it
from others that aren't robots,
such as, a mere artificial intelligence,
and it's that it has a chassis, it has a body.
So, there's something mechanical that allows it to move
and do actions that are tangible, that are palpable.
It isn't a thought that stays in a cloud,
or is a code that resolves a problem and that's it.
But rather there is an action,
a physical action that can be seen.
This is the definition of a robot,
it is this mechanism that I touch,
that does an action whose result
can also be touched, in some way.

Spanish: 
Tal y como lo he definido,
un robot es similar a un "ser vivo"
que también percibe y
actúa en el entorno.
La diferencia es que un robot
es construido por humanos,
programado, directamente o por aprendizaje,
por humanos para ayudarles.
No tiene sus propios objetivos,
como nosotros,
como los seres humanos
o como los animales.
Así que es una máquina,
una máquina física, no software,
una máquina que interactúa con su entorno
y actúa en él.
Por supuesto, la acción es clave
para definir a un robot, la acción física.

English: 
And then it is also equipped with a specific intelligence,
which makes it autonomous.
This is another very important part of the definition,
if not we would be talking about a mere automaton
that repeats the action and nothing more.
So the robot needs its chassis
and its intelligence.

Spanish: 
Para actuar en su entorno necesita percibirlo,
construir representaciones.
Estas representaciones le permitirán 
interpretar el entorno para decidir cómo actuar.
Así que, acción, percepción, decisión.
Por supuesto que necesita sensores
para moverse en el entorno,
pero también, si se trata de coger cosas 
o de manipularlas,
precisa de una visión
más completa del entorno.
Necesita información en 3D
no sólo para ver dónde está el objeto
sino también para saber dónde está él mismo
y cómo mover el brazo para llegar hasta el objeto.
Cosas que nosotros como humanos 
aprendimos fácilmente cuando éramos niños.
Estas son las habilidades
que tenemos que enseñar a los robots.
Para lograr estas capacidades
lo mejor es que sea capaz de aprender,
porque de lo contrario
solo estará preprogramado

English: 
When we talk about robots, this is the type of robot
that is in everyone's collective imagination.
This type of robot
needs two main things.
Things that would be more robotic,
that would be more physical, the sensors, actuators
how I decide to move,
these types of things.
And the artificial intelligence, which is 
how the robot realises that something is happening,
how it decides which of the options is the best one,
how it detects dangerous situations,
how it confronts these dangerous situations,
how it sees a situation that nobody has prepared it for,
what we call unexpected situations.
Nobody programmed the robot to act in this moment,

Spanish: 
y realmente no podrá ser muy eficaz
o sus funciones se limitarán a
lo que ha sido programado explícitamente.
Así que el aprendizaje
permite mejorar esas capacidades,
la capacidad de decisión, la capacidad de acción
y la capacidad de interpretación.

Spanish: 
La forma en que interactúa con la gente
podría ser diferente.
Pero básicamente tiene que entender
lo que le estamos pidiendo que haga
y esto significa
que tenemos que proporcionar al robot

English: 
but the robot, sees a situation,
is capable of doing something
and to do something on the right track.
Maybe it isn't the best choice that could be made,
but it aims in the right direction.
This generalisation of knowledge
is artificial intelligence.
The interaction between a robot and a person
is very difficult to model.
So this is where artificial intelligence
starts to make sense.
When I, as a human, as a mathematician,
as a scientist,
am not going to be able to depict
something in equations,
that I can execute in a program,
the artificial intelligence
allows me to put a model
that I can use to control the robot.

English: 
A social robot will never be able to interact
with a person
if it isn't capable of recognising or interpreting
facial expressions showing emotion,
or feelings, expressed not only by proxemics
(the distance between two bodies or objects)
or non-verbal behaviour.
This means that when a normal arm,
a common industrial one, conservative, so to speak,
is confined because it's dangerous for people.
When you tell it to make a movement, the arm moves
and when a person passes by or there's an object,
the robot will try to reach this position, 
until you turn it off.
So, this is why there are these types of collisions.
Feeling the force, at the moment
it touches any type of object,

Spanish: 
la habilidad, la capacidad de interpretar
el lenguaje, el habla, los gestos
porque hablamos con nuestras manos
tal y como lo estoy haciendo ahora.

Spanish: 
Las dificultades están relacionadas con la complejidad,
con la diversidad del entorno

English: 
the robot feels that an external force is being applied,
and the first behaviour is to unblock the movement
and to not worsen a type of collision
that could happen, especially with a person.
In the end, what we want are safe robots.
We want robots that perceive their body safely,
that are capable of predicting what actions
are they going to do in the environment.
It is very important that we don't leave robots
only as reactive agents,
but rather equip them with the reactive part,
but also with a predictive part on what effects
they can have when they interact with a person.
This is going to provide safety, as well as improve
the interaction with the person in front of them
or with whatever other environment.

English: 
The world of artificial intelligence
has singled itself out in different human abilities.
The ability to reason,
the ability to learn,
the ability to interpret
what the sensors are giving us.
As such, there are many abilities in our intelligence.
And this has developed, within the area
of artificial intelligence, into specific areas,
in niches, where researchers have tried
to reproduce these same abilities in machines.
Not imitate them, not do them in the same way,

Spanish: 
y de las tareas que el sistema es capaz de realizar.
Si tienes poca diversidad, poca complejidad,
es fácil automatizar tareas.
Si tienes gran complejidad,
diversidad de situaciones, incertidumbre,
en realidad no sabemos cómo hacerlo.

English: 
but rather to resolve the problems
humans are facing with these abilities.
In 2005, having a mobile robot, 
one that moved, was incredible.
It was really about a lot of mechanics,
a lot of motors, a lot of electronics, etc.
It was the mechatronic being.
Robotics was manufacturing
a mechatronic being that worked.
Today, that’s already here.
There are many people
capable of doing this
cheap, expensive, Chinese
American, Japanese, Spanish, whoever.
This exists. Now, the robot is the robot’s software,
that’s the difference.
Globally it’s the software
and then for industrial applications, like we do
it's very important the process,
to do well what it's doing.
In all of this there are lifelong robotics techniques,
but also now a lot of AI,
which would be...

Spanish: 
Ahora estamos alcanzando
una nueva fase de la automatización
gracias a los sistemas de IA
y su capacidad de predecir a partir de datos.
Así que...
Esta es la era de los datos.
Los datos se producen
en cantidades inimaginables.
Cada segundo, están en Internet,
están disponibles.
De forma que puedes usar sistemas 
basados en la estadística
para tratar de identificar
patrones en esos datos,
para tratar de construir predicciones
a partir de eventos pasados,
porque tienes muchos datos previos.

English: 
How I'm going to help the robot become
a model of reality, when it's difficult to model.

Spanish: 
¡Esto es lo que la IA está haciendo!

English: 
Now we’re in another boom,
the boom of "deep learning",
of analysing with "high performance computing",
with high performance computers,
we now have large amounts of data within our reach,
thanks to something called the Internet,
and algorithms are being developed,
or well, developed...
better to say, they are readapted and improved
algorithms that have existed for more than 20 years
and before, they didn’t provide great results
because they lacked data,
and now they work very well.
There we are.
Deep learning algorithms,
for certain perceptive things,
truly work really well
because it’s possible to practice with a whole lot of data,
and get rapid association.
However, you have to connect them
with more symbolic reasoning systems

Spanish: 
Se trata de clasificar muchos parámetros
y esto exige optimizar valores.
No se sabe por qué este conjunto de valores
proporciona tales resultados.
Es una caja negra.
Debido a todo esto, la idea es que
si queremos implementar esos sistemas,
si queremos usarlos,
deberíamos poder confiar en ellos.

English: 
to be able to explain
why certain decisions are made.
Or even go a bit further,
linking together different procedures
to be able to do a more complicated task.
Well, yes, it has classified it,
but is incapable of saying why.
It’s not capable of creating a story,
a "storytelling"

Spanish: 
La ciencia puede usar la tecnología,
pero su objetivo es la representación.
La tecnociencia utiliza representaciones,
usa las teorías científicas como herramientas.
La tecnociencia no está tan interesada
en el desarrollo de teorías,
en crear verdaderas representaciones y descripciones.
La tecnociencia no está tan interesada en asegurar
que las cosas sean comprensibles
para la mente humana.
Entonces, ¿qué son los robots cognitivos?

English: 
that allows a human to understand, 
why this pattern is what it is.
So, these algorithms functioning now,
that are black boxes
and given some inputs create some outputs,
but we can’t see why,
in this paradigm, they aren’t very useful
for the overall perspective.
They can be useful for very specific things.
But, in general, we need robots to know
how to explain why they make decisions.

Spanish: 
Hay muchas definiciones diferentes. La cognición es
la capacidad de pensar, razonar y aprender.
Así que es un elemento esencial de estos robots.
Se podría decir que los robots tradicionales
han estado durante décadas
construyendo nuestros coches,
y lo hacen en entornos muy bien cerrados.
A esto lo llamamos sistemas cerrados
(entornos que podemos entender y controlar).
En realidad, nos hemos asegurado
de que el mundo entero pase por estos robots
de una manera completamente predecible.
Pero nosotros no vivimos en un mundo así.
Los humanos no vivimos en un mundo como ese,
es impredecible, es caótico, es complejo.
Eso significa que si queremos sacar a los robots
fuera de los laboratorios cerrados
donde los humanos no deberían estar,
de hecho les hemos puesto vallas,
y sacamos a estos robots fuera, al mundo real,
donde los humanos los usan, bien o mal, interactúan
con ellos, les tienen miedo, juegan con ellos, etc.,

Spanish: 
Eso es comportamiento complejo.
Entonces, de repente, el elemento humano se acerca.
Y ese es el momento en el que necesitamos empezar
 a pensar no sólo en los sensores y la cognición
sino que también deberíamos pensar
en este equilibrio dinámico.
Está muy situado, muy ligado a escenarios específicos,
por lo tanto tienes que centrarte en el contexto.
No puedes decir, vale,
¿qué es un robot interactivo?
Depende de dónde quieras situarlo,
de dónde quieras construirlo.

English: 
People work with errors,
we work with uncertainty,
while robots right now
are obligated to be precise, exact.
We need robots that, to interact with people,
are capable of working with this error.
Error in the body, error in what happens,
error in the models,
all of this is what we need to solve.
Because in the end, a robot or a device, 
however advanced and collaborative it may be,
if the user doesn’t perceive it as helpful

Spanish: 
La tecnología táctil pretende
replicar la presencia de algo.
Aquí estoy tocando un objeto,
en este caso un libro.
Si quitas el libro y pones una tecnología en mi dedo,
como esta que estamos desarrollando,
lo que hace es empujar mi dedo
en cuanto me acerco a la misma altura.
Y así siento el tacto.

English: 
or as a possible technology
that is going to improve their quality of life,
they aren’t going to accept it.
They’ll even receive it as one more burden,
one more thing they have to learn how to handle.
Agency is the feeling of control,
the feeling that one is the owner of an action.
Agency can be altered in pathological situations
and it is something very interesting because,

Spanish: 
Si entendemos cómo usamos nuestro cuerpo
y la fuerza para controlar nuestros movimientos,

English: 
in Virtual Reality, we can dissociate
the execution from the movement...
We can dissociate when someone does an action
but their virtual body can do something else.
This gives us an experimental framework 
in which we can see what the bases of this agency are.
Agency is a concept used in psychology,
for example,
which allows you to be able to recognise 
your effect in the world.
Robots don’t have this ability, but humans do.
The concept of responsibility, that you are responsible for an action in the world,
is based on this, and this is
also based on the body.
Because you learn what effect you create
from the relationship between your actions,
and the effect they produce on the environment.

English: 
Of course, with the evolution of prostheses,
with a more natural control of their movement
and the inclusion of sensors that also allow to enhance
and improve the tactile sensations, etc.,
incorporation will improve a lot,
and it can come to feel like part of their own body.
The big difference exoskeletons have
from other types of robots is that you can wear them.
It’s a material, a device that you put on,
that you attach to your body
in a way that you can replace, not replace, 
at times replace,
but at other times incorporate
or add energy because you need it.
For example, people with mobility problems.
There’s a concept that is very relevant,
which is assistance.

Spanish: 
cómo podríamos usar eso como un enlace
para hacer que los robots y los humanos
interactúen de verdad, y no solo
se pasen el control del uno al otro.

Spanish: 
Así que un gran número de cambios 
fueron necesarios en ese sentido
que hicieron la sociedad más inclusiva.
El término en español es "diversidad funcional".
La idea es que una sociedad buena,
una sociedad justa,
debe satisfacer las necesidades de su gente,
lo cual incluye cambiar
las estructuras materiales,

English: 
The personal assistance
but also material assistance
or by means of machines.
Because in many cases there are rights 
that certain people can’t satisfy
or can’t exercise, without the support
of something or someone.

Spanish: 
el software y el hardware,
para hacerlos inclusivos.
Por lo tanto sostengo que las emociones de la gente
son en realidad señales importantes
de que algo valioso está en juego.
Por esta razón deberíamos tomarlas en serio

English: 
The world around us is made for humans,
that is, we have two legs and two arms.
So, accessibility to everything around us 
is thought for or adapted to our body.
Often, then, it is easier to create a humanoid
because now we don’t have to touch the environment,
it’s already there.
Maybe making another type of morphology
often implies that you have to change the environment.
Self-perception is something
that everyone takes as common knowledge
but most people wouldn’t know how to explain it,
or whether it is a feeling or not,
or how bodily integration works in the brain
with a certain amount of detail.
Or the role of emotions in all these processes.

English: 
What is an emotion?
It is a neurochemical system
that is used to make sense
and put a label on events.
It is also a type of structural arrangement of the body
towards certain relationships with the world.
I don’t know if I’m being clear.
If something is harmful depends on my structure.
Nothing is damaging or positive, simply 
because of its internal, ontological structure.
This siphon is good or bad? It depends.
There are beings who will die 
if they drink from it.
There are beings who if they drink from this,
under certain conditions, it will be good for them.
What emotions create is a structure 
that opens to interact with the world.
At MIT they had Leonardo and Kismet.
They already had very basic interactions: 
if I’m angry I make my face look sad,
and the other makes a sad face as if it felt empathy.
It doesn’t have empathy.

Spanish: 
y comenzar la discusión sobre los aspectos éticos
de la tecnología a partir de ahí.

Spanish: 
Ahora, sin embargo, las máquinas
pueden simular gran parte de todo eso.
Las máquinas pueden parecer inteligentes,
simular tener sentimientos, emociones e incluso
un vínculo emocional con los seres humanos.
Por otro lado, los humanos son muy propensos
a humanizar los objetos con los que interactúan a diario
Ahora no tienen probablemente moral.
No tienen conciencia de sí mismos.
Pero sí tienen comportamiento, actúan.
Esa acción puede ser sorprendente o incómoda,
o tal vez solo correcta a veces,
pero tal vez no tan correcta en otras ocasiones.
Y eso, sólo hablando de un humano y un robot.

English: 
It’s one of the things being played with on 
an engineering level.
To show "I have a robot that feels". 
No! Right now robots don’t feel anything.
"It’s that you don’t know…"
No! Feeling is a much more complex chemical process.

English: 
Robots are going to create work
because, on the one hand,
they’re going to make it possible to create 
jobs we still can’t even imagine.
Because there’ll be a need for people to maintain,
build, program, paint, dress the robots.
And there’ll be a need for people in other tasks

Spanish: 
Por lo que el impacto
de este tipo de tecnologías en la sociedad...
¡Guau! Es alucinante pensar en ello.
Nuestros trabajos del futuro,
se llamen como se llamen,
implicarán hacer muchas
de las tareas más humanas,
porque eso es justo
lo que los robots no pueden hacer.

Spanish: 
Así que, desde una perspectiva personal
vemos muchas...
oportunidades para los robots
en el sector de la agricultura o el de la salud,
pero solo si los robots se implementan
de una manera que incluya a las personas.
No es nuestro objetivo
reemplazar a la gente con robots.
Y por eso en el laboratorio
también ponemos mucho énfasis
en trabajar con "cobots" [robots colaborativos],
donde el robot y la persona pueden trabajar
conjuntamente, por ejemplo, en el ensamblaje de cosas.
Y si nos fijamos en la industria,
veremos que este tipo de tecnologías

English: 
that will be made possible thanks to robots liberating us
from many tasks that we are forced to do now.

Spanish: 
son una de las razones por las que
las empresas no se deslocalizan
sino que son capaces de mantener
la producción aquí.
Así que...
también contribuye al tipo de panorama económico
que tienes en un país
si eres capaz de implementar nuevas
tecnologías industriales inteligentes
porque no es sólo el caso de los robots,
es la industria inteligente en su conjunto.
Cuando piensas en lo que la gente
debería estar aprendiendo ahora...
La respuesta es:
no hagas cosas que la IA pueda hacer.
Lo que significa enfatizar las habilidades más humanas,
las habilidades blandas [soft skills].
Y ahora la gente está obsesionada con STEM:
ciencia, tecnología, ingeniería y matemáticas.
Y eso está bien.
Pero en realidad, muchas de esas cosas 
son exactamente el tipo de servicios
que podrían ser provistos por gente súper inteligente
en Rusia, Ucrania o Pakistán
o programados en un software de IA.
Así que, si quieres ser innovador,
si quieres estar a la vanguardia,

Spanish: 
habrá todo el espacio del mundo para ti.
Pero al final, muchos de estos trabajos
 serán automatizados.
Sin embargo, las habilidades blandas [soft skills],
como las reuniones, ser humano, ser enfático,
ser ético, ser curioso, 
afrontar situaciones desconocidas
ese tipo de habilidades no serán reemplazadas
y serán cada vez más valoradas.
También cosas que requieren el cara a cara,
ser bueno en las reuniones y hablar con la gente,
motivar a la gente, conocer a la gente, 
generar confianza.
Ese tipo de habilidades son las que creo 
que irán hacia adelante.

English: 
Of course, we advocate for an approach,
as the OIT says, focused on the worker,
on work as a useful quality in people’s lives,
not people robotized to work better,
but rather people who are skilled and trained
to be able to occupy those work niches.

Spanish: 
Cuando se fabrica algo se puede hacer
con los brazos o con las manos.
Pero normalmente se suelen inventar máquinas
para hacerlo de forma más eficiente, más rápida,
tal vez de una manera más precisa, más exacta.
Nosotros automatizamos,
queremos producir "mejor".
Automatizamos los procesos repetitivos.
Hemos estado automatizando
durante mucho tiempo.

English: 
Because, according to our studies,
work isn’t going to be destroyed
in such an alarming and techno-pessimistic way
as it’s been said up to now.
The nature of the available work is going to change,
and the basic challenge is
if we are prepared to take over these jobs.
On average a person’s activity or job

English: 
typically can easily have between
10 and 15 different tasks within it.
Some of them may be easier to model,
to automate, and others not so much.
I think, taking this into account,
where you need to focus the subject
is on the person-machine team.

Spanish: 
Cambiar la economía puede ser positivo y negativo,
la automatización es una forma de producir riqueza
de mejorar la capacidad de la sociedad
de producir bienes y riqueza.
Normalmente para compartir mejor
esta riqueza y esos bienes.
Así que es positivo, pero al mismo tiempo
es negativo porque tenemos el desafío
de lidiar con la pérdida de significado,

Spanish: 
con la pérdida de nuestra posición en la sociedad,
porque estamos definidos por nuestros trabajos.
Estamos definidos por nuestras competencias,
y por lo tanto esto es un desafío.
Esa es la razón por la que
estamos hablando tanto de esto ahora.
Las preguntas son sobre ética.
Pensemos en el caso de los vehículos
de conducción autónoma.
Todos los sujetos podrían ser responsables
de algunas partes en la denominada
causalidad final del accidente.
Determinar cuál de ellos es el único
o principal responsable
podría ser muy complejo y muy exigente,
tanto desde el punto de vista legal como económico.

English: 
The robot must be capable
of giving you an explanation for this.
That it isn’t just a mere association of:
"statistically this is the result".
But rather that it can say: "I have done this
because this other thing happened"

English: 
or because "in a previous interaction
you told me to go faster or slower".
I mean that now the subject of
what is being called "explainability"
within artificial intelligence
is also very important.
Because the more relationship there is with people,
the more necessary it is to speak in their own terms.

Spanish: 
Así que nuestra visión sobre la ética de la tecnología
no es que los ingenieros hagan el trabajo
y luego entremos como filósofos críticos
y digamos que todo esto está mal
debería haberse hecho diferente.
En vez de eso, vemos realmente
las maravillosas aportaciones que las tecnologías
hacen a nuestro bienestar, al mundo.
Pero también vemos
sus posibles riesgos y desventajas.
Nuestra idea es que si las detectamos 
en una etapa temprana
y reflexionamos sobre ellas,
y realmente nos involucramos
en el pensamiento ético desde el principio,
entonces podemos abordar
algunos de estos problemas que puedan surgir
y rediseñar las tecnologías
para que realmente se desarrollen para lo mejor,
en vez de para lo peor.

Spanish: 
¿Cómo te aseguras de que se mantengan 
en sintonía con lo que somos
y con lo que seremos en el futuro?
Eso es muy delicado.
Hay respuestas inteligentes para esto.
Algunos informáticos han creado
modelos de aprendizaje de refuerzo inverso.
Pero incluso esas respuestas tan ingeniosas
tienen problemas
porque se basan en una comprensión muy reduccionista
de lo que es tener una preferencia ética.
Es bastante difícil decir vale,
construimos directrices éticas
y luego los ingenieros
simplemente las implementan.
Es muy difícil.
Así que tenemos que encontrar
características en las interacciones
que representen principios amplios
como la innovación responsable.

English: 
The promotional work the European Union 
institutions are doing is very important
and, in this sense, the Commission,
promoting projects all over Europe

English: 
so researchers reflect on how, transversally,
to find the minimum necessary standards
to regulate technological advances
for the benefit of society,
of Europeans, and for everyone
who interacts and has relationships with us.

Spanish: 
El derecho, en parte, es eso.
Necesitamos respuestas
para todo tipo de aspectos de nuestra vida
en los que no podemos seguir
haciendo preguntas todo el tiempo.
Necesitamos como una respuesta oficial.
Así que la ley estabiliza
la respuesta a la pregunta ética.
Pero incluso entonces deberíamos
seguir cuestionando estas respuestas.
Mientras que ya de por sí
resulta difícil seguir cuestionando las leyes
aún es más difícil cuestionar los sistemas informáticos,
en los que subyacen decisiones éticas integradas.
Creo que si podemos unir

Spanish: 
la informática con la filosofía
y las ciencias sociales,
tendremos más posibilidades
de entender lo que está pasando
y construir una tecnología mejor
que esté ahí para los seres humanos
y que respete nuestros valores.
Entre nuestros valores está,
por ejemplo, la privacidad.
Nuestra vida privada es algo que valoramos,
al igual que valoramos nuestra seguridad.
Así que cuando tienes un sistema
que está eliminando, de alguna manera
tu privacidad,
tu propia...
finalmente tu intimidad, tu vida personal.
Y este sistema realmente se aprovecha de ello
para guiarte en la toma de ciertas decisiones.

Spanish: 
Me refiero, por ejemplo
a los anuncios personalizados, etc.
Yo apoyo la idea de tratar de conservar
nuestros valores europeos, y no decir
vamos en la dirección autoritaria de China 
o en la dirección totalmente "laissez faire" de EE.UU.
Así que creo que sería bueno encontrar
nuestro estilo europeo de regulación
y elaborar una visión para esto.
Creo que este grupo de expertos puede contribuir
pero al final es algo que también
debería ser objeto de debate público.
A menos que pienses detenidamente en
cómo los humanos cambiamos nuestro punto de vista
sobre lo que está bien y lo que está mal
no puedes diseñar sistemas
que nos ayuden a tomar decisiones
de una forma que se mantenga fiel
al hecho de que podemos cambiar,
de que estamos evolucionando constantemente.
Este es uno de los mayores desafíos
a los que nos enfrentamos hoy en día

Spanish: 
cuando diseñamos sistemas de apoyo a la decisión, 
principalmente en contextos más complejos.
¿Cómo los acompasamos?
En muchos países europeos todavía,
el cuidado es asumido por las mujeres.
En la familia y dentro de la familia
y a veces... no están contratadas.
Lo hacen porque es parte
del deber y de la tradición
y esto también es un problema
pues tiene un sesgo de género.
Este es un sector femenino, el cuidado.
Mientras que la ingeniería y la tecnología 
son sectores predominantemente masculinos.
Así que, estos dos mundos se encuentran aquí,
y eso también es algo que puede ser muy innovador
pero también es la razón por la que
el cuidado del hogar todavía tiene un estatus inferior.
Muchas de las cosas que están sucediendo
pasan desapercibidas.

Spanish: 
Ellos entienden que...
antes, la mayoría de las tecnologías
se desarrollaban en laboratorios.
Ya sabes, esta imagen del ingeniero,
el ingeniero hombre caminando con una bata blanca.
Eso ya no existe.
Sin embargo, hoy en día, muchos ingenieros
entienden que eso no es suficiente.

English: 
The presence of both men and women in all facets of
life is very necessary, right? In all professional branches.
Because as I’ve said,
the perspectives are complementary
and this makes the overall result
much more heterogenous,
and positive, and good.
I’ve given talks at primary schools, because
that’s when girls still don’t have that cultural influence
that says engineering isn’t for them.
As, in general, they are
more evolved than boys at this age,
the experience is really great.

Spanish: 
Necesitas entender cómo funciona
la tecnología en un contexto social.
Vamos a encontrarnos con los robots
en los hospitales, en diferentes entornos.
Por esta razón es importante
preparar a la gente para que lo entienda,
para que sea consciente de lo que son los robots,
de cómo pueden interactuar con ellos.
Y para esto, el sistema educativo
juega un papel muy importante.
Estas aplicaciones ya han sido probadas en residencias
obteniendo muy buena aceptación del personal.
Si ellos entienden que
no son "robots de cuidado"
en el sentido de que realmente no se encargan
de estas tareas de cuidado a los residentes
sino que son más como una ayuda para el personal,
para apoyarlos en su trabajo, para hacerlo más fácil,
para ayudarles a centrarse en las cosas
que realmente tienen significado.

Spanish: 
Así que creo que esto también va
en el área de los desafíos no técnicos
y de cómo lidiar con ellos.
Por supuesto que la aceptación
es un aspecto muy importante.
Pero desde nuestra experiencia,
si la gente que va a trabajar con robots entiende
que están diseñados para hacerles la vida más fácil
y no para reemplazarlos,
lo cual creo que es una ilusión porque,
en cualquier caso, no tenemos suficiente personal.
Así que realmente se trata
de hacer la vida laboral más fácil.
Ayudar con las tareas que no son realmente de cuidado
dando soporte a gestiones puntuales.
Pero también apoyar
algunas tareas físicas,
por ejemplo, levantar más fácilmente
a una persona de la cama.
A veces las personas mayores dicen:
"no gracias" a las innovaciones.
Y creo que solemos malinterpretar esta señal,
pensamos que tienen miedo o que son inseguros

English: 
There needs to be a ton
of previous work behind it
for something to be more intuitive
than how technology currently is.
Because what any type of device first causes
is rejection on the part of the user
because it’s seen as being very complex,
or because it’s seen as threatening.
If they don’t really know what it consists in,
they suspect there’s something hidden.
So, for me, all this non-technical part
is going to have increasingly more importance.

Spanish: 
o que simplemente no quieren ser parte del futuro,
pero creo que lo estamos entendiendo mal.
Lo que sucede es que cuando uno se hace muy mayor,
a menudo se vuelve más pragmático.
Porque has tenido muchas experiencias
y cuando eres mayor,
tienes que economizar tu tiempo y tu energía.

Spanish: 
Creo que es necesario enseñar robótica 
desde las primeras etapas de la educación.
En esas fases es interesante entender
que los robots no son sólo un tema de estudio,
sino también un instrumento de estudio.
Podemos enseñar cómo funcionan los robots,
pero también podemos enseñar con los robots.
Los robots pueden ser una herramienta para explicar
física, matemáticas, programación y demás.
Quiero formar a los abogados
de mi universidad
para que puedan trabajar mejor
con los informáticos.
Creo que en este momento las facultades de derecho
no están haciendo un buen trabajo
en la preparación de abogados que puedan,
no sólo ser conscientes de los problemas con los datos,
sino que también puedan involucrarse críticamente
con los informáticos y comprender los desafíos.

Spanish: 
Creo que esto es un gran problema
pues los abogados no se han percatado de que
estos sistemas ya están cambiando
incluso la forma de ejercer la abogacía.
Creo que hay muchos tipos de nexos,
interfaces entre las cuestiones sociales
y las cuestiones tecnológicas.
Me gustaría que más gente pensara
en el vínculo de la tecnología con la filosofía política
y también con la filosofía ambiental,
porque hacerse preguntas
sobre el entorno es,
al mismo tiempo, preguntarse
cómo usar la tecnología,
cómo relacionarse con el mundo a través de ella,
qué tipo de tecnologías necesitamos,
qué tipo de soluciones
proporcionan las tecnologías,
pero también el problema de la idea misma
de que la tecnología es siempre una solución.

Spanish: 
¿Quién tiene o quién realmente debería tener...
...la legitimidad de tomar decisiones
sobre nuestro futuro tecnológico y social?
Esa era la gran pregunta.
Así que CTS (estudios sociales
sobre ciencia y tecnología) en ese contexto
no era sólo un trabajo académico para producir
nuevas teorías, nuevos conceptos, nuevos marcos, etc.
CTS en ese contexto
era un tipo de
posibilidad de participación democrática.
Una nueva dimensión
en la democracia moderna,
en la que la gente diría sí,
vemos que estas tecnologías
pueden cambiar radicalmente
la composición de la sociedad
y el funcionamiento de nuestra comunidad.
Así que vamos a estudiarlas,
reflexionemos sobre ellas,

Spanish: 
y utilizando los procesos de participación,
democracia, votación, investigación, etc.
intentemos hacer elecciones públicas inteligentes.
Si pensamos en el tipo
de tecnologías que desarrollamos
y las opciones que elegimos
para la interacción humano-robot.
Cómo eso podría cambiar las dinámicas sociales.
Entonces, de repente, empezamos a hablar de sociología, y tal vez de antropología.
Necesitamos cruzar fronteras y disciplinas,
si queremos resolver esto.

Spanish: 
Creo que los sociólogos y los científicos sociales
deberían ser más valientes.
No sólo describir las cosas y... tomar distancia,
no tener tanto miedo porque puedes
colaborar y seguir siendo crítico,
no tienes que comprar todo.
Puedes seguir siendo crítico.
Los sociólogos y los filósofos necesitan
familiarizarse con la lógica
de los científicos técnicos
y de los ingenieros.
Pero no deben confundir lo uno con lo otro,
algo así como, vale, ahora soy un ingeniero
trato de pensar como un ingeniero
y construyo una máquina que es social.
No funciona porque tienes que ser
las dos cosas a la vez.

English: 
Robotics, as a good thing and also as a bad thing,
is a very interdisciplinary science.
We need mechanics, electronic engineers, 
low-level programmers, high-level programmers.
On teams now there’s starting to be psychologists, philosophers for ethics, mathematicians.
We are starting to have very multidisciplinary groups.

English: 
The training is absolutely technical and specialised.
I think in the world we’re in, it’s important to have
a wider perspective, more humanistic perspective.
When you go to the essence of how does a being
that perceives the world,
well, that is philosophy.
So if engineers only make robots
they don’t know what to do with the robot
nor what they need to do.
How it’s designed, how it’s oriented,
this is where philosophers
as part of the collective of cognitive specialists,
have a possible role,
like psychologists, like anthropologists.
Multidisciplinarity, I think, aren’t barriers,
they’re opportunities.

Spanish: 
Así que hay que tienes
que buscar en el sistema legal,
tienes que estudiar las complejas
 consideraciones ético-jurídicas,
y también entender el propio desarrollo 
de la tecnología para abordar todas estas cuestiones.
Y este es otro ejemplo de que un enfoque multidiciplinar
es el único enfoque posible.

English: 
I experience it as an opportunity to learn new things and
to see different points of view about the same things.
Therefore there is a big transfer of knowledge
from electronic circuits to neural systems
or from logic to the knowledge representation systems.
In artificial intelligence I think there’s 
a transference of knowledge from the social sciences
that are fundamental for understanding
these societies of intelligent systems.
This is where I believe there’s a lot of work
that we need to do.

Spanish: 
Tienes que adquirir y desarrollar un lenguaje común
porque a menudo el mismo término
puede ser usado de maneras muy diferentes.
Así que cuando un ingeniero habla de "autonomía",
se refiere principalmente a automatización.
Y cuando un filósofo habla de "autonomía",
esta palabra tiene un significado muy diferente
que también tiene que ver
con la libertad de autodeterminación.
Cuando un abogado habla de "autonomía"
y de la capacidad de suscribir un contrato

Spanish: 
también puede referirse a algo muy diferente,
pues incluso una persona jurídica
que no sea una persona física,
puede firmar legítimamente un contrato.
Y decir que una entidad legal es una persona jurídica,
no implica reconocerla como un ser vivo.
Por lo tanto, si un abogado, un ingeniero y un filósofo,
que no tienen conocimientos sobre el área de cada uno
hablan entre ellos,
puede haber muchos malentendidos
y las conclusiones a las que lleguen
pueden ser radicalmente incorrectas.
Estas colaboraciones interdisciplinares,
o multidisciplinares, son importantes
y llevan tiempo, llevan mucho tiempo...
Desafortunadamente, las entidades
que financian la investigación
no siempre entienden que llevan tiempo...
Pero vamos avanzando paso a paso.
