
German: 
Also, sollten wir ein Video über die drei Gesetze der Roboter machen?
Es kommt nämlich immer wieder in den Kommentaren vor.
Okay, also die Sache ist die, du wirst keine ernsthaften KI Forscher finden die über die drei Gesetze der Roboter reden
weil sie nicht funktionieren. Das haben sie nie.
Also ich glaube nicht, dass sie Leute finden, die über diese drei Gesetze reden, weil diese nicht realistisch sind.
Sie waren sehr lange nicht relevant und sie sind aus einem Science-Fiction Buch und sie wissen schon.
Also werde ich mich deutlich ausdrücken. Ich möchte klar sagen, dass ich diese Gesetze nicht ernst nehme, okay?
Aber ich werde sowieso über sie reden, weil darüber geredet werden muss.
Also diese Regeln wurden von dem science fiction Autor Isaac Asimov für seinen Geschichten erfunden,
als einen Versuch eine Lösung dafür zu finden das künstliche Intelligenz das tut

Turkish: 
Peki,robotik'in 3 kuralı hakkında bir video yapsak mı?
(evet)
Çünkü sürekli yorumlarda bahsedilip duruyor.
Peki,şimdi durum şu ki
Yapay zeka araştırmacılarından robotiğin 3 kuralından bahsettiklerini duymazsınız.
Çünkü işe yaramazlar. Hiç bir zaman yaramadı.
Bence insanlar bu konuda konuşulduğunu görmüyorlar. Çünkü kanunlar ciddi değiller.
Uzun zamandır da pek alakası yoktu. Ve bir bilim-kurgu kitabından alıntılar.
Tamam.Yapacağım. Bu kuralları da ciddiye almadığımı belirtmek istiyorum!
Gene de bunun hakkında konuşacağım çünkü buna ihtiyacı var.
bunlar,yapay zekanın bizim istediğimizi istediğinden emin olmak için
problemi kısmen çözmeyi deneyen,

English: 
So, should we do a video about the three laws of robotics, then?
Because it keeps coming up in the comments.
Okay, so the thing is, you won't hear serious AI researchers talking about the three laws of robotics
because they don't work. They never worked.
So I think people don't see the three laws talked about, because they're not serious.
They haven't been relevant for a very long time and they're out of a science fiction book, you know?
So, I'm going to do it. I want to be clear that I'm not taking these seriously, right?
I'm going to talk about it anyway, because it needs to be talked about.
So these are some rules that science fiction author Isaac Asimov came up with, in his stories,
as an attempted sort of solution to the problem of making sure that artificial intelligence did

Portuguese: 
Bem, devemos fazer um vídeo sobre as três leis da robótica, então?
Porque o assunto continua a aparecer nos comentários.
Ok, na verdade, você não vai ouvir  pesquisadores sérios de inteligência artificial falando sobre as três leis da robótica
porque elas não funcionam. Elas nunca funcionaram.
Então eu acho que as pessoas não encontram textos sobre essas três leis, porque elas não são sérias.
Elas não têm sido relevantes há muito tempo e elas saíram de um livro de ficção científica, entende?
Então, eu vou fazê-lo. Eu quero deixar claro que eu não estou levando isso a sério, ok?
Eu vou falar sobre isso, porque é preciso tocar no assunto.
Então, essas são algumas regras que o autor de ficção científica Isaac Asimov criou em suas histórias
como tentativa de um tipo de solução para o problema de certificar que a inteligência artificial fará

English: 
So, shall we do a video about the three laws of robotics then?
(yeah)
Because it keeps coming up in the comments...
Okay so the thing is, You won't
You won't hear serious AI researchers talking about the three laws of robotics,
because they don't work! They never worked.
So I think people don't see the three laws talked about, because they're not serious.
They haven't been relevant for a very long time and they're out of a science-fiction book and, you know..
So, I'm gonna do it,  I wanna be clear that I'm not taking these as-- I'm not taking these seriously! Right?
I'm gonna talk about it anyway because it needs to be talked about.
So these are some rules that science fiction author Isaac Asimov came up with in his stories
as an attempted sort of solution to the problem of

English: 
what we want it to do.
Shall we read them out then and see what they are?
Oh yeah, I'll look them- Give me a second.
I've looked them up. Okay, right, so they are:
Law Number 1: A robot may not injure a human being or, through inaction allow a human being
to come to harm.
Law Number 2: A robot must obey orders given it by human beings except where such orders would
conflict with the first law.
Law Number 3: A robot must protect its own existence as long as such protection does not conflict
with the first or second laws.
I think there was a zeroth one later as well.
Law 0: A robot may not harm humanity or, by inaction, allow humanity to come to harm.
So it's weird that these keep coming up because, okay, so firstly they were made by someone
who is writing stories, right? And they're optimized for story-writing.
But they don't even work in the books, right? If you read the books, they're all about

German: 
was wir wollen das sie tut.
Sollen wir sie vorlesen und zeigen wie sie aussagen?
Oh okay, ich schaue nach. Gib mir eine Sekunde.
Ich habe sie nachgeschlagen. Okay, gut, sie lauten:
Regel #1: Ein Roboter darf einen Menschen nicht verletzen, oder durch unterlassende Handlung dafür sorgen, dass
dieser verletzt wird.
Regel #2: Ein Roboter muss die Anweisungen befolgen, die ihm von einem Menschen gegeben wurden, außer diese würden
in Konflikt mit der ersten Regel stehen.
Regel #3: Ein Roboter muss seine eigene Existenz beschützen, solange dies nicht im Konflikt mit
der ersten oder zweiten Regel kommt.
Ich glaube es gab später auch eine nullte Regel.
Regel #0: Ein Roboter darf die Menscheit nicht verletzen, oder durch nicht handeln zu Schaden kommen lassen
Also, es ist komisch, dass diese immer wieder genannt werden, weil, okay, erstens wurden sie von jemandem erschaffen,
der Geschichten schreibt, richtig? Und sie sind optimiert für das Schreiben von Geschichten.
Aber sie funktionieren nichtmal in den Büchern, richtig? Wenn sie die Bücher lesen stellen sie fest, es geht nur darum

English: 
making sure that artificial intelligence did what we wanted it to do.
'Shall we read them out and see what they are?
I'll look them up, give me a second.
Law number 1: A robot may not injure a human being or, through inaction allow
a human being to come to harm
Law number 2: A robot must obey orders given to it by human beings except where such orders
would conflict with the first law.
Law number 3: A robot must protect its own existence
as long as such protection does not conflict with the first or second laws.
I think it was his zeroth one later as well.
Law 0: A robot may not harm humanity.
Or by inaction allow humanity to come to harm.
So it's weird that these keep coming up. Because, they....
Firstly they are made by someone who is writing stories and they are optimized for story-writing.
They don't even work in the books.
If you read the books, they are all about
the ways that these rules go wrong.

Turkish: 
bilim-kurgu yazarı Isaac Asimov'un hikayelerinde uydurduğu bazı kurallar.
Onları okuyup,ne olduklarını görsek mi?
Bir saniye,bakayım.
Birinci kural:Robot,insana zarar veremez ya da
insana zarar gelecekken etkisiz kalamaz.
Kural 2: Robot insan tarafından verilen emirlere itaat etmeli ancak
emirler 1. kuralla çelişmediği sürece.
Kural 3: Robot kendi varlığını korumalı ancak
1. ve 2. kanunlarla çelişmediği sürece.
Sanırsam bu aynı zamanda onun 0. kuralıydı.
Kural 0: Robot insanlığa zarar vermemeli
ve zarar gelecekken etkisiz kalmamalı.
yani,bunların belirtilip durulması garip.çünkü..
ilk olarak,bunlar hikaye yazan birisi tarafından yapılmış ve hikayeye uyarlanmışlar.
Kitabın içinde bile işe yaramıyorlar.
Eğer kitabı okursan,orada
kuralların nasıl çoğu durumda işe yaramadığını görüyorsun.

Portuguese: 
o que queríamos que ela fizesse.
Vamos lê-los, e ver o que elas são?
Ok, eu já mostro - só um momento...
Aqui estão. Certo, certo, são elas:
Lei Número 1: Um robô não pode ferir um ser humano ou, por omissão permitir que um ser humano
sofra algum mal.
Lei Número 2: Um robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entrarem
em conflito com a primeira lei.
Lei Número 3: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito
com a primeira ou segunda leis.
Acho que houve uma "lei zero" mais tarde também.
Lei 0: Um robô não pode prejudicar a humanidade ou, por inação, permitir que a humanidade sofra algum mal.
Então, é estranho que esses comentários continuem aparecendo porque, bem, em primeiro lugar, eles foram feitos por alguém
que está escrevendo histórias, certo? E elas estão otimizadas para a criação dessas histórias.
Mas elas não funcionam nem nos livros, certo? Se você ler os livros, as histórias são todas sobre

German: 
dass diese Regeln nicht funktionieren, und den vielen verschiedenen negativen Konsequenzen.
Das Unrealistischte, meiner Meinung nach, ist dabei die Art wie Asimov seine Dinge geschrieben hat,
dass die Dinge außer Kontrolle geraten und dann alles wieder in Ordnung gebracht wird, richtig?
Meistens wenn man eine Super-Intelligenz hat die Dinge tut die man nicht will,
wird dort vermutlich kein Held sein der den Tag durch Gerissenheit rettet. Das funktioniert im echten Leben auch nicht,
also allgemein gesehen, richtig? Weil sie in Englisch geschrieben sind. Wie definieren sie diese Dinge?
Wie kann man einen Menschen defininieren ohne vorher eine Antwort auf alle Ethik Fragen zu haben?
Und als wäre 'Mensch' nicht schwer genug, wie definieren sie dann bitte 'Schaden', richtig?
Und sie haben das gleiche Problem schon wieder. Fast alle Definitionen, die Sie diesen Wörter geben,
wirklich standfeste und unumstößliche Definitionen, die nicht auf menschlicher Intuition beruhen,

English: 
the ways that these rules go wrong, the various, various negative consequences.
The most unrealistic thing, in my opinion, about the way Asimov did his stuff was
the way that things go wrong and then get fixed, right?
Most of the time, if you have a super-intelligence, that is doing something you don't want it to do,
there's probably no hero who's going to save the day with cleverness. Real life doesn't work that way,
generally speaking, right? Because they're written in English. How do you define these things?
How do you define human without having to first take an ethical stand on almost every issue?
And if human wasn't hard enough, you then have to define harm, right?
And you've got the same problem again. Almost any definitions you give for those words,
really solid, unambiguous definitions that don't rely on human intuition,

Turkish: 
bir çok negatif sonuçla karşılaşıyorsun.
En gerçek dışı şey ise,bence Asimov'un kendi hikayesinde
her şeyin kötü gidip,daha sonradan düzelmesi.
değil mi?
Neredeyse her zaman,eğer bir süper-zeka'nın
senin istemediğin bir şeyi yaptığı durumda
zekasıyla günü kurtaracak bir kahraman yoktur herhalde.
Gerçek yaşam böyle işlemiyor.
Genel olarak konuşuyorum,tamam mı?
Çünkü,ingilizce yazılmışlar. Bu şeyleri nasıl tanımlarsın?
"insan"ı nasıl tanımlarsın?
önce etiksel duruş alman gereken bir çok durum varken
peki insanı tanımlamak o kadar zor değil dersen,"zarar vermeyi" nasıl tanımlarsın?
değil mi? ve tekrardan aynı problemle yüzleşiyorsun.
Bu kelimeler için verdiğiniz hemen hemen her tanım, insanın sezgisine dayanmayan kesin ve kesin tanımları,

English: 
Various negative consequences.
The most unrealistic thing, in my opinion, about how Asimov did his stuff
was the way that things go wrong and then get fixed.
right?
Most of the time, if you have a super-intelligence
that is doing something that you don't want it to do
there's probably no hero who's going to save the day with cleverness.
Real life doesn't work that way.
Generally speaking, right?
Because they're written in English, how do you define these things?
How do you define human
without having to first take an ethical stand on almost every issue?
And if "human" wasn't hard enough, you then have to define "harm".
Right? And you've got the same problem again.
Almost any definitions you give for those words, really solid unambiguous definitions that don't rely on human intuition,

Portuguese: 
as formas que essas leis dão errado, as várias, várias consequências negativas.
A coisa mais irreal, na minha opinião, sobre a maneira como Asimov fez os textos
é a maneira que as coisas dão errado e, em seguida, dão certo, entende?
Na maioria das vezes, se você tem uma super-inteligência, que está fazendo algo que você não quer que ela faça
provavelmente não há herói que vá salvar o dia com esperteza. Na vida real não é assim que funciona
no geral, não é? Porque eles são escritos em Inglês. Como você define estas coisas?
Como você define "humano", sem ter que primeiro tomar uma posição ética em quase todas as questões?
E se humano não era difícil o suficiente, então você tem que definir "mal", certo?
E você tem o mesmo problema novamente. Quase todas as definições que você dá para as palavras,
realmente sólidas, definições inequívocas que não se baseiam na intuição humana,

English: 
result in weird quirks of philosophy resulting in your A.I. doing something you really don't want it to do.
In order to encode that rule: "Don't allow human being to come to harm"
in a way that means anything close to what we intuitively understand it to mean
You have to encode within the words "human" and "harm" the entire field of ethics.
Right? You have to solve ethics.
comprehensively
and then use that to make your definitions.
So that it doesn't solve the problem. It pushes the problem back one step.
Into: now, how do we define these terms?
When I say the word human, you know what I mean.
And that's not because either of us has a rigorous definition of what human is.
We've just sort of learned by general association
what a human is
the word human points to that structure in your brain but I'm not really transfering the content to you.
You can't just say "human" in the utility function of an A.I. and have it expect to know what it means, you have to come up with a definition.

English: 
result in weird quirks of philosophy, resulting in your AI doing something you really don't want it to do.
The thing is, in order to encode that rule, "Don't allow a human being to come to harm",
in a way that means anything close to what we intuitively understand it to mean,
you would have to encode within the words 'human' and 'harm' the entire field of ethics, right?
You have to solve ethics, comprehensively, and then use that to make your definitions.
So it doesn't solve the problem, it pushes the problem back one step
into now, well how do we define these terms?
When I say the word human, you know what I mean, and that's not because either of us
have a rigorous definition of what a human is. We've just sort of learned by general association
what a human is, and then the word 'human' points to that structure in your brain,
but I'm not really transferring the content to you.
So, you can't just say 'human' in the utility function of an AI and have it know what that means.
You have to specify. You have to come up with a definition.

Turkish: 
garip felsefe tuhaflıklarıyla sonuçlanır, AI'nızın gerçekten yapmasını istemediğiniz bir şeyi yapmasıyla sonuçlanır.
Bu kuralı kodlamak için: "İnsanın zarar görmesine izin verme"
Bu, anlamını sezgisel olarak anladığımız şeye yakın herhangi bir şey anlamına gelir.
“İnsan” kelimesi içinde kodlamanız ve tüm etik alanına “zarar vermeniz” gerekir.
Sağ? Etik kuralları çözmelisin.
kapsamlı
ve sonra bunu tanımlarınızı yapmak için kullanın.
Böylece sorunu çözmez. Sorunu bir adım geriye iter.
İçinde: şimdi, bu terimleri nasıl tanımlarız?
İnsan kelimesini söylediğimde ne demek istediğimi biliyorsun.
Ve bu, ikimizin de ne olduğunu kesin bir tanımlaması olduğu için değil.
Biz sadece genel dernek tarafından öğrendim
insan ne
İnsan kelimesi beyninizdeki o yapıya işaret ediyor, ancak içeriği size gerçekten aktarmıyorum.
Bir AI'nın fayda fonksiyonunda sadece “insan” diyemezsiniz ve bunun ne anlama geldiğini bilmesini beklemeniz mümkün değildir, bir tanım bulmalısınız.

Portuguese: 
acabam em esquisitices filosóficas, resultando em sua I.A. fazendo algo que você realmente não quer que ele faça.
Na realidade, para codificar essa regra: "Não permitir que um ser humano sofra algum mal",
de uma forma que significa algo próximo do significado que percebemos intuitivamente,
você teria que codificar dentro das palavras "humano" e "mal" todo o campo da ética, certo?
Você tem que resolver a ética, de forma abrangente, e depois usar isso para fazer suas definições.
isso não resolve o problema,  empurra o problema um passo para trás
como  "bem como é que vamos definir esses termos?"
Quando eu digo a palavra humano, você sabe o que quero dizer, e isso não é porque qualquer um de nós
tem uma definição rigorosa do que é um ser humano. Temos apenas uma espécie de aprendidzado por associação geral
sobre o que um ser humano é, e então a palavra "humano" aponta para essa estrutura em seu cérebro,
mas eu realmente não estou transferindo o conteúdo para você.
Assim, você não pode simplesmente dizer "humano" na função utilidade de um sistema de I.A. e fazê-lo saber saber o que isso significa.
Você tem que especificar. Você tem que chegar a uma definição.

German: 
enden in wirren, sonderbaren, philosophischen Ausdrücken, was darin endet, dass ihre KI etwas tut das sie nicht wirklich wollen.
Die Sache ist die, um diese Regel zu entschlüsseln, 'Lass keinen Menschen zu Schaden kommen',
so dass es in etwa das bedeutet was wir intuitiv darunter verstehen,
haben sie neben den Wörtern 'Mensch' und 'Schaden' auch noch die komplette Ethik zu entschlüsseln, richtig?
Sie müssen die Ethik lösen, umfassend, und dies dann dazu nutzen, um ihre Definitionen festzulegen.
Es löst also nicht das Problem, es schiebt es nur auf zu:
'Wie würden wir heute diese Begriffe wohl definieren?'
Wenn ich das Wort 'Mensch' sage, dann wissen sie was ich meine, und das nicht weil einer von uns
eine umfassende Definition für das wort 'Mensch' hat. Wir haben nur durch generelle Assoziation gelernt
was ein Mensch ist, und dann deutet das Wort 'Mensch' auf diese Struktur in unserem Gehirn,
aber ich nenne nicht die Bedeutung für sie.
Sie können also nicht einfach 'Mensch' in das Regelwerk einer KI eintragen und dann versteht diese automatisch was das bedeutet.
Sie müssen spezifisch sein und es definieren.

English: 
And it turns out that coming up with a definition, a good definition, of something like 'human'
is extremely difficult, right? It's a really hard problem of, essentially, moral philosophy.
You would think it would be semantics, but it really isn't because,
okay, so we can agree that I'm a human and you're a human. That's fine.
And that this, for example, is a table, and therefore not a human.
You know, the easy stuff, the central examples of the classes are obvious.
But, the edge cases, the boundaries of the classes, become really important.
The areas in which we're not sure exactly what counts as a human.
So, for example, people who haven't been born yet, in the abstract, like people who hypothetically
could be born ten years in the future, do they count?
People who are in a persistent vegetative state don't have any brain activity.

Portuguese: 
E verifica-se que conseguir uma definição, uma boa definição, de algo como "humano"
É extremamente difícil, certo? É um problema muito difícil de, essencialmente,  filosofia moral.
Você poderia pensar que seria semântica, mas realmente não é porque...
Ok, então podemos concordar que eu sou um ser humano e você é um ser humano. Tudo bem
E que esta, por exemplo, é uma mesa, e, portanto, não é um ser humano.
Você sabe, as coisas fáceis, os exemplos centrais das classes são óbvios.
Mas, nos casos menos óbvios, os limites das classes, tornam-se realmente importantes.
As áreas em que não temos certeza exatamente sobre o que conta como um ser humano.
Assim, por exemplo, as pessoas que ainda não nasceram, por exemplo, pessoas que hipoteticamente
poderiam ter nascido dez anos no futuro, eles contam?
As pessoas que estão em um estado vegetativo persistente não têm qualquer atividade cerebral.

Turkish: 
Ve bunun bir tanımla, iyi bir tanımla ortaya çıktığı ortaya çıktı.
insan gibi bir şey
son derece zor. Sağ? Bu gerçekten zor bir problem
temelde ahlaki felsefeden.
Anlamsal olacağını düşünecektin ama aslında değil çünkü
tamam, ben bir insan olduğumu kabul edebiliriz ve sen de bir insansın.
Sorun değil ve bu, örneğin bir masa.
ve bu nedenle bir insan değil.
Bilirsin, kolay şeyler, merkezi örnekler
sınıfların açıktır.
Ancak son vakalar, sınıfların sınırları gerçekten önem kazanıyor.
İnsan olarak neyin önemli olduğunu bilmediğimiz alanlar.
Mesela, henüz doğmamış insanlar.
Özette, hipotetik olarak gelecekte 10 yıl doğabilecek insanlar gibi, sayılıyor mu?
Kalıcı vejetatif bir durumda olan insanlar?
Beyin aktivitesi yok mu?
Tamamen insan olarak sayılıyorlar mı?
Ölen insanlar?

English: 
And it turns out that coming up with a definition, a good definition
of something like human is
extremely difficult. Right? It's a really hard problem of
essentially of moral philosophy.
You'd think it'd be semantics but it really isn't because
ok, we can agree that I'm a human, and you're a human
That's fine, and that this, for example, is a table.
and therefore not a human.
You know, the easy stuff, the central examples
of the classes are obvious.
But the edge cases, the boundaries of the classes become really important.
The areas in which we're not sure what really counts as a human.
So, for example, people who haven't been born yet.
In the abstract, like people who hypothetically could be born 10 years in the future, do they count?
People who are in a persistent vegetative state?
Don't have any brain activity?
Do they fully count as people?
People who have died?

German: 
Und wie es scheint ist eine gute Definition für ein Wort wie 'Mensch' zu finden
extrem schwer, richtig? Es ist ein sehr großes Problem von essenzieller, moralischer Philosophie.
Sie würden denken das es semantisch ist, aber das ist es wirklich nicht, weil
okay, wir können uns einig sein, dass ich ein Mensch bin und sie einer sind. Das ist okay.
Und das hier zum Beispiel ist ein Tisch, also kein Mensch.
Sie wissen das, dass ist leichtes Zeug. Die einfachen & zentralen Beispiele sind offensichtlich.
Aber in Zweifelsfällen werden die Grenzen dieser Definitionen sehr wichtig.
Die Gebiete in denen wir uns nicht richtig einig sind was eigentlich als Mensch zählt.
Also, zum Beispiel, Menschen die noch nicht geboren wurden, oder Menschen die potentiell
in 10 Jahren geboren werden könnten, zählen diese?
Menschen die sich in einem vegetativen Zustand befinden und keinerlei Gehirnaktivität aufzeigen.

English: 
Or unborn foetuses, right?
I mean, there's a huge debate even going on right as we speak about whether they count as people.
The higher animals, should we include maybe dolphins, chimpanzees, something like that?
Do they have weight?
So it turns out, you can't program in, you can't make your specification of humans
Without taking an ethical stance on all of these issues.
All kinds of weird hypothetical edge cases become relevant
When you're talking about a very powerful machine intelligence.
Which you otherwise wouldn't think of.
So, for example, let's say we say that
dead people don't count as humans
Then you have an A.I. that will never attempt CPR.
This person's died, they're gone, forget about it. Done. Right?
Whereas we would say, "no hang on a second they were only dead temporarily, we can bring them back."
Right? Okay fine, then we'll say that "People who are dead, if they haven't been dead for, how long?" How long do you have to be dead for?

Portuguese: 
Será que elas contam plenamente como pessoas? Pessoas que morreram ou fetos, certo?
Quer dizer, há um enorme debate acontecendo agora mesmo enquanto falamos sobre se eles contam como pessoas.
Os animais superiores, você sabe, devemos incluir talvez golfinhos, chimpanzés, algo assim?
Será que eles têm peso? E assim acontece que você não pode programar, você não pode fazer a sua especificação
dos seres humanos sem tomar uma posição ética em todas estas questões.
Todos os tipos de casos estranhos e hipotéticos tornam-se relevantes quando você está falando
sobre uma inteligência de máquina muito poderosa, que de outra forma não iria ser cogitados.
Assim, por exemplo, vamos dizer que dizem que os mortos não contam como seres humanos.
Então você tem uma I.A. que nunca tentará ressucitar ninguém. Esta pessoa está morta.
Ela foi embora, pode esquecer, está feito, certo?
Considerando que digamos "não, espere um momento, elas estão mortas apenas temporariamente. Nós podemos trazê-los de volta, certo?"
Ok, tudo bem, então vamos dizer que as pessoas que estão mortas, se eles não estiverem mortas por - Bem, quanto tempo?
Quanto tempo você tem que estar morto? Quer dizer, se você entender isso errado e você acabou de dizer, ok, tudo bem

German: 
Zählen sie als ganze Menschen? Menschen die gestorben sind oder ungeborene Föten, richtig?
Ich meine im Moment ist eine große Debatte im Gange in der wir darüber reden, ob diese als Menschen zählen.
Die höher entwickelten Tiere, sie wissen schon, sollten wir vielleicht Delfine oder Schimpansen mit einbeziehen?
Haben solche auch einen Wert? Und deshalb zeigt sich das man es nicht mit einprogrammieren kann, man kann keinerlei Spezifikationen
von Menschen machen ohne einen ethischen Standpunk in all diesen Fragen einzunehmen.
Alle möglischen seltsamen hypothetischen Fälle werden relevant, wenn sie über
eine sehr mächtige Maschinenintelligenz nachdenken, über die sie sonst nicht nachdenken würden.
Also zum Beispiel, sagen wir mal, dass Tote nicht als Menschen zählen.
Dann haben sie eine KI die niemals versuchen wird diese wieder zu beleben. Diese Person ist gestorben.
Sie sind weg, vergiss sie, okay?
Wo wir vielleicht sagen würden, nein, warte mal eine Sekunde, er ist nur temporär tot. Wir können ihn zurückholen, richtig?
Okay also wenn wir sagen, dass Menschen die nur für-  Wie lange?
Wie lange muss man tot sein? Ich meine, wenn sie das falsch verstehen und einfach sagen, 'oh es ist okay'

English: 
Do they fully count as people? People who have died or unborn fetuses, right?
I mean, there's a huge debate even going on as we speak about whether they count as people.
The higher animals, you know, should we include maybe dolphins, chimpanzees, something like that?
Do they have weight? And so it it turns out you can't program in, you can't make your specification
of humans without taking an ethical stance on all of these issues.
All kinds of weird, hypothetical edge cases become relevant when you're talking about
a very powerful machine intelligence, which you otherwise wouldn't think of.
So for example, let's say we say that dead people don't count as humans.
Then you have an AI which will never attempt CPR. This person's died.
They're gone, forget about it, done, right?
Whereas we would say, no, hang on a second, they're only dead temporarily. We can bring them back, right?
Okay, fine, so then we'll say that people who are dead, if they haven't been dead for- Well, how long?
How long do you have to be dead for? I mean, if you get that wrong and you just say, oh it's fine,

Turkish: 
Ya da doğmamış fetüsler, değil mi?
Demek istediğim, insanlar olarak sayılıp sayılmadıkları hakkında konuştuğumuzda bile devam eden büyük bir tartışma var.
Yüksek hayvanlar belki de yunusları, şempanzeleri, buna benzer bir şey içermeli midir?
Kiloları var mı?
Öyleyse ortaya çıkıyor, programlayamıyorsunuz, insan spesifikasyonunuzu yapamıyorsunuz
Tüm bu konularda etik bir duruş sergilemeden.
Her türlü garip varsayım kenarı olayı ilgili olur
Çok güçlü bir makine zekası hakkında konuşurken.
Aksi halde düşünmezsin.
Diyelim ki, şunu söyleyelim:
ölü insanlar insan olarak sayılmaz
O zaman asla CPR yapmayacak bir AI'niz olur.
Bu kişi öldü, gitti, unut gitsin. Bitti. Sağ?
Oysa, "Bir saniye beklemeyin, sadece geçici olarak ölmüşlerdi, geri getirebiliriz" diyecektik.
Sağ? Tamam, o zaman şöyle diyeceğiz: "Ölen insanlar, eğer ölmedilerse, ne kadar süre?" Ne kadar süre ölü kalmak zorundasın?

Portuguese: 
tentar trazer as pessoas de volta, uma vez que eles estão mortos, então você pode acabar com uma máquina
que está tentando desesperadamente reviver todos os que já morreram em toda a história,
porque são pessoas que contam, que têm peso moral.
Será que queremos isso? Eu não sei, talvez. Mas você tem que decidir, certo?
E isso é inerente à sua definição de humano. Você tem que tomar uma posição sobre todos os tipos de questões morais
que nós realmente não sabemos com certeza qual é a resposta, só para programar a coisa.
E então fica ainda mais difícil do que isso, porque há casos que não existem neste momento.
Como, falando sobre as pessoas vivas, pessoas mortas, as pessoas que ainda não nasceram, esse tipo de coisa.
Bem, animais. Mas existem todos os tipos de coisas hipotéticas que poderiam existir
que pode ou não contam como humano. Por exemplo, um cérebro simulado ou emulado, certo?
Se você tem uma varredura muito precisa do cérebro de alguém e você executa a simulação, isso é uma pessoa?
Isso conta?

English: 
do try to bring people back once they're dead, then you may end up with a machine
that's desperately trying to revive everyone who's ever died in all of history,
because there are people who count who have moral weight.
Do we want that? I don't know, maybe. But you've got to decide, right?
And that's inherent in your definition of human. You have to take a stance on all kinds of moral issues
that we don't actually know with confidence what the answer is, just to program the thing in.
And then it gets even harder than that, because there are edge cases which don't exist right now.
Like, talking about living people, dead people, unborn people, that kind of thing.
Fine, animals. But there are all kinds of hypothetical things which could exist
which may or may not count as human. For example, emulated or simulated brains, right?
If you have a very accurate scan of someone's brain and you run that simulation, is that a person?
Does that count?

English: 
If you get that wrong and you just say oh it's fine. Do try to bring people back once they're dead. Then you may end up with a machine that's desperately trying to revive everyone who's ever died in all of history.
Because there are people who count, who have moral weight.
Do we want that?
I don't know, maybe. But you've got to decide.
Right? And that's inherit in your definition of human.
You have to take a stance on all kinds of moral issues that we don't
actually know with confidence what the answer is.
Just to program the thing in
and then it gets even harder than that because
there are edge cases which don't exist right now.
Like talking about living people, dead people, unborn people.
That kind of thing, fine. Animals.
But there are all kinds of hypothetical things which could exist
which may or may not count as human.
For example, emulated or simulated brains.
Right? If you have a very accurate scan on someone's brain and you run that simulation, is that a person?
Does that count?

German: 
versucht Menschen zurück zu holen wenn sie gestorben sind, dann würden sie vermutlich mit einer Maschine enden
die verzweifelt versucht  jeden Menschen der jemals gestorben ist wieder zu beleben,
weil diese Menschen sind die zählen und eine moralische Bedeutung haben.
Wollen wir das? Ich weiß es nicht, vielleicht. Aber sie müssen es entscheiden, richtig?
Und das eigens in ihrer Definition von 'Mensch'. Sie müssen dafür eine Haltung für alle moralischen Probleme einnehmen,
von denen wir nicht mit Sicherheit sagen können was die Antwort ist. Nur um sie einzuprogrammieren.
Und dann wird es nochmal schwerer weil es Fälle geben wird, die noch nicht existieren.
Wir reden über lebende, tote und ungeborene Menschen.
Okay, und Tiere. Aber es gibt so vieles was hypothetisch existieren könnte,
das vielleicht oder vielleicht auch nicht als Mensch zählen könnte. Zum Beispiel emulierte oder simulierte Gehirne, richtig?
Wenn sie ein sehr genau kopiertes Gehirn von einem Menschen haben und sie lassen es als Simulation laufen, ist das ein Mensch?
Zählt das?

Turkish: 
Eğer bunu yanlış anlarsan ve sadece ah iyi olduğunu söylersen. İnsanları öldükten sonra geri getirmeye çalışın. O zaman umutsuzca, tüm tarih boyunca ölen herkesi yeniden canlandırmaya çalışan bir makine ile bitebilirsin.
Çünkü sayılan, ahlaki ağırlığı olan insanlar var.
Bunu istiyor muyuz?
Bilmiyorum belki. Ama karar vermelisin.
Sağ? Ve bu sizin insan tanımınıza miras kalıyor.
Yapmadığımız her türlü ahlaki konuya karşı durmalısın.
Aslında cevabın ne olduğunu güvenle biliyorum.
Sadece içindeki şeyi programlamak için
ve sonra bundan daha da zorlaşıyor çünkü
şu anda olmayan kenar davaları var.
Yaşayan insanlar, ölü insanlar, doğmamış insanlar hakkında konuşmak gibi.
Bu tür bir şey, tamam. Hayvanlar.
Ancak var olabilecek her türlü varsayımsal şey vardır.
insan olarak sayılabilir veya sayılmaz.
Örneğin, benzetilmiş veya benzetilmiş beyinler.
Sağ? Birinin beyninde çok doğru bir tarama yapıyorsanız ve bu simülasyonu çalıştırıyorsanız, bu bir kişi mi?
Bu sayılır mı?

German: 
Und wie auch immer sie das behandeln, erhalten sie interessante Ergebnisse.
Und wenn das als Person zählt, könnte es ihre Maschine dazu bringen eine Situation zu erzeugen,
in welcher es keine physischen Menschen gibt, weil es so viel schwerer ist, ihnen zur Verfügung zu stehen.
Wärend simulierte Menschen durch simulierte Eingaben eine viel schönere Umgebung haben können.
Ist das das was wir wollen? Ich weiß es nicht. Ist es das vielleicht? Ich weiß es nicht.
Ich glaube nicht, dass das Irgendjemand weiß. Aber die Sache ist die, Sie versuchen hier eine KI zu schreiben, richtig?
Sie sind ein KI Entwickler. Dafür haben Sie nicht unterschrieben.
Wir würden gerne Audible.com dafür danken das sie diese Episode von Computerphile gesponsort haben.
Und wenn sie Bücher mögen, probieren Sie die große Auswahl von Audiobüchern auf Audible.com aus.
Und wenn sie auf Audible.com/computerphile gehen haben sie eine Chance ein Buch gratis downloaden zu können.
Calum Chace hat ein Buch namens 'Pandora's Brain' geschrieben. Welches ein Thriller ist, in dem es um
künstliche Intelligenz geht. Falls sie die Geschichte mögen gibt es auch noch ein unterstützendes nicht fiktionäres Buch
genannt 'Surviving AI' , das auch einen Blick wert ist.

Portuguese: 
E do jeito que você separar isso, você tem resultados interessantes.
Então, se isso conta como uma pessoa, então a sua máquina pode ser motivada a externar uma situação
na qual não existem os seres humanos físicos porque os seres humanos físicos são muito difíceis de satisfazer.
Enquanto que com humanos simulados, você pode simular suas entradas e ter um ambiente muito mais agradável para todos.
É isso que nós queremos? Eu não sei. É, talvez? Eu não sei.
Eu não acho que ninguém queira. Mas o ponto é, você está tentando escrever um sistema de I.A., certo?
Você é um desenvolvedor de I.A. Você não lida com essas coisas.
Nós gostaríamos de agradecer Audible.com por patrocinar este episódio de Computerphile.
E se você gosta de livros, veja a enorme gama de audiobooks da Audible.com.
E se você vai para Audible.com/computerphile, há uma chance de fazer o download gratuitamente.
Callum Chase escreveu um livro chamado Cérebro de Pandora (Pandora's Brain), que é um thriller centrado em torno de
inteligência artificial geral, e se você gosta dessa história, em seguida, há um livro de não-ficção de apoio
chamado Sobrevivendo à I.A. (Surviving AI) que também vale a pena conferir.

English: 
And whichever way you slice that, you get interesting outcomes.
So, if that counts as a person, then your machine might be motivated to bring out a situation
in which there are no physical humans because physical humans are very difficult to provide for.
Whereas simulated humans, you can simulate their inputs and have a much nicer environment for everyone.
Is that what we want? I don't know. Is it, maybe? I don't know.
I don't think anybody does. But the point is, you're trying to write an AI here, right?
You're an AI developer. You didn't sign up for this.
We'd like to thank Audible.com for sponsoring this episode of Computerphile.
And if you like books, check out Audible.com's huge range of audiobooks.
And if you go to Audible.com/computerphile, there's a chance to download one for free.
Callum Chase has written a book called Pandora's Brain, which is a thriller centered around
artificial general intelligence, and if you like that story, then there's a supporting nonfiction book
called Surviving AI which is also worth checking out.

Turkish: 
Ve hangi şekilde dilim olursa olsun ilginç sonuçlar elde edersiniz.
Yani bu kişi olarak sayılıyorsa
o zaman makineniz fiziksel insan olmayan bir durum ortaya çıkarmak için motive olabilir
çünkü fiziksel insanlara sağlaması çok zor
benzetilmiş insanlar ise girdilerini benzetebilir ve herkes için çok daha güzel bir ortama sahip olabilirsiniz.
Bu bizim isteiğimiz şey mi?
Bilmiyorum?
Belki mi? Bilmiyorum.
Kimsenin bildiğini sanmıyorum, ama asıl nokta, burada bir AI yazmaya çalışıyorsun, sen bir AI geliştiricisin. Buna kaydolmadınız.
Bu Computerphile bölümünü desteklediği için Audible.com'a teşekkür ederiz
ve kitapları seviyorsanız Audible.com’un çok çeşitli sesli kitaplarına bakın.
Ve eğer audible.com/computerphile adresine giderseniz
ücretsiz bir tane indirmek için bir şans var
Calum Chace Pandora'nın Beyin adlı bir kitap yazdı.
Yapay genel zekanın etrafında toplanmış bir gerilim filmi.
ve eğer bu hikayeyi seviyorsanız, adında destekleyici kurgusal olmayan bir kitap var.
Hayatta kalma AI da kontrol etmeye değer.

English: 
And whichever way you slice that you get interesting outcomes.
So if that counts as a person
then your machine might be motivated to bring out a situation in which there are no physical humans
because physical humans are very difficult to provide for
whereas simulated humans you can simulate their inputs and have a much nicer environment for everyone.
Is that what we want?
I don't know?
Is it maybe? I don't know.
I don't think anybody does, but the point, you're trying to write an A.I. here, you're an A.I. developer. You didn't sign up for this.
We'd like to thank Audible.com for sponsoring this episode of Computerphile
and if you like books, check out Audible.com's huge range of audio books.
And if you go to audible.com/computerphile
there's a chance to download one for free
Calum Chace has written a book called Pandora's Brain
which is a thriller centred around artificial general intelligence.
and if you like that story, there's a supporting non-fiction book called
Surviving AI which is also worth checking out.

Portuguese: 
Assim, agradecemos a audible.com por patrocinar este episódio de Computerphile. Lembre-se, audible.com/computerphile.
Baixar um livro de graça.

English: 
So thanks to audible for sponsoring this episode of computerphile
so remember audible.com/computerphile Download a book for free.
 

Turkish: 
Bu yüzden, bilgisayarbilim bölümünün sponsorluğunu yaptığı için teşekkürler
çok audible.com/computerphile hatırla Ücretsiz bir kitap indirin.
 

German: 
Also vielen Dank an Audible für das  Sponsoren dieser Episode Computerphile. Und denken sie dran: audible.com/computerphile.
Laden sie ein Buch gratis herunter.

English: 
So thanks to Audible for sponsoring this episode of Computerphile. Remember, audible.com/computerphile.
Download a book for free.
