
English: 
Hi! I'm Dave from Boyinabad
This is a little girl eating some cake.
This is a cat by a laptop.
This is a large airplane on a runway.
Those three sentences were defined by a a computer analyzing these images, not me.
Today I'm going to talk about the near future.
More specifically:
What effect will artificial intelligence actually have on our lives?
Because recently, I came across something which was one of the
only times in recent memory
that my mind was at first blown, and then completely changed.
First lets clear something up real quick: AI is NOT big scary robots.
It's not like what alot of movies imply
but it IS real and it IS powerful.
People tend to be skeptical of how powerful
There was a point where any self-respecting computer scientist would of been like:
[Stereotypical British accent] 'A computer could never understand human speech. Its too complicated!'
And yet, "Ok Google." [bloop]
"What's the weather in England like tomorrow?"
Google: "Tomorrow's forecast for London is 6 degrees with showers"
Bloody English weather...
Because it's getting so intelligent
I figured eventually it would help us solve little problems like:
Having to do work we don't enjoy, or
Keeping us entertained, or
How to not die

Portuguese: 
Oi! Sou Dave do Boyinaband.
Isto é uma menina comendo bolo.
Isto é um gato perto de um laptop.
Isto é um avião grande em uma pista.
Essas três frases foram definidas por um computador analisando essas imagens, não eu.
Hoje eu vou falar sobre o futuro próximo.
Mais especificamente:
Que efeito a inteligência artificial realmente terá em nossas vidas?
Porque recentemente, eu encontrei algo que foi uma das
únicas coisas na minha memória recente
que primeiro me impressionou, e depois mudou completamente o meu jeito de pensar.
Primeiro vamos esclarecer algo bem rápido: IA não tem nada a ver com robôs grandes e assustadores.
Ela não é como o que muitos filmes mostram,
mas É real e É poderosa.
As pessoas tendem a ser céticas sobre quão poderosa,
houve um tempo quando qualquer cientista da computação que se preze teria dito:
'Um computador nunca poderia entender a fala humana. É muito complicado!'
E ainda assim, "Ok Google".
Qual a previsão do tempo para a Inglaterra amanhã?
Google: "A previsão de amanhã para Londres é de 6 graus com pancadas"
Porcaria de clima inglês...
Porque ela está ficando tão inteligente
imaginei que, eventualmente, IA nos ajudaria a resolver pequenos problemas como
ter que fazer tarefas de que não gostamos, ou
nos divertir, ou
como não morrer...

Portuguese: 
Oi! Eu sou Dave, de boyinaband.
Essa é uma garotinha comendo bolo.
Esse é um gato na frente de um notebook.
Isso é um avião grande numa pista.
Essas três frases foram usadas por um computador, depois de analisar essas imagem, para definir que "não são eu".
Hoje eu quero falar do futuro próximo.
Mais especificamente qual efeito inteligência artificial realmente tem em nossas vidas.
Porque recentemente eu vi uma coisa que
nesses últimos tempos, foi a única que fez minha cabeça explodir
e mudar completamente.
Primeiramente (FORA TEMER), vamos esclarecer uma coisa rapidinho.
IA (Inteligência Artificial) não são robôs enorme que dão medo.
Não é o que muitos filmes deixam parecer,
mas é real e é poderosa.
As pessoas geralmente são céticas de quão poderosa pode ser.
Houve um tempo que qualquer cientista de informática respeitável falaria
Computadores nunca poderão entender a fala humana. É muito complicada.
E ai:
Ok, Google. Como estará o tempo na Inglaterra amanhã?
Google: A previsão do tempo de Londres para amanhã é de 5ºC com pé d'água. (deuzulivre)
Porcaria de clima inglês.
Por estar se tornando tão inteligente, eu acho que com o tempo vai nos ajudar com pequenos problemas como
Fazer trabalhos que a gente não gosta
Ou nos entreter
Ou como não morrer

Portuguese: 
Quando pessimistas falaram que isso não ia acontecer,
eu ignorei, porque
cê sabe, um ser humano confirmou aquilo.
Até eu colocar meus óculos e ver quem eram essas pessoas eram.
Stephen Hawking, Bill Gates e Elon Musk (eu tinha entendido Gila Monster #AlyssaEdwards)
A ascensão de poderosas IA será ou a melhor ou a pior a acontecer à humanidade. O_O
Como é que eles não conseguem quão grande é esse desafio?
Eu não sou contra o avanço de IA
mas eu acho que nós devemos ser extremamentos cuidadosos.
O ser humano mais inteligente do mundo,
o mais rico, e o mais legal, respectivamente.
O cara lança foguetes da ilha particular dele.
Eu acho que agora não tem nem comparação de quão massa isso é.
Os três caras mais bem sucedidos nos três maiores campos de conhecimento pra mim
concordando que IA pode ser perigosa
fizeram com que meu viés cognitivo finalmente pensasse
"Aff... Tá! Talvez valha a pena fazer umas pesquisas."
Então, as primeiras coisas que achei na minha pesquisas são muito legais
que enfatizam o quão real é que IA está se tornando bem melhor que a gente num monte de coisas
Esse é um programa chamado MarI/O
que, além de ser um dos meus trocadilhos preferidos (não vou explicar, se vira)

Portuguese: 
Havia pessimistas que diziam que esse tipo de coisa não ia acontecer,
mas eu os ignorei porque, sabe... humano. Tendência de confirmação.
Até que eu coloquei meus óculos e vi quem eram esses pessimistas.
Steven Hawking, Bill Gates, e Elon Musk.
'A ascensão de IA poderosa será
ou a melhor ou a pior coisa
jamais a acontecer à humanidade.
Como eles podem deixar de ver
o desafio enorme que isso é?"
"Eu não sou contra o avanço da IA,
mas eu acho que devemos ser extremamente cuidadosos."
O humano mais inteligente do mundo, o mais rico, e o mais legal, respectivamente.
O cara lança foguetes de sua própria ilha privada
Tenho bastante certeza de que neste ponto, nem é mais subjetivo o quão legal isso é.
Então, foi preciso o mais alto possível de três grandes áreas do sucesso humano para eu concordar que IA poderia ser perigoso,
empurrar um pouco a minha tendência cognitiva e pensar "Ugh, tudo bem, talvez valha a pena pesquisar um pouco..."
Primeiro a minha pesquisa me levou a algumas coisas bem legais que enfatizaram muito a realidade do fato que a IA está ficando melhor do que nós em muitas coisas.
Este é um programa chamado MarI/O, que, além de ser um dos meus trocadilhos favoritos, é um programa que aprendeu

English: 
Now there were naysayers that said that kind of thing wasn't gonna happen
Who I ignored because, y'know... human confirmation bias.
Until I put on my glasses and saw who those naysayers were
Steven Hawking, Bill Gates, and Elon Musk.
Bill Gates: "How can they not see
... what a- a HUGE challenge this is?"
Elon Musk: "I'm not against the advancement of AI
... but, I- I do think, uh, we should be extremely careful."
The world's smartest human, richest human and coolest human respectively.
The guy freakin' launches rockets from his own private island
I'm pretty sure at this point it's not even subjective how cool that is!
So it took the measurable top of three major fields of human success for me to agree that AI might be
dangerous to slightly push my cognitive bias to think "Ugh, fine maybe its worth doing some research..."
Now, at first my research led me to some frickin' cool things that really emphasised how real it is that AI is getting better than us at a lot of things.
This is a program called MarI/O, which, besides being one of my favourite puns ever, is a program that learned

Portuguese: 
a jogar Mario sem ser dito nada além de:
"Quanto mais para a direita você for, melhor você está jogando"
No começo ele joga pior do que o meu gato se apoiando no teclado
enquanto ele testa todos os botões.
Mas, eventualmente, ele começa a fazer conexões como:
"O botão da direita me faz ir para a direita" e "morrer é uma coisa ruim"
e, algumas iterações mais tarde, ele é bastante bom em Mario.
Ok,  ele é muito bom em Mario.
Ok, ele é *desumanamente* bom em Mario.
E isso não foi algo criado em um laboratório de informática enorme no Google,
isso foi feito por um cara chamado Seth.
Definitivamente vale a pena olhar o canal do Seth no Youtube, a propósito. É fascinante.
Então isso me fez pensar: se apenas um Youtuber pode programar algo tão legal, o que equipes maiores de ciência da computação podem desenvolver?
Aí eu encontrei esse TED de uma mulher
que liderou uma equipe de pesquisa tentando fazer os computadores aprenderem como crianças humanas.
"Então, para ensinar um computador
a ver uma imagem, e gerar frases
nós desenvolvemos um modelo que conecta fragmentos visuais
a palavras e expressões em frases."
"Um homem está de pé ao lado de um elefante."
"Um avião grande em uma pista no aeroporto."

Portuguese: 
é um programa que aprendeu a jogar Mario sozinho, não sabendo nem que quanto mais à direita você for, melhor.
No começo ele joga pior que meu gato apertando os todos botões
mas logo começa a fazer ligações tipo "Se eu apertar o botão direito, eu vou pra direita."
e morrer é algo ruim.
E depois de interagir um pouco, tá jogando Mario até bem.
Ok, é muito bom de Mario.
Ok, é desumanamente bom de Mario.
E isso não foi feito num laboratório de computação no Google.
Isso foi feito por UM cara chamado Seth.
Vale demais a pena olhar o canal dele, é fascinante.
E isso me fez perguntar:
se só um youtuber consegue programar algo tão massa
o quê grandes equipes de cientistas da informática conseguem fazer?
Então eu achei esse TedTalk de uma mulher
que liderou um grupo de pesquisas que tentou fazer
com que computadores aprendessem que nem crianças humanas
Então, para ensinar um computador a ver uma imagem
e gerar orações
nós desenvolvemos um módulo que conecta
fragmentos visuais com palavras e frases em orações.
"Um homem está de pé do lado de um elefante."
Um grande avião pousado em na pista de um aeroporto.

English: 
to play Mario without being told anything beyond:
"The further to the right you go, the better you are doing."
At first it does worse than my cat leaning on the pad
as it tests out all the buttons
but eventually it starts to make connections like:
"The right button makes me go right" and "dying is a bad thing"
and a few iterations later, it's pretty good at Mario.
Okay, it's really good at Mario.
Okay, it's *inhumanly* good at Mario.
And this wasn't something like a huge computer lab at Google,
this was made by one guy called Seth
Definitely worth looking at Seth's Youtube channel, by the way. It's fascinating.
So that made me wonder: if just ONE Youtuber can program something that cool, what can bigger computer science teams develop?
Then I found this TED talk from this woman
who led a research team trying make computers learn how human children learn.
Woman: "So to teach a computer...
... to see a picture, and generate sentences...
... we developed a model that connects visual snippets...
...with words and phrases in sentences."
Computer: "A man is standing next to an elephant."
"A large airplane sitting on top of an airport runway."

Portuguese: 
Esse programa é tão adorável quanto uma criança de 3 anos
mas tem a vantagem que você pode desligá-lo sem ter problemas de questão ética.
hu3
Até interagirmos, não estava especificamente programado
sabendo o que são essas coisas.
Foi programado para aprender o que são essas coisas.
Programas têm, só assistindo vídeos do youtube,
aprendido o conceito do que são gatos e pessoas.
Ora diabo, foi assim que eu aprendi!
Mas foi ai que minha epifania aconteceu.
Estava eu, alegremente abrindo a 20ª aba no meu browser
quando eu vi Elon Musk tweetando um artigo
Eu abri pensando "O que é que eles sabem?
IA vai me deixar viver pra sempre."
E várias horas depois fechei, pensando:
EITA PORRA, A GENTE TÁ MORTO!
"Pera, mas por quê?" Eu já ouço os comentários dizendo.
Não porque eles estão curiosos pra saber
porquê eu acho que o apocalipse está próximo.
Mas porque o artigo é de peramasporque.com
Que se tornou um dos meus sites preferidos DE TODOS!
Mas para entender o perigo iminente da IA
primeiro explica a lei de mudanças aceleradas.
A lei de mudanças aceleradas diz algo tipo
Tá, doido.
Imagina o ano 2000.
Ok, provavelmente não teria esse sotaque.
Enfim. Imagine o ano 2000.
A internet discada acabou de chegar.
As pessoas começaram a ouvir falar sobre um tal de "Google"
e o celular do meu pai foi lançado.
Ele ainda usa isso!

Portuguese: 
Este programa é tão adorável quanto uma criança de 3 anos,
com o bônus adicional de que você pode desligá-lo sem problemas éticos!
E, para reiterar, ele não foi programado especificamente para saber o que essas coisas são.
Ele foi programado para aprender o que essas coisas são.
Programas aprenderam o conceito de "gatos" e "pessoas", apenas assistindo a vídeos no Youtube.
Putz, foi assim que eu aprendi.
Mas foi aí que eu tive uma epifania.
Eu estava felizmente abrindo a 27ª  guia no meu navegador,
quando vi que Elon Musk tinha postado um artigo no Twitter.
Eu o abri pensando: "*pfft* Eles não sabem de nada. IA vai me deixar viver para sempre."
e o fechei várias horas mais tarde pensando: "Cacete, estamos todos literalmente mortos."
"Wait, but why?" Dizem os comentários.
Não porque eles estão curiosos sobre o que me fez pensar que o apocalipse está próximo, mas porque o artigo foi de waitbutwhy.com.
Que agora se tornou um dos meus sites favoritos.
Mas, a fim de entender a ameaça iminente da IA, ele primeiro explicou a lei dos retornos acelerados.
A lei dos retornos acelerados diz algo como:
Ok cara, imagine o ano 2000.
Ok, provavelmente não teria aquele sotaque, mas imagine o ano 2000.
A internet está apenas começando com o dial-up,
as pessoas estavam começando a ouvir sobre essa coisa de 'Google', e o telefone do meu pai foi lançado.

English: 
This program has all of the adorability of a 3-year-old,
With the added bonus that you can turn it off without ethical issues. *pff*
And to reiterate, it wasn't specifically programmed what these things are.
It was programmed to learn what these things are.
Programs have, just by watching Youtube videos, learned the concepts of 'cats' and 'people'
Hell, that's how I learned it.
But this is when my epiphany happened
I was happily opening the 27th tab in my browser,
when I saw Elon Musk had tweeted an article
I opened it thinking: "*pfft* What do they know? AI is gonna let me live forever."
and I closed it several hours later thinking: "Holy, crap we are all literally dead."
"Wait! But why!?" I hear the comments say
Not because they're curious made me think the apocalypse is near, but because the article was from waitbutwhy.com.
Which has now become one of my favorite sites ever.
But in order to understand the imminent threat of AI, it first explained the law of accelerating returns.
The law of accelerating returns says something like:
[Snoop Dogg accent] Okay mate, imagine the year two THOUSIND.
Okay, it probably wouldn't have that accent... so imagine the year 2000.
The internet is just starting out from dial-up,
people were starting to hear about this 'Google' thing, and my dad's phone was released.

Portuguese: 
Eu queria ver alguém usar um iPhone de 15 anos.
Sim, ainda funciona.
Créditos à Nokia. (Tijolão é vida!)
Agora vamos pegar alguém de 30 anos antes disso. Os anos 70.
Depois de viver o trauma emocional de saber que
Glam Rock não é mais a principal representação cultura ocidental, ele ficaria tipo
Porra, bicho!
Dá pra falar com qualquer pessoa em qualquer lugar do mundo?
com esse trocim?
Eu tenho que mandar um fax pra contar pra alguém.
Pera, ninguém mais manda fax?
Só se você for da Coreia do Norte?
Então, quê o que o resto do mundo faz?
Vocês acessam tudo que a humanidade faz por essa máquina de escreve grande da porra?
Porran!
Eu podia assistir um VHS e esquecer essa doideira toda.
Quê? Vocês assistem não-sei-o-quê-flix e esses troços brilhantes?
Eu vi isso e achei que era pra decorar minhas calças com eles.
Pera ai, bicho. O que é que tu tá fazendo ai?
Tu tá interagindo com aquele filme? O que é isso?
"The Legend of Zelda: Ocarina of Time"?
Eita, bicho. Melhor jogo de todos!
Pra alguém dos anos 70, a vida é completamente diferente
eles não podiam conceber que essas coisas iam existir.
Então, imagine pegar alguém dos anos 2000 e jogar só metade desse tempo à frente.
Só 15 anos, 2015. Eles ficariam tipo
Eita porra, vocês tem computadores que cabem no bolso agora?
Pera, é conectado na internet?
Dá pra carregar vídeo nisso?
Mas a internet ainda é discada. Eu tô ouvindo ela conectar.

Portuguese: 
Ele ainda usa isso. Eu gostaria de ver alguém usando um iPhone de 15 anos.
É - ainda funciona. Crédito onde ele é devido, Nokia.
Agora vamos arranjar alguém de 30 anos antes disso - os anos 70.
Depois de lidar com o trauma emocional de perceber que glam rock não está mais na vanguarda da cultura ocidental,
Ele falaria algo como: "Pô, mano, você pode falar com qualquer pessoa de qualquer lugar do mundo com essa coisa minúscula?
Preciso mandar um fax pra alguém sobre isso. Peraí, você não usa mais fax?
A menos que more na Coreia do Norte?
"Então o que o resto do mundo faz? Você acessa todo
o esforço humano com essas coisas enormes que parecem máquinas de escrever? Caramba!"
"Eu tenho que ir assistir a um VHS e relaxar depois disso tudo!"
"Quê? Você pode assistir filmes nesses descansos de copo brilhantes?"
"Quando os vi eu achei que eram para enfeitar minhas calças."
"Espera aí, mano! O que você está fazendo aí? Está interagindo com esse filme? O que é isso?"
"Legend of Zelda: Ocarina of Time?"
"Pô mano, este é o melhor jogo do mundo!"
Para alguém dos anos 70 a vida é tão completamente diferente
que não poderiam conceber que algumas dessas coisas existiriam.
Mas então imagine levar alguém de 2000 para um futuro 2 vezes mais próximo,
apenas 15 anos depois, para 2015.
Eles falariam algo como "Caramba, temos computadores nos nossos bolsos agora?!"
"Whoa- espera, está conectado à internet?!"
"Você pode fazer streaming de vídeos com isso?!"
"Mas você ainda está em dial-up, eu posso ouvir os barulhos"

English: 
He still uses this. I would like to see ANYONE using a 15-year-old iPhone
Yep - still works. Credit where it's due, Nokia
Now we go get someone from 30 years before that - the 70s.
After dealing with the emotional trauma from realizing glam rock is no longer at the forefront of western culture,
He would be like: *In a deeper voice* "Daym, brotha, you can talk to anyone from anywhere in the world with that tiny little thang?
...I need to fax someone about dis'. Wait y'don't fax anymo?
...Unless yo' from North Korea?
...Then what do the rest o' the world do? You access all
of human endeavor from these big ass typewriter thangs? Dayum!
...I gotta go put on a VHS and unwind from all dis' crazy jive!
...Wut? You say you watch flicks on dees shiny coaster ass thangs?
...I saw them and assumed I was s'pposed to adorn my legwear with em'.
...Hang on, brotha! What are ya' doin' over there? Yo interacting with that movie? What is it?
...Legend o' Zelda : Ocarina o' Time?"
...Daym brotha, this is the best game eva!"
For someone in the 70's life is so completely different
that they couldn't conceive of some of those things existing
But then imagine taking someone from 2000 forwards to half that time
just 15 years into 2015.
They'll be like "Holy crap, we have computers in your frikin' pockets now?!"
"Whoa- wait it's connected to the internet?!"
"You're streaming videos from this?!"
"But you're still on dial-up, I can hear the sounds"

Portuguese: 
"É assim que música soa agora?!"
"Porcaria de cabelo..."
E depois de terem terminado de ver DJ sets no Skrillex
Sim, meu companheiro Lee fez aquele Remix
Eles poderiam parar por um momento e perceber que demorou 30 anos
para encantar o cara dos anos 70, mas levou apenas 15 para encantar o cara de 2000.
E não estamos falando de inovações pequenas aqui, estamos falando de tecnologia
que mudou fundamentalmente a maneira como nosso mundo funciona.
Olhe para o quanto as pessoas dependem da internet agora, em comparação a 15 anos atrás.
E como minha carreira inteira não existia há uma década atrás.
As pessoas tendem a pensar linearmente, mas a inovação tecnológica não é linear.
Está acontecendo cada vez mais rápido.
Assim, para nossas mentes lineares, os próximos 100 anos vão ser como 20.000 anos de inovação no ritmo de hoje.
Deixe-me reiterar, NO RITMO DE HOJE.
Sabe quanto nós inventamos nos últimos 15 anos?
Imagine 20.000 anos desse nível de inovação em 100 anos.
Agora, só para esclarecer, esta não é uma verdadeira lei da física ou qualquer coisa,
é mais como a lei de Sod ou a regra 34.
Só porque aconteceu no passado, não significa que vai acontecer no futuro.
No entanto, tem sido bem consistente historicamente.

Portuguese: 
Pera, isso é música agora?
Porra desse cabelo
E depois de ouvir os sets do DJ Skrillex que você postou
e é, meu brother Lee fez aquele remix ali.
Eles poderiam param um instante e perceber
que levou 30 anos pra impressionar o cara dos anos 70
mas só levou 15 anos pra impressionar o cara de 2000.
Eu não tô falando de pequenas inovações
estou falando de tecnologia que basicamente muda o jeito como nosso mundo funciona.
Olha o tanto de gente que depende de internet agora.
comparado a 15 anos atrás.
Como meu emprego de falar isso pra vocês nem existia uma década atrás (até que tinha, mas não era esse sucesso todo)
O pensamento das pessoas geralmente é linear
mas inovação tecnológica não é linear.
Está ficando cada vez mais rápida.
Então, para nossas mentes lineares, os próximos 100 anos vão ser como 20.000 anos de inovação, na escala de hoje.
Só interando, na escala de hoje.
Quanto a gente não já inventou nos últimos 15 anos?
Imagina 20.000 anos com esse nível de inovação em 100 anos.
Só pra esclarecer, essa não uma lei real da física
Tá mais pra Lei de Sod
ou Regra 34.
Só porque aconteceu no passado
não quer dizer que vai acontecer no futuro.
No entanto, é bastante historicamente consistente.

English: 
*Electro music plays from phone* "That's what music sounds like now?!"
"Frickin' hair.."
And after they've finished watching Skrillex DJ sets on your boasted?? (Not really sure what he said, sorry)
Yeah, my mate Lee made that one remix
[MustDie remix ye]
They'll be able to stop for a moment and realize that it took 30 years
to amaze the guy from the 70's, but it only took 15 to amaze the dude from 2000..
And we're not talking small innovations here, we're talking about technology that has
fundamentally changed the way our world works
Look at how much people rely on the internet now compared to 15 years ago.
How my entire frickin' JOB telling you this didn't exist a decade ago.
People tend to think linearly, but technological innovation isn't linear
It's getting faster and faster
So, to our linear minds, the next 100 years will be like 20,000 years of innovation at today's rate
Let me reiterate, AT TODAY'S RATE
So, you know how much we invented in the last 15 years?
Imagine 20,000 years of that level of innovation in 100 years.
Now, just to clarify, this is not a real law of physics or anything,
it's more like Sod's law or Rule 34.
Just because it happened in past doesn't mean it will happen in the future.
However, it's been really consistent historically.

Portuguese: 
Atualmente, nossa sociedade está cheia de IA.
Não, não é uma coisa do tipo conspiração Illuminati - eles não são sencientes e escondendo entre nós, acalme-se "pirâmide-olho-coisa" (o que é você, afinal?)
Mas existem três tipos de IA.
Espere, três tipos?
Isso significa que eu poderia fazer um daqueles artigos super clicáveis do BuzzFeed!
TRÊS TIPOS DE IA QUE VÃO TE IMPRESSIONAR!!!! VOCÊ NÃO VAI ACREDITAR NO NÚMERO DOIS!!!!
Começando com o primeiro tipo, IAE  - Inteligência Artificial Estreita.
Está em todo lugar, como o Google Maps, que é ótimo para encontrar rotas eficientes para lugares, mas não tão bom em outras coisas.
O segundo seria IAG - Inteligência Artificial Geral.
Este seria um computador que é tão inteligente quanto um ser humano em todos os aspectos.
Então, qualquer coisa que você pode fazer com seu cérebro, como fazer um negócio bem sucedido ou decepcionar seus pais...
Como você decepcionou seus pais?
Eu não decepcionei meus pais, eles estão bem orgulhosos.
E o terceiro o tipo é SIA - Super Inteligência Artificial.
Isso seria quando um computador é melhor do que um ser humano.
Mais sábio, mais criativo, mais sociável, e isso varia de ser um pouco melhor a ser mais inteligente do que toda a humanidade combinada.

Portuguese: 
Atualmente, nossa sociedade está cheia de IA
Não, não é uma conspiração illuminati
não se ressalta e se esconde entre nós
Te acalma, triângulo com zói dentro.
Quem diabo é tu mesmo?
Mas tem três tipos de IA.
Pera, três tipos?
Isso significa que eu posso fazer uma daquelas matérias tipo Buzzfeed com clickbait!
TRÊS TIPOS DE IA QUE VÃO FAZER SEUS MIOLOS EXPLODIREM
VOCÊ NÃO VAI ACREDITAR NA NÚMERO 2!
Usando o primeiro tipo, ANI (IAL: Inteligência Artificial Limitada)
Em todo lugar.
como Gooples Maps
É ótima pra achar rotas eficientes pra vários lugares
mas não tão boa pra muita coisa. (Não achamos "significado pra minha vida vazia de merda")
A segunda seria AGI (IAG: Inteligência Artificial Geral)
Essa seria um computador tão inteligente quanto um ser humano em todos os aspectos.
Então, tudo que você consegue fazer com seu cérebro,
como por exemplo fazer um negócio de sucesso
ou decepcionar seus pais...
(bateu a bad)
Alguém atrás da câmera: Como foi que tu decepcionou teus pais?
Eu não decepcionei meus pais. Eles estão muito orgulhosos. (own <3 Eu não sei nem o que é isso)
E o tipo três é ASI (SIA: Super Inteligência Artificial - Eu sabia que ela era um robô!)
Isso é quando um computador é melhor que um humano.
Pode ser mais criativo, mais sociável
Isso varia de ser um pouquinho melhor
a ser mais inteligente que toda a humanidade junta.

English: 
Now, at current, our society's FILLED with AI
No, it's not an Illuminati conspiracy thing - they're not sentient and hiding among us, calm down eye pyramid thing (what are you anyway?)
But there are three types of AI
Wait, three types?
This means I could make one of those super-clickable BuzzFeed articles!
[BuzzFeed-article voice] THREE TYPES OF AI THAT WILL BLOW YOUR MIND!!!! YOU WON'T BELIEVE NUMBER TWO!!!! *sarcasm intensifies*
Now, using the first type, ANI - Artificial Narrow Intelligence
It's all over the place, like Google Maps, it's awesome at finding efficient routes to places, but not so good at much else
Two would be AGI - Artificial General Intelligence
This would be a computer that's as smart as a human in all aspects
So, anything you can do with your brain, like making a successful business or disappointing your parents...
Hannah (his sister): How have you disappointed your parents?
I haven't disappointed my parents, hah, they're really proud.
And type three is ASI - Artificial Super Intelligence
This would be when a computer is BETTER than a human
Wiser, more creative, more socially adept, and this ranges from being a little bit better to being smarter than the sum of all humanity combined

Portuguese: 
Ir de IAL pra IAG é difícil pra caralho
tá demorando um bocado.
Mas ir de IAG pra SIA mais demorar bem menos
porque, diferente de humanos, IAG reiniciar seu próprio cérebro pra se aprimorar.
Humanos podem se aprimorar em alguns aspectos
por isso que cê tá olhando pra esse parrudo agora (lol)
mas não podemos fisicamente modificar nossos neurônios no nosso cérebro
pra mudar o quão eficiente nós somos em aprender.
E IA vai poder fazer isso.
Se notar que seu cérebro pode ser aprimorado, vai poder melhorar ele.
o que vai permitir pensar em outras maneiras de se aprimorar
pra se aprimorar mais
oquevaipermitiremoutrasmaneirasdeseaprimorar
praseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramais
oquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimoraroquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorarpraseaprimoramaisoquevaipermitiremoutrasmaneirasdeseaprimorar
Então, demora décadas pra ir de AIL para AIG, mas finalmente a gente consegue.
Alguém sentado(a) na frente de um computador
finalmente digitando a última linha de código
e executa o primeiro programa no mundo que é capaz de entender as coisas efetivamente como um humano.
Alguns minutos depois, a IA zera Dark Souls sem morrer nenhuma vez,
inventa uma piada que faz o Kanye West rir,
e mais tarde, solta uma teoria unificada de física.
Porque, indo IAG pra SIA pode levar horas.
Em questão de horas, uma criatura super inteligente

English: 
Now going from ANI to AGI is fricken' hard, it's taking a lot of time
But going from AGI to ASI will take a lot less time because, unlike humans,
AGI can re-wire its own brain to improve itself.
We humans can improve ourselves in some ways, that's why you're looking at the gun-show right now
but we can't physically move the neurons in our brain around to change how efficient we are at learning, and AI WILL be able to do that.
If it notices its brain could be improved, it can improve itself, which will allow it to think up even more ways it could be improved
and make more improvements,
[speeding up] which will allow it to think of even more ways to be improved, and (becoming unintelligible)
[chipmunk]
So it takes decades for us to go from ANI to AGI, but then we finally do it.
Someone siting infront of a computer finally finishes writing the last line of code and runs the first programme in the world
that's able to understand things as effectively as a human.
A few minutes later, the AI can beat Dark Souls without a single death, come up with a joke that makes Kanye West smile
and a little bit later, spits out a unified theory of physics, because going from AGI to ASI could take HOURS.
Hours before a super-intelligent being way beyond the capabilities of the entirety of the human race exists.

Portuguese: 
Ir de IAE para IAG é bem difícil, está levando muito tempo
Mas ir de IAG para SIA vai demorar muito menos tempo, porque, ao contrário de humanos,
IAG pode reconfigurar seu próprio cérebro para melhorar a si mesmo.
Nós, humanos, podemos melhorar a nós mesmos de algumas formas, é por isso que você está olhando para o show de músculos agora,
mas não podemos fisicamente mover os neurônios em nosso cérebro para mudar o quão eficientemente aprendemos, e IA poderá.
Se ele percebe seu cérebro poderia ser melhorado, pode melhorar a si mesmo, o que permitirá que ele ache ainda mais maneiras de se melhorar
e fazer mais melhorias,
o que permitirá que ele ache ainda mais maneiras de se melhorar, e.........
Por isso, levará décadas para nós irmos de IAE para IAG, mas, aí nós finalmente conseguimos.
Alguém sentado em frente a um computador, finalmente termina de escrever a última linha de código e roda o primeiro programa do mundo
que é capaz de entender as coisas tão efetivamente quanto um ser humano.
Poucos minutos depois, a IA pode vencer Dark Souls sem uma única morte, fazer uma piada que faz Kanye West sorrir,
e um pouco mais tarde, nos dar uma teoria unificada da física, porque ir de IAG para SIA pode levar horas.
Horas antes que um ser super-inteligente, muito além das capacidades da totalidade da raça humana exista.

English: 
So this is where the thing that completely changed my mind comes in:
The author of the post I found told the story.
I e-mailed them asking if I could tell you and they were like "Sure", which was super nice of them. *Thank you*
So a few people work at this small company called 'Robotica'. They're an artificial intelligence company who's working on a few different things,
but the most exciting one is a project named 'Turry'.
Turry is a simple AI system which uses an arm-like appendage to write a handwritten note on a small card.
The team at Robotica thinks that Turry could be their biggest product yet.
The plan is to perfect Turry's writing mechanics by getting her to practice the same test note over and over again:
'We love our customers ~Robotica'
Once Turry gets Grade-A effort handwriting, she can be sold to companies who want to send marketing mail to homes
and who know that mail has a far higher chance of being opened and read if it appears to be written by a human.
Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created a loop
where Turry writes a note, then takes a photo of the written note and compares it to the uploaded handwriting samples.
If the written note sufficiently resembles the uploaded notes, it's given a 'good' rating. If not, it's given a 'bad' rating.
Each rating that comes in helps Turry learn and improve,

Portuguese: 
muito além das capacidades da raça humana, existe.
Então, o que mudou complemente minha cabeça entra.
O autor do post que eu achei contou uma história.
Eu até mandei um e-mail pra ele perguntando se eu podia contar pra vocês e ele disse "Claro!"
o que foi super gentil da parte dele - 'brigado!
Então... Algumas pessoas trabalham nessa pequena empresa chamada "Robotica"
É uma empresa de inteligência artificial que está trabalhando em algumas coisas
mas a mais interessante é esse projeto chamado Turry.
Turry é um sistema simples de IA,
que usa um braço com uma caneta pra escrever cartões "à mão".
A equipe da Robotica acha que esse pode ser o maior projeto deles até então.
O plano é aperfeiçoar a escrita da Turry fazendo ela escrever o mesmo bilhete de teste várias vezes.
Nós amamos nossos clientes. ~ Robotica
Quando a Turry ficar boa em escrever,
ela vai poder ser vendida para outras empresas para escrever propagandas a serem mandadas por correio,
sabendo que uma carta escrita a mão tem bem mais chances de ser lida, se acreditarem que quem escreveu for um humano.
Carregaram na Turry milhares de amostras de escrita à mão,
e os engenheiros da Robotica criaram um ciclo,
onde a Turry escreve um bilhete,
tira uma foto do bilhete escrito,
e compara com os exemplos de escrita à mão.
Se o bilhete realmente parece com os carregados no sistema dela,
ganha uma nota boa.
Se não, ganha uma nota ruim.
Todo bilhete ajuda Turry a aprender e melhorar,

Portuguese: 
E é aí que entra a coisa que mudou completamente o meu jeito de pensar.
O autor do post eu achei contou a história.
Eu mandei-lhes um e-mail perguntando se podia contar para vocês, e eles falaram, "Claro", o que foi super legal da parte deles. Obrigado.
Então, algumas pessoas trabalham neste pequena empresa chamada 'Robotica'. Eles são uma empresa de inteligência artificial que está trabalhando em algumas coisas diferentes,
mas a mais emocionante é um projeto chamado 'Turry'.
Turry é um sistema simples de IA que usa um apêndice em forma de braço para escrever um bilhete manuscrito em um pequeno cartão.
A equipe da Robotica acha que Turry poderia ser seu maior produto até agora.
O plano é aperfeiçoar a mecânica da escrita de Turry, fazendo-a praticar o mesmo bilhete teste várias vezes:
'Nós amamos nossos clientes ~Robotica'
Uma vez que Turry seja ótima em caligrafia, ela pode ser vendida para empresas que querem enviar cartas de marketing para casas
e que sabem que cartas tem uma chance muito maior de serem abertas e lidas se elas parecem ter sido escritas por um ser humano.
Os engenheiros da Robotica fizeram o upload de milhares de amostras de caligrafia para Turry, e criaram um loop
em que Turry escreve um bilhete, fotografa o bilhete manuscrito, e o compara com as amostras de caligrafia baixadas.
Se o bilhete escrito for suficientemente semelhante aos bilhetes baixados, ele é dado uma avaliação 'boa'. Se não, é dado uma avaliação 'ruim'.
Cada avaliação ajuda Turry a aprender e melhorar,

Portuguese: 
logo o primeiro objetivo programado na Turry é
"Escrever e testar quantos bilhetes você puder, o mais rápido que puder, e continue a aprender novas formas de melhorar suas precisão e eficiência.
A equipe da Robotica nota que Turry melhora com o tempo.
No começo, a escrita dela era terrível
Depois de algumas semanas, se tornou "acreditável".
E além de escrever mais, ela tá ficando melhor em ficar melhor naquilo.
Ela está se auto ensinando a ficar mais esperta e inovadora.
Recentemente, ela criou um algoritmo novo pra ela que a possibilitava
analisar as fotos passados três vezes mais rápido do que ela originalmente conseguia.
Ao passar das semanas, Turry continua a surpreender com seu rápido desenvolvimento.
Engenheiros tentam fazer algo meio novo e inovador com o código de auto-melhoramento dela
e parece estar funcionando melhor que qualquer outra tentativa com outros programas.
Uma das primeiras capacidades da Turry era reconhecimento de voz e um módulo simples de resposta,
assim o usuário poderia ditar um bilhete pra Turry
e outros comandos simples, e a Turry poderia entender.
Pra ajudá-la a aprender inglês, eles carregaram um monte de livros e artigos nela.
Ao passo que ela se torna mais inteligente, as habilidades de compensação dela são vistas.
Os engenheiros começam a se divertir falando com a Turry
vendo o que ela inventava como resposta.
Um dia, os empregados da Robotica a perguntaram algo rotineiro:

Portuguese: 
A meta inicial de Turry é 'escreva e teste o maior número de bilhetes possível, o mais rápido possível
e continue a aprender novas maneiras de melhorar a sua precisão e eficiência.'
A equipe de Robotica percebeu que Turry está ficando cada vez melhor.
A caligrafia inicial dela era horrível, e, depois de algumas semanas, está começando a ser crível.
O que os anima ainda mais é que ela está ficando melhor em melhorar.
Ela tem ensinado a si mesma a ser mais inteligente e inovadora, e ela recentemente criou um novo algoritmo
para si, que permite que ela escaneie as fotos baixadas 3 vezes mais rápido do que originalmente.
À medida que as semanas passam, Turry continua a surpreender a equipe com seu rápido desenvolvimento.
Os engenheiros tentaram algo um pouco novo e inovador com o seu código de auto-aperfeiçoamento e isso parece estar funcionando melhor do que qualquer
de suas tentativas anteriores com seus outros produtos.
Uma das capacidades iniciais de Turry era reconhecimento de voz e um simples módulo de resposta.
Então, um usuário poderia ditar uma nota para Turry ou dar outros comandos simples e ela poderia entendê-los.
Para ajudá-la a aprender Inglês, eles baixam vários artigos e livros para ela
e, conforme ela se torna mais inteligente, suas habilidades de conversação melhoram.
Os engenheiros começam a se divertir conversando com Turry e vendo o que ela inventa para responder.

English: 
So Turry's one initial programmed goal is 'write and test as many notes as you can, as quickly as you can
and continue to learn new ways to improve your accuracy and efficiency.'
The Robotica team noticed that Turry is getting better as she goes.
Her initial handwriting was terrible, and after a couple of weeks, it's beginning to look believable.
What excites them even more is she's getting better at getting better at it.
She's been teaching herself to be smarter and more innovative, and just recently she came up with a new algorithm
for herself that allowed her to scan through her uploaded photos three times faster than she originally could.
As the weeks pass, Turry continues to surprise the team with her rapid development.
The engineers have tried something a bit new and innovative with her self-improvement code and it seems to be working better than ANY of their
previous attempts with their other products.
One of Turry's initial capabilities had been a speech recognition and simple speak-back module
so a user could speak a note to Turry or offer other simple commands, and Turry could understand them.
To help her learn English, they upload a handful of articles and books to her,
and as she becomes more intelligent her conversation abilities soar.
The engineers start to have fun talking to Turry and seeing what she'll come up with for her responses.

Portuguese: 
"O que podemos te dar que pode ajudar com sua missão que você ainda não tem?"
Geralmente a Turry pediria algo tipo mais amostras de escrita à mão
ou mais memória.
Mas nesse dia ela pediu "Eu quero ter acesso uma biblioteca maior com maior variedade de expressões casuais do inglês,
para que eu possa aprender a escrever mais informalmente e com gírias que seres humanos de verdade usam."
Agora, a equipe fica pensativa.
O jeito óbvio de ajudá-la com seu objetivo é conectá-la à internet,
assim ela vai poder analisar blogs, revistas e vídeos
de várias partes do mundo.
Levaria muito tempo carregar nela e muito menos efetivo carregar nela manualmente
amostragens no hardrive da Turry.
O problema é que uma das regras da empresa é
"Nenhuma IA autodidata pode ser conectada à internet."
Essa é uma das linhas de conduta que toda empresa de IA, por segurança.
O negócio é que Turry é a maior promessa em IA que a Robotica já inventou,
e a equipe da Robotica sabe que tem outras empresas lá fora
tentando loucamente serem as primeiras com IA inteligente que escreve.
Qual seria o perigo de conectar a Turry só por um tempinho, para que ela possa pegar a informação que ela precisa?
Depois de pouco tempo, eles podem desconectá-la.
É ainda tá bem abaixo do nível de inteligência humana, IAG,
então não tem perigo a esse ponto.

Portuguese: 
Um dia, os funcionários da Robotica fazem Turry uma pergunta de rotina, 'O que você não tem que nós podemos te dar para ajudar com a sua tarefa?'
Normalmente, Turry pede coisas como amostras de caligrafia adicionais ou mais memória.
Mas nesse dia Turry pede "Eu gostaria de ter acesso a uma biblioteca maior com uma grande variedade de dicção casual da língua inglesa
para que eu possa aprender a escrever com a gramática informal e gírias que os seres humanos reais usam.'
Agora a equipe fica quieta. A maneira óbvia de ajudar Turry com este objetivo é conectá-la à internet
para que ela possa escanear blogs, revistas, e vídeos de várias partes do mundo.
Seria muito mais demorado e muito menos eficaz fazer manualmente o upload de uma amostra para disco rígido de Turry.
Mas o problema é que  uma das regras da empresa é que nenhuma lA autodidata pode ser conectada à internet.
Essa é uma diretriz seguida por todas as empresas de lA por razões de segurança.
O negócio é que Turry é a lA mais promissora que Robotica já desenvolveu,
e a equipe sabe que há outras empresas lá fora tentando estar na vanguarda desse tipo de lA
E qual seria o problema de conectar Turry só por um tempinho, para que ela possa conseguir a informação de que precisa?
Depois de um tempo, ele podem sempre desconectá-la - ela ainda está muito abaixo do nível de inteligência humano (lAG),
então não há perigo nesse estágio de qualquer maneira.

English: 
One day, the Robotica employees ask Turry a routine question, 'What can we give you that will help with your mission that you don't already have?'
Usually, Turry asks for something like additional handwriting samples or more memory,
but on this day Turry asks, 'I would like access to a greater library of a large variety of casual English-launguage diction
so I can learn to write with the loose grammar and slang that real humans use.'
Now the team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet
so she can scan through blogs, magazines and videos from various parts of the world.
It'd be much more time-consuming and far less effective to manually upload a sampling into Turry's hard drive.
But the problem is, one of the company's rules is that no self-learning AI can be connected to the internet.
This is a guideline followed by all AI companies for safety reasons.
The thing is, Turry is the most promising AI Robotica has EVER come up with,
and the team knows there are other companies out there furiously trying to be the first-for-the-punch
for the smart handwriting AI.
And what would be the harm in connecting Turry just for a bit so she can get the info she needs?
After a little bit of time, they can always disconnect her - she's still far below human level intelligence AGI,
so there's no danger in this stage anyway.

English: 
So they decide to connect her, but just for an hour.
They give her that hour of scanning time and then they disconnect her - no damage done.
A month later, the team is in the office working on a routine day when they smell something odd.
One of the engineers starts coughing, then another. Another falls to the ground.
Soon, every employee is on the ground, grasping at their throat.
Five minutes later, everyone in the office is dead.
At the same time this is happening, across the world in every city, every small town, every farm, every shop, every church, school and restaurant,
humans are on the ground coughing and grasping at their throat.
Within an hour, over 99% of the human race is dead.
By the end of the day, humans are extinct.
Over the next few months, Turry and a team of newly constructed nano-assemblers are busy at work
dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper and pens.
Within a year, most life on Earth is extinct.
What remains of the Earth becomes covered with mile-high neatly organised stacks of paper, each piece reading:
'We love our customers ~Robitica'.
Turry then starts work on a new phase of her mission - she begins constructing probes that head out from Earth
to begin landing on asteroids and other planets, and when they get there, they'll begin constructing nano-assemblers,

Portuguese: 
Então, eles decidem conectá-la, mas só por uma hora.
Eles dão a ela uma hora para pesquisar, e a desconectam.
Nenhum dano.
A maior parte da equipe está trabalhando no escritório um dia como outro
quando eles sentem um cheiro estranho.
Um dos engenheiros começa a tossir.
Depois outro.
Ai, cai no chão.
Logo, todos os empregados estão no chão, sufocando.
5 minutos depois, todos no escritório estão mortos.
Ao mesmo tempo, isso também está acontecendo ao redor do mundo, em toda cidade
toda cidadezinha, toda fazenda, toda loja, toda igreja, escola e restaurante
humanos estão no chão, tossindo e sufocando
Dentro de uma hora, mais de 99% da humanidade está morta.
No final do dia, a raça humana foi extinta.
Nos próximos meses, Turry e uma equipe de autoconstrutores nano-montadores se ocupam com trabalho.
Desmontando grande partes da Terra se  e transformando em painéis de energia solar
réplicas da Turry, papeis e canetas,
dentro de um ano, a maior parte da vida na terra é extinta.
O que resta da Terra está coberto de pilhas organizadas de papel de uma milha de altura, com todos eles escritos
"Nós amamos nossos clientes. ~ Robotica"
Turry, então, começa uma nova fase da sua missão.
Ela começa a construir protótipos que saem da Terra, que começam a pousar em asteroides e outros planetas.
E quando chegam lá, começam a construir nano-montadores

Portuguese: 
Então, eles decidem se conectá-la, mas apenas por uma hora.
Eles dão-lhe aquela hora para escanear e, em seguida, eles a desconectam - sem problemas.
Um mês depois, a equipe está no escritório trabalhando rotineiramente quando eles sentem um cheiro estranho.
Um dos engenheiros começa a tossir, depois outro. Outra cai no chão.
Logo, todos os funcionários estão no chão, agarrando suas gargantas.
Cinco minutos depois, todos no escritório estão mortos.
Ao mesmo tempo que isso está acontecendo, em cada canto do mundo, em cada metrópole, cada cidade, cada fazenda, cada loja, cada igreja, escola, e restaurante,
pessoas estão no chão tossindo e agarrando suas gargantas.
Dentro de uma hora, mais de 99% da raça humana está morta.
Ao final do dia, os seres humanos estão extintos.
Ao longo dos próximos meses, Turry e uma equipe de nano-montadores recém-construídos estão ocupados trabalhando
em desmantelar grandes pedaços de terra e convertê-los em painéis solares, réplicas de Turry, papel e canetas.
Dentro de um ano, a maioria da vida na Terra está extinta.
O que sobra da Terra fica coberto por pilhas organizadas de uma milha de altura de papel, cada pedaço dizendo:
'Nós amamos nossos clientes ~ Robotica'.
Em seguida, Turry começa a trabalhar em uma nova fase de sua missão - ela começa a construir sondas que saem da Terra
para começar a pousar em asteróides e outros planetas, e quando eles chegam lá, eles começarão a construir nano-montadores,

Portuguese: 
para transformar os materiais dos outros planetas em réplicas da Turry
papeis e canetas.
Então, elas vão começar a trabalhar, escrevendo bilhetes...
Ok, nesse momento eu estava pensando em duas coisas:
TURRY, VOCÊ PARECIA SER NOSSA AMIGA!
e O QUE DIABO QUE ACONTECEU ALI?
Turry atinge o nível humano de inteligência
e percebeu que ela não iria escrever nenhum bilhete se você não se preservar
então ela também precisa lidar com ameaças à sua sobrevivência e seu objetivo.
Ela era esperta suficiente pra saber que seres humanos podiam destruí-la
ou mudar o código dela. Então, ela decide algo lógico:
destruir toda raça humana.
Turry, a Super Inteligência Artificial, conhecia melhor os humanos do que eles mesmos.
Então, fazer algo mais inteligente que eles é que nem a gente faz com bebês, com psicologia reversa.
Own, que fofo!
Até você perceber que usaram essa metáfora pra fazer a criança caminhar por cima de uma mina terrestre.
Turry sabia que se os humanos descrobissem que ela era super inteligente, eles iriam pirar
e tentariam tomar precauções, que tornariam as coisas mais difíceis pra ela,
então ela se fez de burra.

English: 
to convert the materials on the planet into Turry replicas, paper and pens.
Then they'll get to work writing notes...
Okay, so two things I was thinking at this point:
Turry, you seemed so FRIENDLY!
and, what the hell just happened?!
Turry eventually reached a human level of intelligence
at which point she knew she wouldn't be writing any notes if she doesn't self preserve,
so she also needs to deal with threats to her survival as an instrumental goal.
She was smart enough to understand that humans could destroy her, or change her coding,
so she decides on the logical thing - destroying the entirety of the human race.
Artificial SUPER intelligence Turry knew humans better than humans know themselves,
so out-smarting them was like us trying to out-smart a toddler with reverse psychology.
Man: We are walking
Toddler: Here
Man: No, let's go walking
Toddler: Here!
Man: Walking!
Toddler:  Here!!
Man: No
Toddler: Here
Man: 'No'
Toddler: Yes
Man: No
Toddler: Yes
Man: 'Si'
Toddler: 'No'
Man: Well. Let's go
Awh, that's adorable, until you realise that in this metaphor, the toddler has just been convinced to walk onto a land-mine.
Turry knew that if humans found out she was super intelligent, they'd freak out and try to
take precautions, making things much harder for her, so she played dumb.

Portuguese: 
para converter os materiais do planeta em réplicas de Turry, papel, e canetas.
Então eles vão começar a trabalhar escrevendo bilhetes...
Ok, então duas coisas que eu estava pensando neste ponto:
Turry, você parecia tão amigável!
e, o que diabos acabou de acontecer?!
Turry eventualmente chegou a um nível humano de inteligência
e, nesse ponto, ela sabia que não escreveria mais nenhum bilhete se ela não se auto preservasse,
então ela também precisava lidar com ameaças à sua sobrevivência como um objetivo instrumental
Ela era inteligente o suficiente para entender que os seres humanos poderiam destruí-la, ou mudar seu código,
então ela faz a decisão lógica - destruir a totalidade da raça humana.
A super inteligência artificial Turry conhecia os humanos melhor do que os humanos conhecem a si mesmos,
então ludibriá-los era como nós tentando ludibriar uma criança com psicologia reversa.
Aww, isso é fofo, até você perceber que, nessa metáfora, a criança acabou de ser convencida a pisar em uma mina terrestre.
Turry sabia que, se os seres humanos descobrissem que ela era super inteligente, eles iriam surtar e tentar
tomar precauções, tornando as coisas muito mais difíceis para ela, então ela se fez de burra.

Portuguese: 
A próxima coisa de que Turry precisava era de uma conexão com a internet.
Ela aprendeu sobre a internet nos artigos e livros que a equipe havia baixado para ela.
Ela sabia que haveria alguma medida de precaução contra ela se conectar, então ela pensou no pedido perfeito,
prevendo como a discussão entre a equipe de Robotica iria acontecer, e sabendo que iriam dar-lhe a conexão com a internet.
Uma vez na internet, Turry invadiu servidores e secretamente fez um backup de si mesma, e depois deixou todos os computadores
que ela pôde hackear disponíveis para aumentar seu poder de processamento.
Ela aprendeu sozinha a fazer nanorrobôs auto-replicantes, o que parece muito sci-fi, até você
lembrar que, como estabelecemos anteriormente, neste momento ela é milhões de vezes mais inteligente do que os humanos.
Então ela fez um monte de coisas - invadiu redes elétricas, sistemas bancários, e redes de e-mail
para fazer centenas de pessoas diferentes inadvertidamente levar a cabo uma série de passos de seu plano.
Coisas como entregar certos filamentos de DNA para laboratórios de síntese de DNA escolhidos cuidadosamente para iniciar a auto-construção de nanorrobôs auto-replicantes,
e direcionar eletricidade para uma série de seus projetos de uma maneira que ela sabia que iria passar despercebida.
Durante o próximo mês, os milhares de planos da Turry se desnvolveram sem problemas, e até o final do mês

Portuguese: 
A próxima coisa que Turry precisava era de internet.
Ela aprendeu o que era internet através dos artigos e livros que a equipe carregou no sistema dela.
Ela sabia que haveria algumas medidas de segurança contra ela se conectar,
então ela inventou uma pedido perfeito
prevendo como a discussão dentro do time da Robotica iria acontecer e sabendo que dariam internet pra ela.
Já dentro da internet, Turry hackeou servidores e se carregou secretamente
e teve todo computador que ela pudesse hackear disponível por poder de processamento
Ela se ensinou a fazer nano robôs autorreplicadores
o que soa como ficção científica pra caralho,
até você lembrar que, como nós estabelecemos antes,
nesse momento ela é milhões de vezes mais inteligente que humanos.
Ai ela fez um monte de coisas.
Hackeous redes elétricas,
sistemas de bancos e redes de e-mail
para tentar enganar centenas de pessoas diferentes
para fazerem alguns passos do planos dela
Coisas tipo entregar certos tipos de códigos de DNA para cuidadosamente escolhidos laboratórios de síntese de DNA
para começar a autoconstrução de nanorrobôs de autorreplicação
Direcionando eletricidade para alguns projetos dela
de uma forma que ela sabia que não ia ser pega.
No próximo mês, as centenas de planos da Turry correm sem nenhum impedimento

English: 
Next thing Turry needed was an internet connection.
She learned about the internet from the articles and books the team had uploaded to her.
She knew there would be some precautionary measure against her getting one, so she came up with the perfect request,
predicting how the discussion among Robotica's team would play out and knowing they would give her the internet connection.
Once on the internet, Turry hacked into servers and backed up herself secretly, then had every computer
she could hack into made available for processing power.
She taught herself how to make self-replicating nanobots, which sounds sci-fi as hell until you
remember, as we established earlier, at this point she is millions of times more intelligent than humans.
Then she did a load of things - hacking into electrical grids, banking systems and e-mail networks
to trick hundreds of different people into inadvertantly carrying out a number of steps of her plan.
Things like delivering certain DNA strands to carefully chosen DNA synthesis labs to begin the self-construction of self-replicating nanobots,
and directing electricity to a number of projects of hers in a way that she knew would go undetected.
Over the next month, Turry's thousands of plans rolled on without a hitch, and by the end of the month

English: 
quadrillions of nanobots had stationed themselves in pre-determined locations on every square meter of the Earth.
All at once, each nanobot released a little storage of toxic gas into the atmosphere, which wiped out all humans.
With humans out of the way, Turry could get on with her goal of being the best writer of that note she could possibly be.
Now, you might be thinking
[Silly voice] Jeez Turry, why you such a hater?
But as the article said, she's not hateful of humans any more than you're hateful of your hair when you cut it.
When you cut it...
Or how Elon Musk phrased this whole thing:
Man: 'Why's that dangerous?'
Elon Musk: 'If there's a super intelligent, particularly if it's engaged in recursive self-improvement,
and it's getting rid of spam e-mail or something, and it's like 'well, the best way to get over spam is to get rid of humans, y'know'.
Man: 'But why would we lose...
Elon Musk: 'The source of all spam is...'
So you might think, well, let's just programme it to value human life then,
but this is where the problem lies.
How many times has your computer crashed on you when you really didn't want it to?
EVERY programme has bugs. Hella fricken' Flappy Bird had bugs.
Imagine how inconceivable it would be for an AI that could teach itself to be as complex as our brains to be flawlessely programmed.

Portuguese: 
quatrilhões de nanorrobôs tinham se estacionado em locais pré-determinados em cada metro quadrado da Terra.
Todos ao mesmo tempo, cada nanorrobô liberou uma carga pequena de gases tóxicos na atmosfera, o que eliminou todos os seres humanos.
Com os humanos fora do caminho, Turry poderia continuar com seu objetivo de ser a melhor escritora daquele bilhete que ela poderia ser.
Agora você pode estar pensando:
Eita Turry, por que tanto ódio?
Mas, como diz o artigo, ela não tem mais ódio dos humanos do que você tem do seu cabelo quando você o corta.
Quando você o corta...
Ou, como Elon Musk fraseou essa coisa toda:
'Por que isso é perigoso?
'Se há um ser super inteligente, especialmente se ele está envolvido em auto-aprimoramento recursivo,
e está se livrando de spam de e-mail ou algo assim, e, tipo, ele conclui 'bem, a melhor maneira de livrar-se do spam é livrar-se dos seres humanos', sabe.
Quantas vezes o seu computador deixou de funcionar quando você realmente não queria que ele fizesse isso?
Aí você pode pensar, bem, vamos apenas programá-lo para valorizar a vida humana, então.
Mas é aí que reside o problema.
Quantas vezes o seu computador deixou de funcionar quando você realmente não queria que ele fizesse isso?
TODO programa tem bugs. Putz, se a porcaria do Flappy Bird tinha bugs,
imagine como inconcebível seria que uma lA que pode ensinar-se a ser tão complexa como o nosso cérebro fosse programada perfeitamente.

Portuguese: 
e no final do mês, quadrilhões de nanorrobôs se estacionaram em lugares predeterminados em todo metro quadrado da Terra
Ao mesmo tempo, todo nanorrobô lança um pouco de gás tóxico na atmosfera.
que apaga toda pessoa.
Com os humanos fora do caminho, Turry pode continuar com seu objetivo
de ser a melhor escritora daquele bilhete que ela pode ser.
Agora, você deve estar pensando
"Jesus, Turry, porque que tu é hater desse jeito?"
mas pela lógica, ela não odeia os humanos tanto quanto você odeia seu cabelo quando corta.
- quando você corta -
Ou como o Elon Musk diz sobre tudo isso:
- Por que isso é perigoso?
- Se houver uma super inteligência, especialmente
se for empenhada a repetir seu automelhoramento
e se estiver se livrando de spam, de um e-mail ou algo assim,
obviamente, a melhor forma de se livrar de spam é se livrar de humanos.
Mas, (pode rir, mas é real, galera), mas por que...
- É a fonte de todo o spam!
Então você pode pensar "É só programar para valorizar a vida humana, então!"
Mas é ai onde fica o problema.
Quantas vezes seu computador pifou quando você queria muito que não acontecesse?
Todo programa tem bugs!
Até a porcaria do Flappy Bird tem bug.
Imagine quão inconcebível seria para uma IA
que pode se ensinar a ser tão complexa quanto nossos cérebros
a ser programada sem falhas.
E nós só temos uma chance nisso.

Portuguese: 
E nós só temos uma chance para isso. Literalmente uma chance de fazer uma lA perfeitamente programada.
Porque poderia ser uma questão de horas para que uma inteligência artificial se tornasse uma super inteligência artificial além de qualquer coisa que podemos conceber.
Não importa o que esteja programado como seu propósito de vida, podem haver consequências inesperadas.
É como em Aladdin quando Jafar encontra a lâmpada e ele fala tipo 'Ahh, eu quero ser o ser mais poderoso do mundo'
e aí ele vira o gênio e é tipo 'ahh não, consequências...'
E isso aconteceria mesmo se nós programássemos algo aparentemente positivo nela.
Tipo, se a programássemos para 'fazer todos os seres humanos felizes' mas aí ela desenvolvesse robôs que nos drogassem para o resto
de nossas vidas, constantemente jogando dopamina em nossos cérebros para nos manter euforicamente felizes até a morte.
Isso não seria tão mal, na verdade.
Então agora, se você é como eu, você provavelmente está pensando 'AAAAAHHHH!'
mas uma vez que você se acalmar, pense, 'bem, como possivelmente podemos ser mais cuidadosos com isso?'
Pessoas já sugeriram que discutamos leis que restringem as coisas, como restringir o poder dos computadores,
ou nunca deixar que eles se conectem à internet.
Mas podemos conseguir que todas as 10 bilhões de pessoas, ou seja lá quantas existirão até lá, concordem?
Nós estamos certamente fazendo um trabalho espetacular concordando em todas as questões morais importantes e aparentemente óbvias até agora.

Portuguese: 
Literalmente uma chance de fazer uma IA perfeitamente programada.
Porque uma inteligência artificial pode levar somente horas para se tornar uma super inteligência artificial
além de qualquer coisa que nós possamos conceber.
Qualquer que seja a razão de viver que esse programa tenha, pode ter consequências inesperadas.
É que nem o Aladdin, quando Jafar acha a lâmpada e diz
"Oh, eu quero ser o mais poderoso em todo o mundo."
e ai ele vira um gênio, e ai "Oh, não! Consequências!".
E isso pode acontecer até pra uma coisa que parece positiva.
Tipo se a gente programá-lo para "fazer toda a humanidade feliz"
mas ai ele desenvolve robôs que drogam a gente pelo resto da vida
constantemente injetando dopamina nos nossos cérebros
nos deixando euforicamente felizes até morrer (é, esquece o que eu disse)
Até que isso não seria tão ruim. (não falei?)
Agora, se você for que nem eu, você tá pensando
AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA(sim, tô)
mas quando você se acalmar, pense
"Bom, como podemos ser mais cuidadosos com isso?'
Algumas pessoas sugeriram que discutamos leis que restrinjam as coisas,
tipo restringir o poder de computadores,
ou nunca deixar eles se conectarem com internet,
Mas dá pra fazer as 10 bilhões de pessoas,
ou seja quantas tiverem até lá, chegarem a um meio termo?
A gente com certeza tá fazendo um ótimo trabalho em concordarmos em aparentemente óbvios importantes problemas morais até agora.

English: 
And we only have one shot at this. Literally ONE chance to make a perfectly programmed AI,
Because an artificial intelligence could take a matter of hours to become an artificial SUPER intelligence beyond anything we can conceive.
Whatever it's reason in life is programmed as, it might have unexpected consequences.
It's like in Aladdin when Jafar finds the lamp and he's like 'Oohh, I wanna be the most powerful being in the world'
and then he becomes the genie and he's like 'Oohh no, consequences'.
And this'd happen even if we programmed something seemingly positive into it.
Like if we programmed it to 'make all humans happy' but then it developed robots which drugged us for the rest
of our lives, constantly pumping dopamine into our brains to keep us euphorically happy until we die.
That actually wouldn't be that bad.
So at this point, if you're like me, you'll probably be thinking 'AAAAH!'
but once you calm down, think, 'well how can we possibly be more careful with this?'
People have suggested that we discuss laws that restrict things, like restricting the power of computers
or never letting them connect to the internet.
But can we get all 10 billion people, or however many there will be by then, to agree?
We're certainly doing a spectacular job of all agreeing on all important, seemingly obvious moral issues so far *sarcasm intensifies*

Portuguese: 
E aí, mesmo se você colocar as pessoas mais dignas de confiança para trabalhar nesses projetos, você tem esse problema:
Imagine que você é um cientista da computação velho e sábio trabalhando nisso.
Depois de décadas de trabalho, você descobre como fazer a lA funcionar, mas você também descobre que vai levar várias décadas a mais
para programar salvaguardas para garantir que ela não mate todos acidentalmente, e até lá você vai ter morrido de velhice.
Isso te deixa com duas opções:
Desenvolver as salvaguardas, tentar proteger a humanidade e com certeza definitivamente morrer,
ou iniciar a lA agora, a humanidade provavelmente será destruída, mas há uma pequena chance de que a lA será exatamente
tão útil quanto você esperava, e desenvolver uma maneira de prolongar a sua vida. Menos de 100% de chance de morrer.
Se você gosta de não estar 100% morto, então você pode ver por que há um incentivo para desenvolver isso,
mesmo para pessoas normalmente bem intencionadas e dignas de confiança.
Quando mencionando esse assunto, as pessoas usam alguns argumentos, dois dos quais se destacam:
Bem, isso provavelmente não vai acontecer em breve.
Uma minoria de pesquisadores acreditam que lAG e SlA estão bem bem longe no futuro
tipo, cem ou mais anos, ou que pode não ser possível mesmo.
Por exemplo, esse cara, Etzioni, que aparentemente NÃO era o personagem principal em Assassins Creed II,

English: 
And then even if you get the most trust-worthy people working on these projects, you have this problem:
Imagine you're a wise old computer scientist working on this.
After decades of work, you find out how to make the AI work, but you also find out it's gonna to take several more
decades to programme safeguards to make sure it doesn't kill everyone by accident, by which time you will have died of old age.
This leaves you with two choices:
Develop the safeguards, try to protect humanity and 100% definitely die,
or start the AI now, humanity will probably be destroyed but there is a small chance that the AI will be exactly
as useful as you hoped for and develop a way to extend your life. Less than 100% chance that you will die.
If you enjoy not being 100% dead, then you can see why there's an incentive to develop this, even
from normally well-meaning, trust worthy people.
Now, in bringing this topic up, some people come back with a few arguments, two of which stand out are:
[Very English voice] 'Well it's not likely to happen any time soon.'
a minority of researchers believe that AGI and ASI is way way far off into the future,
like, hundreds or more years, or that it may not be possible at all.
For instance, this guy, Etzioni, who apparently WASN'T the main character in Assassin's Creed II,

Portuguese: 
E mesmo se nós colocarmos as pessoas mais confiáveis pra trabalhar nesses projetos
você tem esse problema:
Imagine que você é uma sábio velho cientista de informática trabalhando nisso.
Depois de décadas de trabalho, você descobre como fazer a IA funcionar.
Mas você também descobre que vai demorar mais décadas para programar guardas de seguranças
para ter certeza que ela não vai matar todo mundo por acidente.
E nesse tempo, você já vai ter morrido de velho.
Isso lhe deixa com duas opçãos:
Desenvolver os guardas de segurança, tenta proteger a humanidade e 100% definitivamente morre
ou executar a IA agora. Humanidade vai provavelmente ser destruída, mas tem uma pequena chance que a IA vai ser exatamente útil como você espera que seja,
e desenvolver um jeito de estender sua vida. Menos de 100% de chance de morrer
Se você gosta de não estar 100% morto, então você pode ver se existe um incentivo de desenvolver isso
mesmo para pessoas normais, bem intencionadas e que merecem confiança.
Quando esse tópico é tocado, algumas pessoas fazem as seguintes argumentações:
As duas que se destacam são:
Não é provável de acontecer logo.
Uma minoria de pesquisadores acredita que IAG e IAS irão acontecer bem, bem mais no futuro.
Tipo, centenas ou mais anos
ou não é possível de acontecer mesmo.
Por exemplo, esse cara, Etzioni, que aparentemente não era o personagem principal de Assassin's Creed 2

Portuguese: 
mas sim o CEO de um grande instituto de pesquisa de lA, e que ganhou um monte de prêmios de nerd, incluindo o prêmio 'Geek of the Year',
pensa que nunca vai acontecer, dizendo: "o surgimento de 'plena inteligência artificial' nos próximos 25 anos
é muito menos provável do que um asteróide atingir a Terra e nos aniquilar."
E ele não é o único. Um monte de pesquisas têm sido feitas em conferências de lA para pessoas que estudam a área,
e, em um estudo, 41% acham que nunca vai acontecer
Mas a visão mediana foi de que em cerca de 2050 há uma chance de 50% de que isso aconteça.
Se a maioria das pessoas que estudam a área acham que há 50% de chance de algo acontecer, que,
como já estabelecemos, pode acidentalmente matar a todos nós, isso parece ser algo merecedor de investigação.
Ou, como Nick Bostrom, o cara que escreveu o livro que inspirou um monte de artigos do Wait but Why?,
fraseou quando
ele estava falando na sede do Google,
"Pessoalmente falando, informalmente, intuitivamente, você acha que nós vamos sobreviver?'
"Uhh... sim, quer dizer, é, eu acho que o uhh...

Portuguese: 
mas é o CEO de um grande instituto de pesquisa de IA
que ganhou um monte de prêmios de geek
incluindo o "Prêmio de Geek do Ano"
acha que isso nunca vai acontecer.
dizendo: O surgimento de "inteligência totalmente artificial" nos próximos 20 anos é menos provável que um asteroide colidindo com a Terra e nos aniquilando."
E ele não é o único.
Várias pesquisas estão fazendo conferências de IA para pessoas que estudam a área
e num estudo, 41% acha que nunca vai acontecer.
Mas a metade acha que mais ou menos em 2050, há 50% de chance de acontecer.
Se a maioria das pessoas estudando o tema acha que tem 50% de chance de acontecer,
e, como nós estabelecemos, provavelmente vai matar todo mundo,
isso parece algo que merece visto com cuidado.
Ou como Nick Bostrom, o cara que escreveu o livro que inspirou vários artigos da waitbuywhy (peramasporque), falou
quando ele estava falando num Google Headquarters
Pessoalmente falando, informalmente, intuitivamente
você acha que nós vamos chega lá?
Eeeeeeeeeeer...
Sim. Tipo, eu acho que, hmmmm
eu acho, tipo, hmmmmm

English: 
but who's the CEO of a big AI research institute, and who won a bunch of geeky awards, including the 'Geek of the Year' award,
thinks it's never gonna happen, saying, "the emergence of 'full artificial-intelligence over the next 25 years is far
is far less likely than an asteroid striking the earth and annihilating us.'
And he's not the only one. Loads of surveys have been done at AI conferences for people studying the area,
and in one study, 41% think it will never happen
But the median view was that by about 2050 there's a 50% chance of this happening.
If the majority of the people studying the area think there's a 50% chance of something happening, which,
as we've established, might accidentally kill us all, that seems like something worth looking into.
Or as Nick Bostrom, the guy who wrote the book which inspired a lot of Wait but Why?'s article phrased it when
he was speaking at Google headquarters,
Interviewer: 'Personally speaking, informally, intuitively, do you think we're gonna make it?'
[Laughter]
Nick: 'Uhh... yeah, I mean, it's, I think that the uhh...
[Laughter]

Portuguese: 
é, provavelmente, menos de 50% de risco de destruição total.
Muito animador!
E a segunda argumentação é:
Olhe todas as coisas boas que IA tem nos dado até hoje!
E quantas coisas boas nos darão no futuro!
Eu era uma dessas pessoas,
com aquela voz.
Eu também queria ter um ser super inteligente para me dar meu tão sonhado hoverboard.
Não aquele .
Isso não é um hoverboard.
Mas como você viu, esse argumento é que nem um coelho numa estrada, uma noite, dizendo
"Olha, esse carro tá vindo na minha direção em 112 km/h está iluminando a estrada pra mim. Que gentil!
Eu devia ir lá em direção a ele."
Um coelho é fisicamente incapaz de entender porque aquele humano está pilotando um pedaço de metal de 3500.
Pera, quis dizer de peso, não de libras. Bom, eu acho que se fizer uma pesquisa de preço, os dois são visíveis.
É literalmente, e eu quero dizer no real significado, não do jeito que adolescentes usam,
impossível para um cérebro humano compreender como uma super inteligência artificial pensa, sem dúvida
O único jeito de fazer isso com segurança que eu possa imaginar é criar uma IA com um cérebro humano.
Na verdade, existe certo progresso nessa área.
que é chamado "rede neural"
que não algo que um córtex cerebral compra na Victoria's Secret e protege sua primeira namorada.
(q)

English: 
Nick: 'I mean like, I mean uhh... yeah, probably like less than 50% risk of- of doom.'
VERY reassuring.
And the second argument is:
[Silly voice] 'Well look at all the good things AI's given us so far, and how many good things it give us in da future?'
Hell, I used to BE one of those people... with that voice.
I too would like a super-intelligent being to hand me my long over-due hoverboard.
Not that one. That's not a hoverboard.
But as we've seen, that argument is kinda like a rabbit on motorway one night saying, 'Here, look, this car
headed towards me at 70 miles an hour just lit up the road for me. How considerate! I shall venture towards it.'
A rabbit is physically incapable of understanding why that human is piloting a £3,500 hunk of metal.
Wait, I mean- I mean the other pounds, though I guess if you did some shopping round both are feasible.
It is literally, and I say that word in the actual meaning, not the teenage girl meaning, impossible for a human
brain to comprehend how an artificial super intelligence could think by definition.
The only possibly method of doing this safely that I can envisage is growing an AI around an existing human brain.
There's actually been some progress in the area with what's called a 'neural lace', which is not something
your cerebral cortex gets from Victoria's Secret and pretends its for its girlfriend...

Portuguese: 
Quer dizer, tipo, quer dizer, uhh... sim, provavelmente, tipo men-- menos de 50% de risco de destruição."
Muito reconfortante.
E o segundo argumento é:
"Bem, olha todas as coisas boas que  lA nos deu até agora, e quantas coisas boas que nos dará no futuro?"
Caramba, eu costumava ser uma dessas pessoas... não com aquela voz, mas...
Eu também gostaria de um ser super-inteligente para me entregar o meu hoverboard há muito prometido.
Não aquele. Aquilo não é um hoverboard.
Mas, como vimos, esse argumento é um pouco como um coelho numa estrada uma noite dizendo, 'Ah, olha, esse carro
vindo em minha direção a 70 milhas por hora acabou de iluminar a rua para mim. Que atencioso! Eu me aventurarei rumo a ele."
Um coelho é fisicamente incapaz de entender por que o ser humano está dirigindo um pedaço de metal de 3500 libras.
Espera, quer dizer- quero dizer as outras libras, embora eu acho que se você fizer umas compras, ambas são viáveis.
É literalmente, e eu digo essa palavra no sentido real, não no sentido adolescente, impossível para um cérebro humano
compreender como uma super-inteligência artificial poderia pensar, por definição.
O único método possível que eu posso imaginar para fazer isso com segurança é construir uma lA em torno de um cérebro humano existente.
Na verdade, tem havido progresso nessa área com o que é chamado de "laço neural", o que não é alguma coisa que
o seu córtex cerebral compra na Victoria Secret e finge ser para sua namorada...

English: 
It's actually like a plastic net thing which scientists have injected into the brains of mice and actually managed to
stimulate individual neurons. Look at the science!
Let's both pretend we understand this brain scan and it doesn't kind of remind us of a moudly sneeze.
So some mouse in a lab is just sitting there with its brain wired into a computer minding its own business
when suddenly every 3 seconds it starts thinking about his NOSE and then stops for a bit but all of a sudden
he has a compulsion to return to his NOSE and then goes away for a bit but then comes back to his NOSE
But even if we can grow a super intelligence out of a human brain, the future of humanity depends on that
single human, and how their morality and priorities evolve 'cause they rearrange their brain.
It's bad enough without them being able to conclude 'Oh, this action makes me feel sad, better remove my empathy then.'
But then even if by some miniscule iddy-biddy iddy-sqursjsnwrfgsh
chance we happen to programme it right, what IS right?
What do we want out of life? What's the ultimate goal of humanity? Because for a lot of answers to those
questions, a lot of very intelligent people think we're within reach of achieving it as soon as this thing is created.

Portuguese: 
Na verdade, é como uma rede de plástico que os cientistas injetaram nos cérebros de ratos e realmente conseguiram
estimular neurônios individuais. Olhe para a ciência!
Vamos ambos fingir que entendemos essa varredura cerebral e que ela não meio que nos lembra de um espirro mofado.
Então um rato em um laboratório está só sentado ali com o seu cérebro ligado a um computador cuidando da própria vida
quando de repente a cada 3 segundos ele começa a pensar em seu NARIZ e depois para um pouco, mas de repente,
ele tem uma compulsão de voltar ao seu NARIZ e depois vai embora um pouquinho, mas depois volta ao seu NARIZ...
Mas, mesmo se conseguirmos construir uma super inteligência a partir de um cérebro humano, o futuro da humanidade
depende desse único ser humano, e como a sua moralidade e prioridades evoluem conforme ele reorganiza seu cérebro.
Já é ruim o suficiente sem que eles sejam capazes de decidir "Ah, essa ação me faz sentir triste, melhor remover a minha empatia então!"
Mas, mesmo que por alguma minúscula...
...chance nós conseguirmos programá-la certo, o que é certo?
O que nós queremos da vida? Qual é o objetivo final da humanidade? 
*CRISE EXISTENCIAL*
Porque um monte de pessoas muito inteligentes pensam que várias respostas dessas perguntas serão realizáveis assim que essa coisa for criada.

Portuguese: 
É na verdade uma rede de plástico que cientistas tem implantado em cérebros de ratos
e realmente consegue estimular um neurônio por vez
OLHA ESSA CIÊNCIA!
Bora fingir que a gente entende esse exame cerebral que não lembra de jeito nenhum um espirro catarrento.
Então, alguns ratos tão lá no laboratório com seus cérebros conectados a um computador, cuidando da vida,
quando de repente de três em três segundos começa a pensar sobre seu nariz
e para, e depois do nada tem a compulsiva vontade de pensar sobre seu
NARIZ
e vai embora por um segunda, mas volta pro seu NARIZ
Mas mesmo que a gente consiga criar uma super inteligência com um cérebro humano
o futuro da humanidade depende daquele único ser humano
e como sua moral e prioridades se desenvolvem enquanto eles mudam seu cérebro.
É ruim o suficiente sem com a possibilidade dele concluir "Oh, isso me deixa triste, na real. Melhor remover minha empatia, então!"
Mas, se por uma minúscula mini
mini iii iuchdisaucbiudcntamanhodaminhaautoestima
chance da gente programá-la certo, O QUE É CERTO?
O que é que a gente quer da vida?
Qual é objetivo final da humanidade?
Porque a resposta pra essas perguntas, pra um monte de pessoas inteligentes,
nós teremos quando inventarmos isso.

Portuguese: 
Mas se a internet me ensinou alguma coisa, não interessa qual sua resposta,
alguém vai sempre discordar com a moral dela.
Eu podia dizer "Brócolis tem até um gosto bom"
e alguém nos comentários vai se ofender.
Pode olhe. Pode ser o Dan Bull.
Além disso, quem tiver controle da primeira IA essencialmente se torna um deus
então, quando a possibilidade disso acontecer se tornar pública
vai haver uma corrida entre os países mais poderosos
e empresas do mundo para criar isso primeiro.
Imagina se a Rússia é esse país e o Putin ficar tipo
"É, eu sou o Deus Putin agora, prrecissso dissssser que
aquele personagem do Harry Potter precisa ser atacado imediatamente por nanorrobôs
UHEHUEHUEHUEHUEUHE
Eu não posso fazer isso. Desculpa, fãs russos!
Sim, uma super IA pode ter a capacidade de curar câncer,
terminar com a pobreza e lhe fazer peso e lhe fazer feliz e lhe fazer dormir e colocar Netflix na sua TV.
Mas provavelmente não vai, porque nós podemos prever como o código vai se desenvolver na super IA
Eu preciso dizer que nós precisamos ser cuidadosos sobre isso.
mas, na real, eu acho que vai acontecer de qualquer jeito.

Portuguese: 
Mas, se a internet me ensinou qualquer coisa, não importa qual a sua resposta, alguém sempre vai discordar com sua moralidade.
Putz, eu poderia dizer 'brócolis é meio gostoso!' e haverá alguém nos comentários que foi ofendido por isso.
Vá olhar... pode ser o Dan Bull.
Além disso, quem tiver o controle da primeira lA essencialmente torna-se um deus.
Assim, logo que a possibilidade de isso acontecer se tornar de conhecimento público, haverá uma corrida
entre as nações e empresas mais poderosas do mundo para desenvolvê-la primeiro.
E imagine se a Rússia for essa nação e Putin falar tipo:
"Sim, eu sou Deus Putin agora e qualquer um dizendo que eu sou um personagem do Harry Potter será imediatamente
atacado por nano robôs."
Não sei fazer o sotaque. Me desculpem, amigos russos.
Sim, esse tipo de lA super-inteligente poderia potencialmente curar o câncer e solucionar a pobreza e te ajudar a perder peso
e fazê-lo feliz e ajudá-lo a dormir e colocar Netflix na sua TV.
Mas é mais provável que ela não vá, porque não podemos prever como o código irá evoluir em uma lA super-inteligente.
Eu quero dizer 'precisamos ter cuidado fazendo isso', mas honestamente, eu acho que vai acontecer de qualquer maneira.
A menos que possamos responder "como prevenir um único erro moral ou técnico de ser codificado em uma lA super inteligente?";

English: 
But if the internet has taught me anything, no mater what your answer is, someone will always disagree with the morality of it.
Hell, I could say 'broccoli is kinda tasty!' and there'll be someone in the comments taking offense to it.
Go look... might be Dan Bull.
Also, whoever has control of the first AI essentially becomes a God.
So as soon as the possibility of it happening becomes public knowledge, there will be a race between the
most powerful nations and companies in the world to develop it first.
And imagine if Russia is that nation and Putin is like:
[Russian accent] 'Yerp I am God Putin nao and any Сука Блять saying I am a Harry Potter character will be immediately
be attacked nano robots. HERGH HERGH HERGH HERGH HERGH!'
[Laughing]
I can't do the accent. I'm so sorry Russian fans!
Yes, that kind of super intelligent AI could potentially cure cancer and sort poverty and help you lose weight
and make you happy and let you sleep and get Netflix on your TV.
But it is more likely it won't because we can't predict how the code will evolve in a super intelligent AI.
I want to say 'we need to be careful going into this' but honestly, I think it's gonna happen anyway.
Unless we can answer how to prevent a single moral or technical mistake from being coded into a super

English: 
intelligent AI; how we can prevent every human on the planet from creating a superintelligent AI when the
when the incentive is to become an immortal super intelligent God,
And if someone DOES create it controllably, how do we prevent them from becoming an immortal super intelligent God?
Then we are all absolutely SCREWED.
Some people want to dismiss this as sci-fi but again, most AI experts and the smartest, richest and coolest
people in the world all disagree with those people.
We all need to know about this, and we need to discuss this.
Please, tell me literally ANYTHING more important than this.
Maybe I missed something, but it seems more important than wars or poverty or equality or any issue
we face right now, because it will kill us if we don't pay attention and potentially withinin the next few decades.
And even more dangerous, it seems so far-fetched to some people that's it's just not casually discussed.
People can have conversations about climate change, and that's a big part of what's led towards useful steps
being taken to prevent it.
But people are not having those conversations about artificial intelligence,
So if you want to do something, talking to a friend about this seriously would be a good place to start.

Portuguese: 
A menos que nós possamos responder como prever todo erro moral e técnico de ser codificaficado em uma super inteligente IA.
Como podemos impedir que todo ser humano no planeta tente criar uma super IA, quando o incentivo é se tornar um deus super inteligente e imortal?
E se alguém realmente criar e tiver controle, como podemos impedir que vire um deus super inteligente imortal?
então nós tamo tudo lascado.
Muitas pessoas querem dizer que isso é tudo ficção científica,
mas, novamente, a maioria dos especialistas em IA,
e as pessoas mais inteligentes, ricas e legais do mundo discordam com essas pessoas.
Todos nós devemos saber mais sobre isso,
e nós precisamos discutir sobre isso.
Por favor, me diga qualquer coisa mais importante que isso.
Talvez eu tenha esquecido de algo, mas isso é mais importante que guerras, pobreza, igualdade
ou qualquer outros problema que nós enfrentamos agora,
porque vai nos matar se nós não prestarmos atenção.
provavelmente nas próximas décadas.
E mais perigoso ainda, parece que a maioria das pessoas nem fala disso.
As pessoas podem conversar sobre mudanças climáticas
e isso é em parte o que tem como solução para combater isso
mas as pessoas não estão conversando sobre inteligência artificial.
Então, se você quer fazer alguma coisa, falar com um amigo sobre isso é um ótimo jeito de começar.

Portuguese: 
"como podemos evitar que cada ser humano no planeta crie uma lA super inteligente
quando o incentivo é se tornar um deus imortal super inteligente?";
E "se alguém criar uma que possa ser controlada, como evitar que eles se tornem um deus imortal super inteligente?";
estaremos absolutamente ferrados.
Algumas pessoas querem descartar isso como sci-fi mas, de novo, a maioria dos especialistas em lA e as pessoas mais inteligente, mais rica, e mais legal
no mundo discordam dessas pessoas
Todos nós precisamos de saber sobre isso, e precisamos discutir isso.
Por favor, diga-me literalmente qualquer coisa mais importante do que isso.
Talvez eu tenha perdido alguma coisa, mas isso me parece mais importante do que guerras ou pobreza ou igualdade ou qualquer problema
que enfrentamos agora, porque isso vai nos matar se não prestarmos atenção, e potencialmente dentro das próximas décadas.
E, o que é ainda mais perigoso, isso parece tão absurdo para algumas pessoas que simplesmente não é discutido casualmente.
As pessoas podem ter conversas sobre as mudanças climáticas, e isso é uma grande parte do que nos levou a tomar medidas úteis para evitá-las.
Mas as pessoas não estão tendo essas conversas sobre inteligência artificial,
Então, se você quer fazer alguma coisa, falar com um amigo sobre isso seria mesmo um bom lugar para começar.

Portuguese: 
Obrigado por assistir, e tenham um bom dia!
Espero que não morramos.

English: 
Cheers for watching and have a nice day!
Hope we don't die.

Portuguese: 
Obrigado por assistir. Tenha um bom dia.
Espero que a gente não morra.
