
English: 
We're all familiar with the phrase 'rules are made to be broken.'
But today, by examining the work of philosophers
and activists like Rosa Parks, I want to ask: 'Is the rule of law also made to be broken?'
Part 1: Breaking the Rules
In his book 'To Save Everything Click Here,' writer Evgeny Morozov
asks us to imagine a law that could never be broken. Not in the sense that it's totally impossible,
just that in practice it's so thoroughly enforced
that nobody can break it. For instance, imagine a version of the United States
that is the same in all respects as the one we know, except it has always been about 70 years ahead technologically.
So in 1950, they have the technology that we will have in 2020:
social media, smartphones,
algorithms, facial recognition. That sort of thing.

Portuguese: 
Todos conhecemos a frase 'regras foram feitas para serem quebradas'.
Mas hoje, examinando o trabalho de filósofos
e ativistas como rosa Parks, eu gostaria de perguntar: 'as regras da lei também foram feitas para serem quebradas?'
Parte 1: Quebrando regras
Em seu livro ' Para salvar tudo clique aqui', o escritor Evgeny Morozov
nos pede para imaginar uma lei que nunca poderia ser quebrada. Não no sentido que seria totalmente impossível,
mas que apenas na prática é tão completamente imposta
que ninguém poderia quebrá-la. Por exemplo, imagine uma versão dos Estados Unidos
que é o mesmo em todos os sentidos do que conhecemos, exceto que sempre esteve 70 anos à frente tecnologicamente.
Então em 1950, eles têm a tecnologia que nós teremos em 2020:
mídias sociais, smartphones,
algoritimos, reconhecimento facial. Esse tipo de coisa.

Portuguese: 
Morosov diz que nós podemos imaginar eles construindo um sistema que eles poderiam instalar em um ônibus
que iria escanear os rostos dos passageiros que aguardam em um ponto de ônibus
e iria compará-los com um banco de dados de sabidos desordeiros.
Se você tivesse um histórico de causar problemas em ônibus, como não pagar sua passagem
ou de causar certo tumulto, e a catraca não iria virar e você não conseguiria entrar.
Que sistema brilhante! Desde que começamos a usá-lo, crime e confrontos no serviço de ônibus das cidades caíram vertiginosamente.
Se você é bem esperto, você já percebeu onde isso está indo, porque em 1955
os ônibus, em certas partes dos Estados Unidos, tinham assentos segregados racialmente.
Havia uma seção para pessoas brancas, e uma seção para todas as outras.
Muita gente já ouviu sobre Rosa Parks, uma mulher preta  que foi presa no Alabama em 1955 por quebrar essas regras.
Ela se tornou um enorme símbolo do ativismo dos direitos civis e é devidamente lembrada ainda hoje.
Mas muita gente, eu acredito, tem a idéia de quem Parks era apenas uma senhora  tentando pegar o ônibus aquele dia

English: 
Morozov says we can imagine them building a system that they could mount on top of a bus
that would scan the faces of passengers waiting at the bus stop
and compare them to a database of known troublemakers.
If you've got a history of causing trouble on the bus, like not paying for your ticket
or causing a bit of a ruckus, and the turnstile won't turn and you can't get on-
What a brilliant system! Since we started using it, crime and confrontations on the bus service in the city have gone down hugely.
If you're very clever you'll already have seen where this is going, because in 1955
buses in certain parts of the United States had racially segregated seating.
There was a section for white people, and a section for everyone else.
A lot of people have heard of Rosa Parks, a black woman who was arrested in Alabama in 1955 for breaking those rules.
She became a huge symbol of civil rights activism and is still rightly remembered today.
But a lot of people, I think, also have the idea that Parks was just some lady trying to get the bus that day

English: 
who was tired and didn't want to give up her seat to a white person.
In fact, the popular image of Parks as a lady who just had tired feet and didn't want to get up is false.
Parks was already a committed activist, and had been arrested before. She was the Secretary of the NAACP, no less.
Her protest was deliberate and pre-planned, and she was chosen for the central role.
She wasn't even the first person to be arrested for breaking those rules.
16 year old Claudette Colvin was, nine months previously.
In other words, Parks already had a great history of activism and breaking the law.
Nowadays, the vast majority of people realize what she and the other civil rights activists back then already knew,
which was that that history of breaking the rules, breaking the law, was a good thing.
Because those were bad, racist laws.
The people that made them and enforced them were wrong to do it,
and breaking them helped make the United States a better place.
However, in the scenario with the technologically advanced bus system

Portuguese: 
que estava cansada e não queria desistir de seu assento para uma pessoa branca.
Na realidade, a imagem popular de Parks como uma senhora que apenas tinha pés cansados e não queria levantar é falsa
Parks era uma ativista engajada já, e havia sido presa antes. Ela era a secretária do NAACP (Assoc. Nacional para o Progresso de Pessoas de Cor) ainda por cima.
Seu protesto foi deliberado e pré-planejado, e ela foi escolhida para participação principal.
Ela não foi nem mesmo a primeira pessoa a ser presa por quebrar essas regras.
Claudette Colvin de 16 anos foi, nove meses antes.
Em outras palavras, Parks já tinha um histórico longo de ativismo e violação de regras.
Hoje em dia, a vasta maioria das pessoas entende o que ela e outros ativistas dos direitos civis já sabiam lá atrás,
que foi que esse histórico de violação de regras, violação da lei, foi uma coisa boa.
Porque eram leis ruins e racistas.
As pessoas que as fizeram e as implementaram estavam erradas em fazê-lo,
e quebrá-las ajudou a fazer dos Estados Unidos um lugar melhor.
No entanto, no cenário do ônibus com o sistema tecnológico avançado

English: 
the computer would have recognized her as Rosa Parks prominent, civil rights activist,
and it would never have let her on, so she could never have done her protest.
So a law that morally should have been broken couldn't be.
The point is, an unbreakable law allows no room for activism.
As Parks and many other activists throughout history have demonstrated,
sometimes breaking the law is necessary to show people that it's a bad one.
Trouble is, if you're not affected very much by a bad law or even benefited by one,
it can be easier to realize that in hindsight.
A lot of white people at the time thought of Parks as creating a conflict, she's creating a problem.
When in reality what most people nowadays, though not all, realize is what she already knew:
that activists don't create conflict.
They just bring to light conflict that has been ignored.
And breaking the rules might not only be morally necessary,
but practically necessary to get them struck down.

Portuguese: 
o computador teria reconhecido ela como Rosa Parks, proeminente ativista dos diretos civis,
e nunca a teria deixado entrar, de forma que ela nunca poderia ter feito seu protesto.
Então uma lei que moralmente deveria ser quebrada não poderia.
O ponto é que, uma lei inviolável não permite espaço para ativismo.
Como Parks  e outros ativistas dos direitos civis através da história demonstraram,
às vezes, violar a lei é necessário para mostrar às pessoas que é uma lei ruim
O problema é que, se você não é afetado por uma lei ruim ou mesmo se beneficia de uma,
pode ser mais fácil percebê-la em retrespectiva.
Muitas pessoas brancas naquele momento acharam que Parks estava gerando um conflito, criando um problema.
Quando na realidade o que a maioria das pessoa entende, apesar de não todas, é o que ela já sabia:
que ativistas não geram conflito.
Eles apenas trazem a luz ao conflito que tem sido ignorado.
E violar essas leis pode não apenas ser moralmente necessário,
mas possivelmente necessário para derrubá-las.

English: 
Browder v. Gayle was the case that went all the way to the Supreme Court in the United States
that finally got bus segregation in Alabama ended.
But of course, judges can only decide on cases that appear before them.
An unbreakable law can never be reviewed in court.
Which means if it's an unjust law that's popular with those who have a lot of influence, like racial segregation was,
it's gonna stay on the books and continue to be enforced.
Morozov says that the law, which includes both courts and policing,
must allow room for a moral environment.
It must allow people some opportunities to break the law so that we have the opportunity to dissent
and revise the laws that are bad.
Having at least some crimes--of at least some kinds--is a feature,
not a bug, of a good legal system.
So it looks like the rules really are made to be broken.
Part 2: Making the Rules
There's a famous conflict in legal philosophy between the philosophers H.L.A Hart and Ronald Dworkin

Portuguese: 
Browder v. Gayle foi o caso que foi à Suprema Corte nos Estados Unidos
e finalmente acabou com a lei de segregação nos ônibus do Alabama
Mas claro, juízes só podem decidir sobre casos que aparecem para eles.
Uma lei inviolável nunca poderia ser revista no tribunal.
O que significa que se é só um lei injusta que é popular entre aqueles com muita influência, como a segregação racial era,
ela vai continuar nos livros e continuar a ser imposta.
Morozov diz que a lei, que inclui tanto tribunais e policiamento,
precisa permitir espaço para um contexto moral.
Ela precisa permitir às pessoas algumas oportunidades de infringi-la para que tenhamos oportunidade de discordar
e revisar as leis que são ruins.
Ter pelo menos alguns crimes, de pelo menos alguns tipos, é um recurso,
não uma falha, de um sistema legal bom.
Então parece que as regras são realmente feitas para serem quebradas.
Parte 2: Fazendo as regras
Existe um famoso conflito em filosofia legal entre os filósofos H.L.A Hart e Ronald Dworkin

Portuguese: 
sobre o que é a lei.
Hart achava que que a lei era essencialmente apenas um sistema de regras. Eram regras especiais admitidamente,
Elas não são como regras de um jogo de tabuleiro, porque se você violar as regras da lei
você será violentamente punido. E eu não sei você, mas nenhum jogo de tabuleiro ficou tão sério em minha casa.
O que distingue uma regras ordinária de uma regra da lei, Hart diz, é que leis vêm de uma regra máxima
chamada de 'regra do reconhecimento.'
E isso define o que ou não uma lei.
A lei do reconhecimento pode ser algo bastante simples, como tudo que há na constituição é a lei.
Se você quiser saber se algo é legal, procure saber se é constitucional.
Mas ela pode ser também algo bem complexo ou mesmo implícito.
Hart enxergava a lei como um sistema fechado, como as regras de xadrez,
onde um movimento bom ou ruim  pode ser determinado citando apenas onde as peças estão e as regras do jogo.
Essa posição é chamada de positivismo legal
Então por exemplo, um juíz deve apenas pensar sobre o que diz a lei.
Contrastando com o positivismo de Hart com outra visão, a do Ronald Dworkin

English: 
over what the law is.
Hart thought that the law is essentially just a system of rules. They're special rules, admittedly.
They're not like the rules of Scrabble, because if you break the rules of the law
you will be violently punished. And I don't know about you, but Scrabble never got that serious in my house.
What distinguishes an ordinary rule from a rule of law, Hart says, is that laws come under a master rule
called the 'rule of recognition.'
And that determines what is and isn't law.
The rule recognition might be something very simple, like everything in the Constitution is the law.
If you want to know whether something's legal, check whether it's constitutional.
But it might be something very complex or even unspoken.
Hart viewed the law as a closed system, like the rules of chess,
where a good or a bad move can be determined by reference only to where the pieces are and the rules of the game.
This position is called legal positivism
So for instance, a judge only has to think about what the law says.
Contrast Hart's positivism with another view- that of Ronald Dworkin.

Portuguese: 
Haart e Dworkin discordavam em quase tudo.
Dworkin dizia que a lei é mais do que um sistema de regras, e aplicar a lei é mais do que apenas seguir as regras.
Quando os juízes decidem um caso, eles não apenas pensam em quais são as regras. Eles pensam sobre o que é justo,
e o que é merecido. Às vezes há uma situação legal inteiramente nova com nenhum precedente.
E nesses casos Hart diz que juízes usam critério pessoal
para criar novas leis, porque não há leis que lhes diga o que fazer.
Mas Dworkin é mais da opinião de que juízes nunca criam leis do nada.
Mesmo se não houver regra estrita para ser seguida, eles sempre têm os
princípios e os históricos de decisões anteriores para guiá-los.
O trabalho dos juízes não é apenas aplicar regras robustas inflexivelmente.
Mas pensar no que a lei é como instituição,
e tomar decisões que se alinha ao propósito de distribuir justiça e
pintar essa instituição com a melhor luz possível.
Dworkin chama isso de 'lei como integridade.'

English: 
Hart and Dworkin disagreed on almost everything.
Dworkin said that the law is more than just a system of rules, and applying the law is more than just following the rules.
When judges decide on a case, they don't just think about what the rules are. They think about what's fair,
and what's just. Sometimes there's an entirely new legal situation with no precedence.
And in those cases Hart says that judges use their discretion
to create new laws, because there's no rules to tell them what to do.
But Dworkin is more of the opinion that judges never create new laws out of thin air.
Even if there's no hard and fast rules to go on, they always have the
principles and the history of previous decisions to guide them.
The job of judges isn't to just inflexibly apply ironclad rules,
but to think about what the law as an institution is for,
and make a decision that aligns with the goal of distributing justice and
painting that institution in the best possible light.
Dworkin calls this 'law as integrity.'

English: 
And we can see that it offers a little bit of a bigger picture, a little bit more flexibility,
and an encouragement--not just to citizens and activists--but to the courts to consider the moral environment.
Part 3: Minority Report
I'm curious about what happens when we throw technology into the mix, because computers have a reputation for being notoriously inflexible.
Let's imagine that you and I are software developers, and we've written a new computer program that's going to help the police.
Our special program takes all of the crime reports, all of the arrest records and the police data from the last few years,
plugs them into an algorithm and then says 'Better send a few more officers down Green Street,
there's been a bunch of burglaries down there lately.'
The algorithm spots the patterns in crime that the police might miss,
predicts where crime is most likely to be occurred next, and sends the cops patrolling round there.
They might catch somebody in the act but,
because the cops are there anyway,
anybody thinking about committing a crime is gonna think twice.

Portuguese: 
E nós podemos ver que ela oferece um pouco de um panorama maior, um pouco de flexibilidade,
e um encorajamento, não apenas a cidadãos e ativistas, mas ao tribunal a considerar um contexto moral.
Parte 3: Denúncia das minorias
Eu estou curioso sobre o que acontece quando a gente joga tecnologia na mistura, porque computadores têm reputação de serem notoriamente inflexíveis.
Vamos imaginar que você e eu somos desenvolvedores de software, e nós escrevemos um novo programa de computador que vai ajudar a polícia.
Nosso programa especial pega todas as denúncias de crimes, todos os registros de prisões e dados policiais dos últimos anos,
insere eles em um algoritmo e depois diz 'Melhor mandar mai policiais para Rua Verde,
tem ocorrido um punhado de assaltos lá ultimamente.'
O algoritmo detecta os padrões de crimes que a polícia pode não notar,
prediz onde crimes são mais prováveis de acontecer em seguida, e manda policiais para rondar por ali.
Eles podem pegar alguém no ato mas,
porque há policias ali de qualquer forma,
qualquer um que estiver pensando em cometer um crime vai pensar duas vezes antes.

Portuguese: 
Então nós iremos efetivamente até prevenir alguns crimes de mesmo acontecer.
Nós podemos chamar isso de 'policiamento inteligente,' ou de
'policiamento preditivo.'
Você e eu vamos levar essa idéia ao prefeito da cidade, e nós vamos dizer que ela vai acabar com o crime, ela vai
diminuir custos policiais, ela vai trazer segurança às pessoas. O prefeito vai quase certamente ser reeleito
e
nós vamos empregar pessoas locais para construir o software e gerir nossos escritórios.
Então nós somos criadores de empregos, também. Nos dê uma verba de dinheiro do contribuinte para desenvilver essa tecnologia. Desenrola!
Não soa maravilhoso?
Claro que sim.
Até você lembrar que a polícia em nossa cidade tem um histórico desproporcional de parar pessoas pretas.
E de desproporcionalmente prender pessoas pretas pelos mesmos crimes que pessoas brancas cometem.
E que são mais propensos a interpretar ações inocentes de pessoas pretas como criminosas.
E que cidadãos brancos são mais propensos a ligar para a polícia sobre cidadãos negros quando não estão fazendo nada de errado.

English: 
So we might actually even prevent some crimes from ever happening.
We can call it 'smart policing,' or
'predictive policing.'
You and I are going to pitch this idea to the mayor of our city, and we're gonna say it's gonna cut crime, it's gonna
cut policing cost, it's gonna make people safer. The mayor is almost certainly gonna get reelected
and
we'll employ people from the local area to build the software and run our offices.
So we're job creators, too. Give us a grant of taxpayer's money to develop this technology. Roll it out.
Doesn't it sound wonderful?
Of course it does.
Until you remember that the police in our city have a history of disproportionately stopping black people.
And disproportionately arresting black people for the same crimes as white people.
And are more likely to interpret the innocent actions of black people as criminal.
And white citizens of our city are more likely to call the police on black citizens when they're not actually doing anything wrong.

Portuguese: 
Nosso algoritmo vai pegar todos esses dados, e vai recomendar que nós policiemos mais intensamente
bairros predominantemente negros.
Então, a menos que nós encontremos uma forma de despolarizar nossa base de dados,
nós essencialmente fizemos o policiamento racista mais eficiente.
Agora você e eu, os desenvolvedores de software, vamos admitir isso?
Não. Se é que percebemos isso. Porque se admitirmos isso, então ficaremos sem emprego.
Todas as nossas comunicações ao público tem que ser que nosso produto é objetivo, é ótimo, e funciona.
E a prefeitura não vai admitir que eles deixaram computadores racistas comandar o departamento de polícia, e a polícia não vai jamais admitir que eles são
institucionalmente  racistas,
e
esse algoritmo que nós escrevemos pertence a nossa própia empresa de software. É nossa propriedade intelectual.
Nós não podemos simplesmente publicá-lo. Alguém pode roubá-lo.
Então as pessoas em nossa cidade não tem permissão de desafiar ou mesmo saber sobre o sistema que está sendo utilizado para os policiar.
E aqueles entre nós que estão em posição de saber e desafiar tudo isso têm um incentivo muito forte para não fazê-lo.

English: 
Our algorithm is going to take all of that data, and it's going to recommend that we more heavily police
predominantly black neighborhoods.
So unless we find some way of debiasing our dataset,
we've essentially just made racist policing more efficient.
Now you and I, the software developers, are we gonna admit that?
No. If we even realize it. Because if we admit it, then we're out of a job.
All of our public facing communications has to say that our product is objective, and it's great, and it works.
And the mayor isn't going to admit that they let racist computers run the police department, and the police sure as hell aren't gonna admit that they're
institutionally racist,
and
this algorithm that we wrote belongs to our private software company. It's our intellectual property.
We can't just publish it. Somebody might steal it.
So the people in our city are not allowed to challenge or even know the system that is being used to police them.
And those of us that are in a position to know and challenge it all have a very strong incentive not to.

Portuguese: 
A propósito, no caso desse policiamento preditivo soar como ficção científica...
Eu odeio lhe dizer que ele já está sendo testado em São Francisco, em Santa Cruz, em Los Angeles, Nova Orleans. Muitas outras cidades nos Estados Unidos.
Em meu país, está sendo testado em Kent.
Empresas privadas como  Palantir, Ripjar, e PredPol estão prontas para vender essa tecnologia, pelo dinheiro do contribuinte, para policiais
e ganhar dinheiro fazendo isso.
E, como é com toda nova técnica de policiamento,
seja este um algoritmo sofisticado ou seja apenas milhares de caras armados a mais nas ruas,
ninguém vai pedir sua permissão antes que eles a desenrolem em você.
O ponto é que, só porque uma lei está sendo imposta, e só porque o crime está diminuindo,
não significa que tudo está bem, porque essas coisas podem acontecer enquanto o contexto moral está sendo corroído.
Enquanto nós tivermos menos oportunidades de desafiar, mudar, e mesmo saber as regras do jogo.
[Acapella, ao som de 'Folsom Prison Blues']

English: 
By the way, in case predictive policing sounds like science fiction...
I hate to tell you it's already being tested in San Francisco and Santa Cruz, in LA, New Orleans. Many other cities in the US.
In my country, it's being tested in Kent.
Private companies like Palantir, Ripjar, and PredPol are poised to sell this tech, for taxpayers' money, to the cops
and make bank doing it.
And as with any new policing technique,
be it a fancy algorithm or be it just a thousand more dudes with guns on the streets,
nobody's gonna ask your permission before they roll it out on you.
The point is, just because the law is being enforced, and just because crime is going down
doesn't mean that everything's going well, because those things can happen whilst the moral environment is being eroded.
Whilst we have less opportunity to challenge, change, and even know the rules of the game.
[Acapella, to the tune of 'Folsom Prison Blues']

English: 
I hear the sirens comin'
comin' for me I'll bet
They're gunnin' to arrest me for what
I ain't done yet
Going down for activism
I'll be inside so long
But them laws need to be broken
'cause all them laws was wrong
My momma told me sonny,
don't hang around with fools
always be a good boy
don't ever break the rules
Well I sure am sorry momma
Now I am doing time
Well I broke my momma's heart with
my necessary crime
[lively acapella guitar solo]

Portuguese: 
'Eu ouço as sirenes se aproximando'
'vindo por minha causa eu aposto'
'eles estão atirando para me prender pelo que'
'eu ainda nem cometi'
'indo para prisão por ativismo'
'eu vou ficar lá por tanto tempo'
'mas as leis deles precisam ser infringidas'
'pois todas as leis deles estavam erradas'
'minha mãe me disse filhinho,'
'não ande com tolos'
'seja sempre um bom garoto'
'e nunca quebre as regras'
'bem eu certamente estou arrependido mamãe'
'agora eu estou pagando minha sentença'
'bem eu parti o coração de mamãe'
'meu crime necessário'
[acapella vivaz  de solo de guitarra]
