
English: 
Dear Fellow Scholars, this is Two Minute Papers
with Károly Zsolnai-Fehér.
This paper does not contain the usual fireworks
that you're used to in Two Minute Papers,
but I feel that this is a very important story
that needs to be told to everyone.
In computer science, we encounter many interesting
problems, like finding the shortest path between
two given streets in a city, or measuring
the stability of a bridge.
Up until a few years ago, these were almost
exclusively solved by traditional, handcrafted
techniques.
This means a class of techniques that were
designed by hand by scientists and are often
specific to the problem we have at hand.
Different problem, different algorithm.
And, fast forward to a few years ago, we witnessed
an amazing resurgence of neural networks and
learning algorithms.
Many problems that were previously
thought to be unsolvable, crumbled quickly
one after another.
Now it is clear that the age of AI is coming,
and clearly, there are possible applications

Polish: 
Szanowni Koledzy, oto Dwuminutowe Opracowania
z Károly Zsolnai-Fehér.
Dokument ten nie zawiera fajerwerków wizualnych,
tak jak inne odcinki Dwuminutowych Opracowań,
ale czuję, że jest to bardzo ważna historia,
która powinna być opowiedziana każdemu.
W informatyce, napotykamy wiele ciekawych
problemów, takich jak na przykład znalezienie najkrótszej drogi
między dwiema ulicami w mieście, lub mierzenie
stabilności mostu.
Jeszcze kilka lat temu, problemy tego typu
rozwiązane były wyłącznie przez tradycyjne, ręcznie techniki kalkulacyjne
 
To oznacza klasę technik, które były
zaprojektowane ręcznie przez naukowców i są często
specyficzne do problemu z którym się mierzymy
Inny problem, inny algorytm.
Od kilku lat temu obserwujemy
niesamowity wzrost zainteresowania sieciami neuronowymi oraz
algorytmami uczącymi się.
Wiele problemów, które były uprzednio
uważano za nierozwiązywalne, pękały szybko
jeden po drugim.
Teraz gdy jest jasne, że nadchodzi Era Sztucznej Intelicencji,
okazuje się, że istnieją jej zastosowania

English: 
of it that we need to be very cautious with.
Since we design these traditional techniques
by hand, the failure cases are often known
because these algorithms are simple enough
that we can look under the hood and make reasonable
assumptions.
This is not the case with deep neural networks.
We know that in some cases, neural networks
are unreliable.
But it is remarkably hard to identify these
failure cases.
For instance, earlier, we talked about this
technique by the name pix2pix where we could
make a crude drawing of a cat and it would
translate it to a real image.
It worked spectacularly in many cases, but
twitter was also full of examples with really
amusing failure cases.
Beyond the unreliability, we have a much bigger
problem.
And that problem is adversarial examples.
In an earlier episode, we discussed an adversarial
algorithm, where in an amusing example, they
added a tiny bit of barely perceptible noise
to this image, to make the deep neural network

Polish: 
z którymi musimy być bardzo ostrożni.
Ponieważ projektujemy te tradycyjne techniki ręcznie, przypadki awarii są często znane
ponieważ algorytmy te są dość proste,
aby spojrzeć do wewnątrz i wysunąć rozsądne
przypuszczenia.
W przypadku Głębokich Sieci Neuronowych jest inaczej.
Wiemy, że w niektórych przypadkach, sieci neuronowe
są zawodne, niewiarygodne.
Ale jest też niezwykle trudno zidentyfikować te
przypadki awarii.
Na przykład, wcześniej rozmawialiśmy o
technice pix2pix gdzie mogliśmy
zamienić surowy rysunek kota
na prawdziwy obraz.
Działało to spektakularnie w wielu przypadkach, ale
twitter był również pełen przykładów z naprawdę
pociesznymi przypadkami awarii.
Poza zawodnością, mamy znacznie większy
problem.
I tym problemem są "przeciwne wzory" (adversarial examples)
We wcześniejszym odcinku omówiliśmy "przeciwny algorytm", na przykładzie
dodania odrobiny ledwo wyczuwalnego szumu
do zdjęcia, aby zmylić Głęboką Sieć Neuronową

English: 
misidentify a bus for an ostrich.
We can even train a new neural network that
is specifically tailored to break the one
we have, opening up the possibility of targeted
attacks against it.
To alleviate this problem, it is always a
good idea to make sure that these neural networks
are also trained on adversarial inputs as
well.
But how do we know how many possible other
adversarial examples exist that we haven't
found yet?
The paper discusses a way of verifying important
properties of neural networks.
For instance, it can measure the adversarial
robustness of such a network, and this is
super useful, because it gives us information
whether there are possible forged inputs that
could break our learning systems.
The paper also contains a nice little experiment
with airborne collision avoidance systems.
The goal here is avoiding midair collisions
between commercial aircrafts while minimizing
the number of alerts.
As a small-scale thought experiment, we can
train a neural network to replace an existing

Polish: 
która źle identyfikuje autobus, jako strusia.
Możemy nawet wytrenować nową sieć neuronową, która
zostanie specjalnie dostosowana do przerwania tej sieci którą mamy
otwierając możliwość celnego ataku przeciwko niej.
Aby złagodzić ten problem, dobrze jest zawsze upewnić się, że nasze sieci neuronowe
są również dobrze wytrenowane w rozpoznawaniu "przeciwnych wzorów".
Ale skąd mamy wiedzieć, ile możliwych "przeciwnych wzorów" istnieje,
których jeszcze nie znaleźliśmy?
Praca, opisuje sposób weryfikacji ważnych
właściwości sieci neuronowych.
Na przykład, może zmierzyć odporność na "przeciwność" takiej sieci, a to
jest super przydatne, ponieważ daje nam informacje
czy istnieją ewentualne sposoby wejścia,
które mógłby złamać nasze systemy uczenia się.
Artykuł zawiera również piękny mały eksperyment
z systemem unikania kolizji w lotnictwie.
Naszym celem jest unikanie kolizji,
pomiędzy samolotami w powietrzu, jednocześnie minimalizując
liczbę alertów.
Przeprowadźmy mały eksperyment myślowy, że możemy
trenować sieć neuronową, aby zastąpić istniejący system,

English: 
system, but in this case, such a neural network
would have to be verified.
And it is now finally a possibility.
Now, make no mistake, this does not mean that
there are any sort of aircraft safety systems
deployed in the industry that are relying
on neural networks.
No no no, absolutely not.
This is a small-scale "what if" kind of experiment
that may prove to be a first step towards
something really exciting.
This is one of those incredible papers that,
even without the usual visual fireworks, makes
me feel that I am a part of the future.
This is a step towards a future where we can
prove that a learning algorithm is guaranteed
to work in mission critical systems.
I would also like to note that even if this
episode is not meant to go viral on the internet,
it is still an important story to be told.
Normally, creating videos like this would
be a financial suicide, but we're not hurt
by this at all because we get stable support
from you on Patreon.

Polish: 
ale w tym przypadku, taka sieć neuronowa
musiałyby zostać zweryfikowana.
I to jest teraz nareszcie możliwe.
Teraz nie pomylmy się - to nie oznacza, że
istnieje jakikolwiek rodzaj systemów bezpieczeństwa statków powietrznych
stosowany w przemyśle, który polega 
na sieciach neuronowych.
Nie nie nie, absolutnie nie.
Jest to na po prostu mały eksperyment typu „co jeśli”,
który może okazać się pierwszym krokiem
w kierunku czegoś naprawdę ekscytującego.
Jest to jedna z tych niesamowitych prac, która,
nawet bez typowych fajerwerków wizualnych,
sprawia, że czuję się częścią przyszłości.
Jest to krok w kierunku przyszłości, w której możemy
udowodnić, że algorytm Sztucznej Inteligencji ma gwarację skuteczności
w pracy z systemami o znaczeniu krytycznym.
Chciałbym również zaznaczyć, że chociaż
epizod nie jest pomyślany aby stać się viralem w internecie,
to jest wciąż ważna historia do opowiedzenia.
Normalnie, tworzenie filmów takich jak to, byłoby
samobójstwem finansowym, ale nas to nie boli
bo dzięki Wam mamy stabilne wsparcie na Patreon.

English: 
And that's what it is all about - worrying
less about views and spending more time talking
about what's really important.
Absolutely amazing.
Thanks for watching and for your generous
support, and I'll see you next time!

Polish: 
I to właśnie w tym wszystkim chodzi - martwić się mniej o liczbę wyświetneń, a spędzać więcej czasu mówiąc
o tym, co jest naprawdę ważne.
Absolutnie wspaniałe.
Dzięki za oglądanie oraz za hojne
wsparcie, i do zobaczenia następnym razem!
