sztuczna inteligencja albo dlaczego (nie) warto inwestować w bezpieczeństwo

idziemy w ciekawą stronę jako ludzkość. kolejny dowód na to, że żyjemy w ciekawych czasach.

AI uczy się rozmawiać jak zmarły na podstawie archiwum z Telegram a CIA używa już tego typu mechanizmów do określenia parę dni przed wybuchem niepokojów społecznych, że takie faktycznie wybuchną. zakładam zatem, że nauczania maszynowego używa się już dzisiaj do innych zadań - nie wszystkich opisanych gdziekolwiek w internecie :)

w ciągu najbliższych latach zobaczymy kolejny etap 'spłaszczania' świata - coraz mniej pracy możliwej do zautomatyzowania będzie automatyzowane, a wartością ludzi przestaną być proste wyniki pracy - jak również proste analizy. komputery zrobią to po prostu lepiej i dokładniej.

Google po ostatnim zwycięstwie DeepMind w grze Go rzuciło wyzwanie grze w StarCrafta. jest to o tyle interesujące, że od czasów gry w Breakout, który jest niebywale prostszą grą, nie minęło przecież dużo czasu. w procesie wielokrotnego 'pobierania nauk' komputery są bezkonkurencyjne i tak uczony a właściwie bardziej trenowany był DeepMind do pojedynku w Go - na podstawie danych zebranych do tej pory (30 milionów rozgrywek), a potem - sprzęgnięty przeciwko sobie żeby szlifować dalej umiejętności:

This morning, Nature published a paper describing DeepMind’s system, which makes clever use of, among other techniques, an increasingly important AI technology called deep learning. Using a vast collection of Go moves from expert players—about 30 million moves in total—DeepMind researchers trained their system to play Go on its own. But this was merely a first step. In theory, such training only produces a system as good as the best humans. To beat the best, the researchers then matched their system against itself. This allowed them to generate a new collection of moves they could then use to train a new AI player that could top a grandmaster.

znajdźmy do tego jakieś realne zastosowanie. a może zaprząc AI do zabezpieczenia IoT? MITRE próbuje znaleźć wszelkie urządzenia IoT po to żeby walczyć z niekontrolowanym rozrostem sieci - czy ataków takich jak ostatni DDoS na stronę Briana Krebsa czy 990Gbit/s atak 152 tysięcy kamer na OVH. co prawda ludzie nadal poruszają się w swoich obszarach komfortu - np. "Cloud Security Alliance" publikuje przewodnik po 13 krokach zabezpieczenia urządzeń IoT - ale na ile wdrożymy je w życie? nie lepiej byłoby zaprząc mechanizmy noszące cechy AI takie jak DeepMind do zautomatyzowanego testowania rozwiązań? audytu wdrożonych systemów?

RAND opublikował bowiem artykuł oparty na badaniu, z którego wynika, że pośród IT w US o ile przeciętny koszt włamania szacowany jest na ok. 200,000$, o tyle... nikt tak naprawdę nie potrafi pokazać konkretnego negatywnego efektu PRowego włamania.

co więcej, w ciągu ostatnich paru lat zdarzało się, że włamanie do firmy i masowa utrata danych klientów - w skali 40 czy 70 milionów kont, numerów kart kredytowych i innych wrażliwych danych - w okresie tygodnia-dwóch po włamaniu kończyła się rekordowymi zwyżkami (20%+) w okresie od miesiąca po włamaniu i poinformowaniu o tym prasy. gdzie tu logika?

ostatnie, rekordowe włamanie - w 2014 roku do Yahoo - ogłoszone dopiero teraz, w 2016 roku, po przejęciu Yahoo przez Verizon, doprowadziło do utraty danych (wygląda na to, że nieszyfrowanych) pół miliarda (a ostatnio okazało się że dodatkowo miliarda) klientów Yahoo. myślę, że niewiele to zmieni - Verizon kupił tą część Yahoo, która odpowiedzialna była za przechowywanie danych klientów, którzy mogą następnie być targetowani reklamami i innym marketingiem pośrednim - czy zrezygnują oni z używania usług Yahoo? wątpię. czy wymówią usługę w Verizon? wątpię. kto ma to naprawić i jak? SOC? zarządzany SOC? siedemnaście czarnych skrzynek kupionych za miliony dolarów i pozostawionych sobie samym w czeluściach serwerowni? wątpie.

boicie się zatem może Skynetu? on już istnieje - ale jeszcze sam nie potrafi wybierać sobie dobrze celów :)

Łukasz Bromirski

Read more posts by this author.

Warszawa, Polska http://lukasz.bromirski.net