O roli człowieka w epoce maszyn – dla wszystkich ciekawych zmieniającego się wokół nas świata.

„Aby wyprzeć ludzi z rynku pracy, sztucznej inteligencji wystarczy jedynie tyle, by prześcignąć nas w zakresie określonych umiejętności wymaganych w konkretnym zawodzie” – twierdzi Yuval Noah Harari w swojej słynnej książce „Homo deus. Krótka historia jutra”. Na szczęście Hannah Fry ma dla nas trochę lepsze wieści: „Ludzie nigdy nie byli tak ważni jak teraz – w epoce algorytmów” – przekonuje i podaje na to dziesiątki przykładów.

„W czasach, kiedy algorytmy komputerowe coraz bardziej kontrolują i określają naszą przyszłość, Hello world stanowi przypomnienie o możliwości dialogu człowieka z maszyną. O chwili, w której naprawdę nie sposób już ustalić, kto wydaje polecenia, a kto je wykonuje. To początek partnerstwa – wspólnej podróży, której nie zdołamy odbyć w pojedynkę.

W epoce maszyn warto o tym pamiętać”.

Algorytmy zakradły się do niemal każdej sfery życia człowieka: zainstalowaliśmy je w szpitalach, salach sądowych i samochodach. Są używane przez policję, supermarkety i studia filmowe. Znają nasze upodobania lepiej niż mamusia: mogą polecić nam serial, piosenkę, a nawet partnera. Zwiększają ludzkie możliwości, poprawiają nasze błędy i rozwiązują problemy – zdarza się również, że je stwarzają. Nie oznacza to, że są złe. Bywają wykorzystywane w złym celu, a pozbawione kontroli człowieka mogą wyrządzić sporo szkód. To wyjaśnia, dlaczego – zdaniem Hannah Fry – w epoce maszyn człowiek nadal będzie ważny.

Zadania wykonywane dziś przez algorytmy można podzielić na cztery główne grupy. Pierwsza to priorytezacja, czyli tworzenie uporządkowanej listy (wybór najszybszej trasy, rekomendacje muzyczne i filmowe, itp.) Druga grupa to algorytmy klasyfikujące. To one odpowiadają za wyskakujące na twoim laptopie reklamy testów ciążowych, piwa albo przyborów szkolnych (w zależności od tego, do której kategorii cię zaliczą). O tym, skąd tyle o tobie wiedzą, napiszę za chwilę – ale lepiej już teraz sobie usiądź i weź kilka głębszych oddechów. Algorytmy z trzeciej grupy działają na zasadzie asocjacji: szukają powiązań i kojarzą twoje zainteresowania bądź potrzeby z innymi. Czasem rezultat jest zaskakujący. Pewien mężczyzna po zakupie na Amazonie kija do baseballa dostał od ich algorytmu rekomendacji osobliwą propozycję: „Może zainteresuje cię ta kominiarka?”. Ostatnią grupę tworzą zadania polegające na usuwaniu informacji, czyli filtrowaniu: „Facebook i Twitter filtrują treści, które mają jakiś związek z twoimi zadeklarowanymi zainteresowaniami, żeby dostarczyć ci informacje w pakiecie skrojonym na twoją miarę”.

Hannah Fry uważa, że nie mamy obecnie podstaw, by obawiać się sztucznej inteligencji: „strach przed złą SI przypomina trochę strach przed przeludnieniem na Marsie”. Nadal jesteśmy bardzo daleko od stworzenia czegokolwiek „o inteligencji jeża”. Zagrożenie leży zupełnie gdzie indziej: mamy skłonność do nadmiernego ufania algorytmom (jak Robert Jones, zawodowy kierowca, który pewnego dnia dosłownie zawisł nad przepaścią, bo zawierzył nawigacji, a nie własnym oczom). I to właśnie ta ślepa wiara i brak zdrowego krytycyzmu mogą nas kiedyś zgubić. Źle dzieje się również wtedy, gdy polegamy wyłącznie na własnym, często zawodnym osądzie: zignorowanie działań algorytmów bezpieczeństwa doprowadziło w 2015 roku do tragedii kolejki górskiej w Wielkiej Brytanii. Gdzie wobec tego leży „złoty środek”? Jeżeli rozwiązanie zadania będzie wymagało jakichkolwiek obliczeń, można śmiało zdać się na algorytmy. W pozostałych sytuacjach należy zdjąć algorytmy z piedestału: wnikliwie im się przyjrzeć i postawić pytanie, czy rzeczywiście potrafią tyle, ile deklarują. I tu pojawiają się dwa problemy. Po pierwsze, nie każdy z nas ma odpowiednią wiedzę i umiejętności. Po drugie, bardzo często nikt nie będzie pytał nas o zdanie – nawet w tych przypadkach, gdy działania algorytmów dotykają nas bezpośrednio. Mowa tu, oczywiście, o naszych danych.

„Rzadko jest dla nas jasne, co nasze dane potrafią, czy też jak wielką mogą mieć wartość dla twórców takiego czy innego sprytnego algorytmu. Innymi słowy, nawet nie wiemy, jak tanio się sprzedajemy”.

Palantir Technologies należy do najbardziej udanych start-upów w całej historii Doliny Krzemowej. Ty o nim raczej nie słyszałeś, ale on z całą pewnością słyszał o tobie: to jeden z przedstawicieli nowego pokolenia firm określanych zbiorczym mianem „brokera danych”. Firmy takie jak Palantir Technologies kupują i gromadzą osobiste informacje o użytkownikach sieci, żeby z zyskiem odsprzedać je lub udostępnić podmiotom trzecim. Za każdym razem, gdy robisz coś w internecie, twoje dane są gromadzone i sprzedawane brokerowi – włącznie z historią przeglądania stron internetowych. Na czym polega zadanie brokera? Łączy on wszystkie zebrane dane, by skompilować z nich profil twojego elektronicznego cienia:

„Nie ma w tym absolutnie żadnej przesady – w niektórych bazach brokerów danych mogłabyś odszukać plik oznaczony niepowtarzalnym numerem identyfikacyjnym (którego jednak nigdy nie poznasz) i znaleźć w nim wszelkie ślady swojej aktywności w świecie wirtualnym. Twoje imię i nazwisko, data urodzenia, wyznanie, typowy sposób spędzania wakacji, wykorzystanie karty kredytowej, twoja wartość netto, waga, wzrost, skłonność do hazardu, stopień i rodzaj niepełnosprawności, zażywane leki, czy przerywałaś ciążę, czy twoi rodzice się rozwiedli, czy masz skłonności do nałogów, czy zostałaś zgwałcona, co sądzisz o powszechnym dostępie do broni palnej, jaka jest twoja przewidywana i rzeczywista orientacja seksualna i czy jesteś łatwowierny. Mówimy tu o tysiącach szczegółowych informacji, pogrupowanych w tysiącach kategorii, przechowywanych gdzieś w mrocznych zakamarkach sieci na ukrytych serwerach – informacji dosłownie o każdym z nas”.

Kto jest nimi zainteresowany? Każdy, kto może na tym zarobić. Supermarkety, biura podróży, firmy udzielające pożyczek oraz takie internetowe mocarstwa jak Google, Facebook czy Twitter. Aktywnie korzystając z rzekomo darmowych portali społecznościowych, pozwalasz dyskretnie ukrytym algorytmom zbierać informacje o sobie. Twoje najbardziej osobiste, intymne sekrety stają się towarem na sprzedaż. W większości państw na świecie działalność ta jest prawnie nieuregulowana: każdy broker może zdobyć dostęp do listy wszelkich miejsc, jakie prywatni użytkownicy odwiedzili w internecie i z łatwością powiązać stronę z użytkownikiem. W eksperymencie przeprowadzonym przez niemiecką dziennikarkę Sveę Eckert i analityka Andreasa Dewesa zidentyfikowano poprawnie wszystkich użytkowników ze zdobytej przez ich zespół monstrualnie wielkiej bazy adresów URL.

„W tej bazie trzech milionów obywateli niemieckich znalazło się wiele osób na wysokich stanowiskach. Między innymi polityk, który szukał w internecie pewnego leku. I oficer policji, który skopiował i wkleił do automatycznego translatora firmy Google dokument zawierający dane wrażliwe – wszystkie informacje o tym dokumencie znalazły się w adresie URL i w rezultacie stały się widoczne dla zespołu Eckert. Był też pewien sędzia, którego historia przeglądania nosiła ślady codziennych wizyt w dość szczególnej strefie internetu”.

Trzysta facebookowych „lajków” wystarczy, żeby algorytm ocenił twój charakter dokładniej niż mąż czy żona. Znajomość twojego charakteru jest wykorzystywana w marketingu i – dzięki zastosowaniu mikromanipulacji – przynosi niemałe zyski. W takim świecie dzisiaj żyjemy: przyzwoitość i uczciwość to archaizmy, zysk jest jedynym bogiem. Nie musimy jednak potulnie się na to godzić. Wykorzystywanie osobistych danych bez naszej wiedzy jest niemoralne i powinno stać się bezprawne. W Unii Europejskiej od niedawna obowiązuje RODO – rozporządzenie o ochronie danych osobowych – na mocy którego większość operacji przeprowadzanych obecnie przez brokerów jest niezgodna z prawem. Sami jednak musimy być czujni, gdy instalujemy różne programy i korzystamy ze stron internetowych, automatycznie odhaczając bez czytania wszelkie „zgody” na przetwarzanie danych, itp.

O czym jeszcze przeczytamy w „Hello world” Hannah Fry? O zastosowaniu algorytmów w sądownictwie i w medycynie oraz o inteligentnym transporcie i poszukiwaniach przepisu na sukces kasowy filmu. Brytyjska matematyczka i popularyzatorka wiedzy o swojej pasji opowiada bardzo zajmująco, przytaczając wiele ciekawostek i odwołując się do doświadczeń zwykłych czytelników, pozbawionych doktoratów z matematyki (lasy losowe używane przez Netflixa, źle obliczone przez algorytm ryzyko popełnienia przestępstwa: zwolnienie z aresztu Dartha Vadera, uwięzienie Luke`a Skywalkera, itp.) Nikt nie wątpi w to, że automatyka wywarła głęboki wpływ na życie nas wszystkich, a ukryte możliwości algorytmów „powoli i subtelnie zmieniają kryteria człowieczeństwa”. Warto zdawać sobie sprawę z tego, w jaki sposób przebiega ten proces.