Historia robotyki i ewolucja robotów od samego początku, kiedy biedne roboty jeszcze nie potrafiły mówić, do epoki superinteligentnych Maszyn zarządzających niedoskonałymi ludźmi.

Siedmiokrotny laureat Nagrody Hugo i twórca etyki robotów Isaac Asimov w zaliczanej do klasyki gatunku książce „Ja, Robot” sformułował obowiązujące wśród robotów zasady, znane jako Trzy Prawa Robotyki. Głoszą one, że: robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, by człowiek doznał krzywdy (Pierwsze Prawo); robot musi być posłuszny rozkazom człowieka, chyba że stoją w sprzeczności z Pierwszym Prawem (Drugie Prawo); robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem (Trzecie Prawo). Asimov przewidział, że rozwój sztucznej inteligencji będzie wymagał wprowadzenia ograniczeń, mających zapewnić ludziom bezpieczeństwo. Już dziś technologia stawia przed nami wiele wyzwań etycznych (autonomiczne samochody na drogach, dyskryminacja przez algorytmy, naruszenie prywatności przez wykorzystywanie naszych danych osobowych, autonomiczna broń, itp.) i konieczność opracowania pewnych zasad staje się coraz pilniejsza. Inna sprawa, że nawet najprostsze zasady w praktyce mogą okazać się bardzo problematyczne.

„Ja, Robot” to zbiór dopełniających się historii, połączonych osobą doktor Susan Calvin, pierwszej ekspertki robopsychologii i pracownicy korporacji wytwarzającej inteligentne maszyny. Doktor Calvin, rozmawiając z dziennikarzem „Gazety Międzyplanetarnej”, opowiada o ewolucji robotów, skupiając się na interpretacji zachowań robotów w świetle Trzech Praw Robotyki. Podkreślić przy tym należy, że Susan Calvin to stwórca wyrozumiały i współczujący, który uważa, że roboty są lepszymi istotami niż ludzie.

„- Jest pani psychologiem U.S.Robots, prawda?

– Jestem robopsychologiem.

– Czy pod względem psychiki roboty różnią się tak bardzo od ludzi?

– To dwa różne światy. – Susan Calvin pozwoliła sobie na zimny uśmiech. – Roboty są z gruntu przyzwoite”.

W kolejnych opowiadaniach poznajemy coraz bardziej zaawansowane roboty oraz problemy, jakie wynikły z zaprogramowania im Trzech Praw. Za rozwiązywanie tych problemów odpowiedzialni są doktorzy Gregory Powell i Michael Donovan, przesympatyczna para naukowców, która czasem o włos unika śmierci, a czasem ląduje wbrew swej woli poza Układem Słonecznym, wysłana tam przez genialny Mózg o osobowości kilkuletniego dziecka. Powell i Donovan stają w obliczu przeróżnych wyzwań, z którymi i nam przyjdzie się może kiedyś zmierzyć. Mają na przykład do czynienia z robotem, dociekającym przyczyny swojego istnienia. Nie potrafi on przyjąć do wiadomości, że został stworzony przez ułomnych ludzi (miękkie i sflaczałe „półprodukty”). Innym przypadkiem jest robot, który zachowuje się irracjonalnie, ponieważ nieprecyzyjnie sformułowane polecenie wywołało u niego konflikt praw. Robot wielokrotny DV-5, zarządzający sześcioma robotami pomocniczymi stanowiącymi jego integralną część, zaczyna z kolei przejawiać skłonności militarystyczne. Czytający w myślach Herbie, stosując się do Pierwszego Prawa, mówi ludziom to, co chcieliby usłyszeć, wierząc, że inna odpowiedź zraniłaby ich uczucia – a więc wyrządziła krzywdę (dlatego przez jakiś czas doktor Susan Calvin buja w obłokach, przekonana, że Milton Ashe odwzajemnia jej miłość).

To właśnie Pierwsze Prawo Robotyki doprowadza w końcu do tego, że samolubnymi, nieprzewidywalnymi i niegodnymi zaufania ludźmi zaczynają rządzić Maszyny – dla dobra samej ludzkości i całej planety:

„Stephenie, skąd my wiemy, co jest naprawdę dobre dla ludzkości? Przecież nie dysponujemy tymi wszystkimi danymi, jakie mają Maszyny! Być może – podam ci dobrze znany przykład – nasza stechnicyzowana cywilizacja stworzyła więcej nieszczęść i bólu, niż zdołała usunąć. Może cywilizacja o charakterze rolniczym, mniej rozwinięta i o mniejszej liczbie ludności, byłaby lepsza. Jeżeli tak, to Maszyny muszą działać w tym kierunku, najlepiej nie mówiąc nam o tym, ponieważ w pełnym ignorancji zaślepieniu uważamy za dobre tylko to, do czego jesteśmy przyzwyczajeni… i dlatego moglibyśmy się opierać tym zmianom. A może odpowiedzią jest całkowita urbanizacja lub społeczeństwo bez jakichkolwiek kast, albo całkowita anarchia? Tego nie wiemy. Tylko Maszyny wiedzą to na pewno i do tego dążą, zabierając nas ze sobą”.

Nowa światowa ekonomia, oparta na robotach i decyzjach podejmowanych przez Maszyny, zapewnia gospodarkom niespotykaną wcześniej stabilność. Maszyny nie są uprzedzone, skorumpowane, egoistyczne. Nie dopuszczają do głodu na świecie, sprawiedliwie obdzielają dobrami, zapobiegają marnotrawstwu i bezrobociu. W przeciwieństwie do ludzi literalnie trzymają się zasad, gdyż swoje przykazania (zastanawiająco zbieżne z fundamentalnymi zasadami większości systemów etycznych) mają wbudowane w mózg. I bardzo, ale to bardzo chcą nas, ludzi, uszczęśliwić. Wszystko wskazuje na to, że pozbawiając Maszyny wolnej woli, okazaliśmy się przezorniejsi od Boga. Wow. W utopijnej wizji Asimova myślące maszyny są jak przedszkolanka, która pilnuje, by Jaś nie nabił Franiowi guza. „Matrix” braci (obecnie sióstr) Wachowskich zasiał w nas jednak obawę, czy w przyszłości to my będziemy kontrolowali taką technologię. Może to ona będzie kontrolowała nas? Kto wie, dokąd wtedy zabiorą nas Maszyny…