Gospodarka, etyka, nieśmiertelność. Wywiad o perspektywach rozwoju sztucznej inteligencji

Prognozując skutki postępującej robotyzacji i wpływu sztucznej inteligencji na przyszłość ludzkości zwykły człowiek jest skazany na domysły. Te prowadzą nieraz do szerzenia wizji zagłady, niemal żywcem wyjętych z opowieści i filmów science fiction.

Właśnie dlatego warto zapoznać się z opinią kogoś, kto ma wiedzę w tej dziedzinie. Pan Kamil Muzyka zgodził się odpowiedzieć na nasze pytania o rozwój SI w kontekście gospodarczym (o jego wpływie na rynek pracy pisaliśmy w artykule: Czy roboty zabiorą nam pracę?), społecznym i etycznym. Czy ma dla nas dobre wieści?

Po co w ogóle nam roboty? Dlaczego nadal, mimo obaw społecznych (np. utrata pracy, przejęcie kontroli nad człowiekiem), technologie te są nadal rozwijane?

Kamil Muzyka: Jest to dylemat podobny do tego, czy powinniśmy używać koni do ciągnięcia wozów lub pługów, jeżeli do takiej samej pracy można zaprząc ludzi. Roboty są z nami od dłuższego czasu – w przemyśle, gdzie wspomagają produkcje lub wydobycie, w nauce, gdzie pomagają nam w badaniach głębin oceanów czy przestrzeni kosmicznej, na polu walki czy w medycynie. W dużej mierze nam pomagają, a coraz częściej nawet wyręczają człowieka. Czemu są rozwijane? Pomyślmy o strażackiej wersji robota Atlas, który ma ratować ludzi z płonącego budynku. Jeżeli Atlas nie podoła, zostanie uszkodzony lub zniszczony, stracimy jedynie robota. W przeciwnym wypadku tracimy dzielnego strażaka. Tak samo z górnikami. Lepiej, by tam, gdzie jest naprawdę niebezpiecznie wysłać robota niż człowieka. Zresztą, proszę zapytać agencje kosmiczne, takie jak ESA, NASA czy Roscosmos, czemu po Marsie jeżdżą (i wysyłane są kolejne) roboty, a nie astronauci. Część robotów i programów tworzonych w ramach projektów naukowych ma za zadanie przekraczać dotychczasowe ograniczenia tych systemów, sprawiające, iż nie są w stanie w pewnych czynnościach dorównać człowiekowi. Jest to element natury człowieka – przesuwanie granicy możliwego.

Co do przejęcia kontroli, to zależy o czym mówimy. Boty potrafią sterować naszymi emocjami, jednak nadal są one czyimiś narzędziami. Z tą utratą pracy też bym się tak bardzo nie spieszył.

Czy w kontekście społeczno-gospodarczym automatyzacja, z jaką mieliśmy do czynienia do tej pory, różni się od robotyzacji i SI, która nadejdzie w przyszłości?

KM: Na chwilę obecną więcej można powiedzieć o robotyzacji i teleoperacji. Roboty i drony stają się wszechobecne, jednak nadal ktoś je nadzoruje lub pilotuje. Stworzą się nowe miejsca pracy, takie jak wolontariusz opiekun telerobotyczny dla osób starszych oraz takie, o których jeszcze nie wiemy, gdyż wynikają one z dysruptywności pewnych technologii. Sama praca powtarzalna z całą pewnością będzie w coraz większym stopniu zrobotyzowana przez roboty twarde oraz miękkie. Przemiana wywołana zastosowaniem metod SI oraz robotyzacją produkcji, wytwórstwa czy opieki zdrowotnej będzie miała większy wpływ niż nam się często wydaje. Proszę wziąć pod uwagę ułatwienie pracy fizycznej, zmniejszenie społecznych kosztów chorób zawodowych (np. ubytki słuchu, wady kręgosłupa czy zespół wibracyjny), wypadków komunikacyjnych (dzięki autonomicznym lub półautonomicznym samochodom, motocyklom, samolotom etc.), rehabilitacji po operacjach inwazyjnych itp. Możliwe, że w okresie przejściowym zmieni się prawo pracy. Godziny pracy będą krótsze, za to więcej będzie inwestowane w zaadaptowanie pracowników do nowych warunków. Mówiąc o postępie technologicznym, nie możemy oczywiście zapomnieć o powstających przemysłach wydobycia kosmicznego czy produkcji kosmicznej i ich wpływie na naszą sytuacje. Można nawet założyć, że przy takim układzie więcej sił ludzkich zostanie włożonych nie w produkcję takich dóbr jak smartfony, a w prace ekologiczne czy geoinżynieryjne polepszające warunki w obecnych krajach rozwijających się. Te nierzadko dotknięte są głodem, chorobami i nieurodzajem. Różnice społeczne między grupami etnicznymi mogą się zacierać, a nierówność płacowa, dyskryminacja, parytety i affirmative action staną się takim samym elementem przeszłości, jak dla współczesnych ludzi obyczaje w Wiktoriańskiej Anglii. Będzie to skok taki, jak między polowaniem na pożywienie a chodzeniem do pracy i kupowaniem gotowego jedzenia.  Zastosowań automatyzacji i robotów jest wiele, scenariuszy tak samo.

Czy są jakieś granice (techniczne, etyczne) rozwoju SI?

KM: Granice techniczne się przesuwają. Jak rozumiem, mówimy o SI z futurologicznych dzieł Kurzweila czy Bostroma, nie zaś o obecnych ograniczeniach. Granice etyczne zależą od naszego rozumienia moralności. Powinniśmy zadać sobie pytanie: czy SI będzie posiadało kognitywną autonomię, swobodę oceny moralnej, poczucie odpowiedzialności, czy będzie tylko naszym bezwolnym dżinem? W drugim przypadku, etyczne będzie wprowadzenie głębokich blokad logicznych, uniemożliwiających SI pośrednie dokonanie krzywdy czy nawet ludobójstwa (np. poprzez opracowanie specyficznej modyfikacji produktu żywnościowego, zabójczego dla pewnej części populacji). W przypadku jednostki w pełni świadomej i autonomicznej istnieje pytanie, czy mamy prawo stworzyć tzw. killswitch – taki przycisk natychmiastowej dezaktywacji, jak w maszynach produkcyjnych. To jest problem wagonika, gdzie wybieramy między nami, żyjącymi w ciągłym strachu, a nimi (zakładając, że nie będzie tylko jedna SI), bytującymi ze świadomością, że pewne lękliwe stworki mogą w każdej chwili zakończyć ich egzystencje.  

W kulturze często przewija się motyw „niebezpiecznej” SI – żeby wymienić choćby Skynet w „Terminatorze”, VIKI w filmie „Ja, robot”, Asa w „Nie mam ust, a muszę krzyczeć” H. Ellisona. Czy faktycznie grożą nam tego typu scenariusze? Czy – i do jakiego stopnia – SI może wymknąć się spod kontroli twórców?

KM: Jak uwielbiam „I Have No Mouth…” Ellisona, za dość lovecraftowskie czy poe’owskie podejście do tematu, tak nie wydaje mi się to rzeczywiste. W powieści Waltera Jona Williamsa „Implied Spaces” sztuczna inteligencja rezydująca w Mózgu Matrioszce (megastruktura komputerowa) stwierdziła, że wszelkie obawy o zniewolenie są bezpodstawne, gdyż do tego potężne samoreplikujące się maszyny potrzebowałyby ludzkich niewolników, których trzeba żywić, a przypadki, w których SI dokonywałaby zagłady ludzkości, wynikałyby z faktu, iż została do tego przyuczona lub zaprogramowana. Podobnie można odrzucić scenariusz Maszyny do tworzenia spinaczy, gdyż jest to scenariusz Grey Goo (szara maź, kiedy rój samoreplikujących się nanobotów w wyniku błędu i zapętlenia przetwarzałby otaczającą go materię na kolejne nanoboty), przełożony ze złamaniem wszelkich zasad logiki – zakłada on podatność superinteligencji na wadę mechanizmów skrajnie uproszczonych.

Fantastyka naukowa ma wiele przykładów SI walczących z człowiekiem, jak np. w prequelach „Diuny” Franka Herberta czy będącym jego towarzyszem broni w walce z Tamtym SI w serii „Gamedec” Marcina Przybyłka. Zupełnie odmienne podejście do relacji ludzi i SI ukazane jest w ostatnim tomie „Yggdrasil” Wawrzyńca Podrzuckiego lub w „Człowieku Plus” Frederika Pohla, jednak nie wypada zdradzać zakończeń świetnych książek. Można też wskazywać okrutny plan SI z Technocore’u w „Hyperionie” Simmonsa.

Problem ze scenariuszami, w których roboty czy SI dokonują zagłady człowieka z jakichś „logicznych” powodów bierze się głównie z poczucia niedoskonałości człowieka, a trochę z konieczności oczyszczenia świata z „grzeszników” przeciwko Ziemi czy Pokojowi na świecie („Colossus: the Forbin Project”). Są one pokrewne głoszącym te same bzdury scenariuszom o inwazji kosmitów czy zstąpieniu aniołów. Autor miał jakiś żal do ogólnej kondycji człowieka, więc przebrał się w swoim dziele za SI, Anioła, Kosmitę, po czym przelał na papier cały swój gniew na niegodziwość ludzką.

Jedyny przypadek „wymknięcia się spod kontroli”, to SI posiadająca wbudowany lub wypracowany lęk oraz cel jakim jest przetrwanie i zdolność oszukiwania, jak w filmie „Ex Machina”. Taki robot Ayn Rand, kierujący się własnym dobrem i przetrwaniem, potrafiący się adaptować, nie musiałby się jednak odwoływać do przemocy czy wojny, bo zwyczajnie by nas wyprzedził.

Kończąc temat fantastyki, chyba najbardziej fascynującym dla mnie przykładem jest Zaraza z „Ognia nad otchłanią” Vernora Vinge’a czy Współistnienie z dylogii Rafała Dębskiego. Są to formy SI, które chcą włączyć ludzkość w swój kolektyw i stworzyć Ultelekt (ang. Hivemind). To jest na pewnej płaszczyźnie bardzo prawdopodobny scenariusz, biorąc pod uwagę koncepcje tworzenia inteligentnego otoczenia i powszechnego dostępu smarturządzeń do sieci bezprzewodowej.

Czy „połączenie” człowieka z robotem jest możliwe i jak mogłoby wyglądać? Jakie mogłyby wyniknąć z tego korzyści?

KM: BCI dopiero raczkuje, ale mamy już egzoszkielety wspomagające osoby niepełnosprawne. Niedawno nawet pojawiła się informacja, że podobny otrzymał Tomasz Gollob.  O ile nie mówimy o bionice i cyborgizacjach, robot będzie ubieralnym przedłużeniem człowieka. Będzie to także zdalny towarzysz, asystent, pojazd, opiekun.

Cyborgizacje natomiast będą wyzwaniem prawnym i kulturowym. Nie jestem pewien, czy polityczna poprawność nie będzie starała się wymazać słowa „cyborg” z powszechnego języka ze względu na bagaż kulturowy, na co mogą nie pomóc ani odwołania do Donny Haraway czy Clynesa i Kline’a. Korzyści jest mnóstwo, np. poprawa zdrowia, zmiana metabolizmu, możliwość hibernacji czy samonaprawy do pewnego stopnia. To zależy od tego, o jakim poziomie połączenia myślimy. Poza tym, dzięki swobodzie morfologicznej ludzie będą mogli przemieniać i cyborgizować swoje ciała w sposób, jaki będzie dla nich najdogodniejszy. Porzucenie formy ludzkiej? Prawdopodobnie.

Jakie aktualne projekty związane z robotami/SI są w Pana opinii najciekawsze/najbardziej perspektywiczne?

KM: Myślę, że najbardziej perspektywiczne okażą się projekty tzw. robotyki miękkiej – takie jak te firmy Festo, czy projekt stosowania miękkich robotów w przestrzeni kosmicznej do obsługi satelitów dra  Zhongliang Jinga opisany w ostatnim numerze Science China.

Z SI bardzo podobają mi się popisy systemów deep learningowych oraz systemy śledzenia gruzu kosmicznego, asteroid, komet i astronawigacji. W dłuższej perspektywie SI korzystające z danych teleskopowych będzie mogło tworzyć modele predykcji zmian w pogodzie kosmicznej. Będą one niezbędne ze względu na coraz większą zależność inteligentnych systemów od komunikacji satelitarnych oraz wykorzystania danych z obserwacji Ziemi.

Czy sztuczna inteligencja może być szansą na nieśmiertelność człowieka – czego chcą transhumaniści?

KM: SI sama w sobie nie; chyba, że połączymy ją z koncepcją Whole Brain Emulation, czyli dokonaniem skanu ludzkiego mózgu, którego funkcjonalny, rozwijający się zapis, będzie mógł egzystować również po śmierci człowieka. Systemy SI mogą jednak pomóc nam w tworzeniu nowych leków, terapii, poszukiwaniu i modelowaniu materiałów i urządzeń polepszających nasze zdrowie.

Jestem jednak przeciwnikiem nazywania projektów takich jak Eterni.me „unieśmiertelnianiem”. Jedynym skojarzeniem, jakie mi się nasuwa przy nakładaniu ludzkich elementów na czatbota, jest „Flayed-ones” z Warhammera 40k. Pisałem kiedyś o tym artykuł dla Freelab zatytułowany „Mamo – Dziadek znowu się zawiesił”, który stał się nawet inspiracją dla jednego z opowiadań SF autorstwa Małgorzaty Gwary. Cieszę się, że powstał nawet odcinek serialu „Black Mirror” o tym pomyśle.

Jednak największą szansą, poza powstrzymaniem biologicznych mechanizmów starzenia się, jest oczywiście emulacja. Póki co udało się to na nicieniu. Jest jednak szansa, iż The Human Brain Project wytworzy spin-off, który będzie posiadał wypracowaną technikę. Dzięki niej wyeliminowanie możliwych błędów zapisu pozostanie tylko kwestią czasu. Póki co wszystko jeszcze przed nami.

Jakie jest Pana zdanie na temat dochodu podstawowego w kontekście robotyzacji?

KM: Mam pozytywne zdanie, pod warunkiem, że dochód będzie pochodził z podziału zysku między społeczeństwem a przedsiębiorcą, nie zaś z odgórnie narzuconego podatku. Wymuszenie partycypacji powinno iść w obie strony tak, by osiągnąć konsensus. Ponadto należy przemyśleć kwestię produkcji. Czy powinna być ona nastawiona na obfitość produktów, których konsumenci nie są w stanie zakupić lub skonsumować, czy może użyć systemów SI, by lepiej nadzorować produkcję (Sigma Six/TPS). Skoro nie pracują tam już ludzie, to można zarządzać produkcją zupełnie innymi systemami niż tym, który jest oparty o pracę w systemie zmianowym, godzinowym. Zapominamy też o dysruptywności poszukiwania nowych złóż poza Ziemią, a te kwestie się przenikają. Osobiście widziałbym ludzkość, gdzie ludzie pełnią funkcje, a nie pracują, by żyć, zamiast leżakować jako bezmyślny konsument, za którego wszystko robi robot.

Kamil Muzyka – ekspert w dziedzinie prawa kosmicznego, własności intelektualnej i praw robotyki. Współprowadzi serwis Prawo i Kosmos.