Film: „Ja, robot” i Trzy Prawa Robotyki

„Ja, robot” to film SF z 2004 roku, którego fabula inspirowana jest klasyką Science-Fiction, czyli literaturą Isaaca Asimova. Przyjemna rozrywka z futurystycznymi rozważaniami w tle. Nie ujmując samemu filmowi trzeba powiedzieć, że założenia leżące u podstaw fabuły, a przyjęte na bazie fantastyki sprzed ponad pół wieku są nieaktualne. Dla nas to chyba zła wiadomość.

plakat ja robot
Will Smith na plakacie promującym „Ja, robot”

Scenariusz filmu nawiązuje do prozy mistrza fantastyki Isaaca Asimova. Postaram się nie robić „spoilerów”, a jedynie ogólnie odnieść się bardziej do tła i założeń filmu, a nie samych szczegółów fabuły.

„Ja, robot” (kliknij w tytuł, żeby zobaczyć zwiastun) wykorzystuje motyw „Trzech praw robotyki” wprowadzonych do fantastyki naukowej przez Isaaca Asimova. Samo swojsko brzmiące pojecie „robot” pochodzi z pokrewnego naszemu języka czeskiego. W 1920 roku Karel Čapek napisał sztukę właśnie o robotach, których nazwa pochodzi od używanego również w Polsce określenia „robota”, którym opisujemy ciężką i zazwyczaj nieprzyjemną pracę. Čapek w swojej sztuce pokazuje bunt robotów prowadzący do zagłady człowieka. Te wczesne czeskie „roboty” były istotami organicznymi, celowo „hodowanymi” do pracy, taki motyw znajdujemy też w spektakularnym „Atlasie Chmur”(zobacz zwiastun) z 2012 roku, gdzie Sonmi-451 w nomenklaturze czeskiego autora byłaby właśnie „robotem”. Samo pojęcie „robot” jest już jednak stosowane w stosunku do maszyn, termin „robotyka” do fantastyki i nauki wprowadził wspomniany już Asimov. Sam motyw robotów obracających się przeciwko swoim twórcom także od dawna jest obecny w fantastyce. Strach przed maszynami, które pod wieloma względami mogą być lepsze od człowieka staje się wdzięcznym motywem dla wielu twórców. Rozwój robotyki jest czymś oczywistym. Jak zatem ochronić pozycję gatunku ludzkiego by nie padł ofiarą własnych tworów? Asimov zaproponował „Trzy Prawa Robotyki”, które mają być podstawą oprogramowania KAŻDEGO robota.

  1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
  2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
  3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Urocze prawda? Byłoby pięknie gdyby działało, jednak sam Asimov i jego następcy często pokazują, ze roboty mogą myśleć w sposób tak bardzo odmienny od naszego, że nawet maszyny zabezpieczone „Trzema Prawami” mogą być groźne. Zresztą takie sformułowanie praw jest co najmniej niesprawiedliwe wobec robotów.
Wracając do samego filmu trzeba powiedzieć, że twórcy jak zwykle w takich sytuacjach skupiają się głównie na jednym motywie. Brak jest np. ukazania skutków zaawansowanej robotyki w protetyce, choćby w uzupełnianiu brakujących kończyn. Ot mamy pokazany jeden taki przypadek jako coś wyjątkowego, nie występującego w życiu codziennym. To zupełnie tak jak gdyby po pierwszej udanej operacji przeszczepienia serca zaniechano tej metody w pomaganiu innym pacjentom.
Trochę sztucznie wygląda też sytuacja gdy roboty nagminnie używane są w życiu codziennym, a jednak nikomu jeszcze nie udało się ich użyć do przestępstwa. Jest to jednak konieczne by pokazać jakim okropnym „technofobem” jest jeden z bohaterów.
Zresztą jego niechęć do robotów ma kiepskie podstawy. Nie podoba mu się, że są takie logiczne i bezduszne, że wszystko kalkulują, a niestety my też kalkulujemy. Nawet gdy chodzi o ludzkie życie. Chyba najbardziej widać to w akcjach ratunkowych przy zdarzeniach masowych. Wtedy gdy skala zdarzenia przekracza możliwości ratowników system segregacji rannych wręcz wyklucza udzielanie pomocy najbardziej poszkodowanym. Nie jest to może zbyt intuicyjne ale wykalkulowano, że dzięki temu można uratować więcej ludzi.
I na koniec zostawiam to, co sprawia, że takie filmy jak „Ja, robot” możemy oglądać jak miłe bajki o problemach, z którymi prawdopodobnie nigdy nie będziemy mieli do czynienia. Po prostu nikt nawet nie myśli by w praktyce stosować jakieś „prawa robotyki”. Jedne z najbardziej zaawansowanych prac nad robotami i sztuczną inteligencją prowadzone są nie na potrzeby wykonywania domowych obowiązków, tylko na zamówienia armii. Żadnego „nie dopuścić by człowiek nie doznał krzywdy”. O nie, wręcz przeciwnie. Na razie robot ma nosić ekwipunek za żołnierzem (kliknij żeby zobaczyć filmik o postępach), ale może za 10 czy 20 lat będzie już walczył? Zatem jeżeli w przyszłości grozi nam bunt maszyn, to nie będzie to coś na kształt „rewolty lokajów”, a raczej „przewrotu wojskowego”.

Komentarze

komentarzy

2 Komentarze

  • Yeri 12 marca 2015 Odpowiedz

    Dość dawno widziałem ten film, pamiętam, że mi nie podszedł, ale już nie wiem co mi w nim nie grało, pamiętam, że taki mdły mi się wydawał.
    Jak chodzi o bunty maszyn to nie ma i nie będzie nic lepszego od Terminatora (jedynki oczywiście).

  • Piotr 12 marca 2015 Odpowiedz Author

    Mdły? A czy ja napisałem „polecam” ;)? O terminatorze już daaawno było: http://piotrdyminski.pl/2010/04/25/elektroniczny-morderca-a-paradoks-dziadka/
    …a tego robota traktuję jak rozgrzewkę do paru następnych wpisów o science fiction. Zapraszam do regularnych odwiedzin.

  • Szpieg 12 marca 2015 Odpowiedz

    http://www.filmweb.pl/film/Maszyna-2013-659911#

    Mnie się ten podobał 😀 I to nie tylko dlatego, że kręcą mnie wysportowane i machające odnóżami niewiasty 😉

    Ten cały I Robot to kolejny z chłamowatych filmów w których lubuje grać Will Smith. „Jestem legendą” np… to już ten stary (chyba z Hestonem?) lepszy i głębszy. A widzieliście ten „Miliard lat po ziemi” czy jakoś tak? To dopiero żałość.

    Jak faktycznie maszyny się zbuntują, to faktycznie w stylu Skynetu czy Matrixa. Nota bene, moim zdaniem porównanie człowieka do wirusa przez Agenta Smitha jest najbliższym temu, co faktycznie samoświadoma maszyna może o nas myśleć. Czysta logika nakaże im wyeliminowanie ludzkości: jesteśmy słabi, destruktywni, chaotyczni i nieprzewidywalni.

  • Mitz 13 marca 2015 Odpowiedz

    Szpiegu , Twój ludzki kompleks niższości jest chyba nieco przesadzony. Ludzie są całkiem zmyślnym gatunkiem 🙂 Co zaś do AI, trochę czasu jeszcze upłynie, nim samoświadomość maszyn będzie problemem, obecnie większym zagrożeniem są błędy- ludzkie błędy systemów zarządzających krytyczną infrastrukturą. A co do apokalipsy: https://what-if.xkcd.com/5/ 😉

  • Szpieg 15 marca 2015 Odpowiedz

    Mitzu, z moich obserwacji wynika, że znaczna część populacji (może połowa, a może i większość?) nie jest wcale zmyślna, a raczej debilna. Mogę jedynie gdybać, do jakich wniosków doszłaby samoświadoma AI analizując współczesną idiokrację oraz to co ludzie wrzucają do netu 😉 Pytanie, czy i dlaczego zdecydowałaby się dać nam szansę z uwagi na „zmyślność” pewnej części naszej populacji, i jakie kategorie zmyślności by przyjęła. Ja jako człowiek siłą rzeczy kieruję się emocjami i ogromną niechęcią do ludzi których uważam za głupszych od siebie, maszyna oszacowałaby to „na zimno”.

  • Mitz 16 marca 2015 Odpowiedz

    Wiesz – racjonalnie, technologia działa tam gdzie są ludzie 🙂 Ludzie, otaczając się technologią, tworzą odpowiednie środowisko. Sytuacja w której złożone systemy automatyczne działają bez ingerencji człowieka na razie nie występuje – są one zbyt zawodne i zbyt nietrwałe. Do samokonserwujących i samoreplikujących się maszyn jeszcze długa droga.

    A co do logiki, założenie że maszyny działają racjonalnie jest raczej wynikiem literatury popularnej niż faktycznej wiedzy o uczeniu maszynowym. Ma to szereg przyczyn. Np. proces decyzyjny człowieka jest skompilowany i nierozerwalnie związany ze struktura systemu w którym działa. Maszyna nie jest wcale mniej zawodna. Wewnętrzne interakcje naszego systemu biologicznego mają swój odpowiednik w złożonych systemach elektronicznych – wzbudzenia bitów w ciasno upakowanych rzędach pamięci operacyjnej, przekłamania rejestrów, błędne zapisy na dysk, błędy cache – to wszystko solidnie zwiększa entropię układu 🙂

    To dość skomplikowana dyskusja jak na komentarze pod bardzo, skądinąd interesującą serią o sf. na stronie Hauera.

    Jeżeli ktoś jest zainteresowany tą tematyką, polecam rewelacyjną książkę o AI: „Artificial Intelligence: A Modern Approach”, Stuart Russell, Peter Norvig.
    Książka stanowi świetny wstęp do tematyki inteligencji maszynowej, poza tym czyta się ją bardzo dobrze, nawet nie będąc informatykiem.

  • Yeri 16 marca 2015 Odpowiedz

    Mitz:
    „Maszyna nie jest wcale mniej zawodna. Wewnętrzne interakcje naszego systemu biologicznego mają swój odpowiednik w złożonych systemach elektronicznych – wzbudzenia bitów w ciasno upakowanych rzędach pamięci operacyjnej, przekłamania rejestrów, błędne zapisy na dysk, błędy cache – to wszystko solidnie zwiększa entropię układu”

    Bardzo ciekawie to napisałeś. Też się zastanawiam, jak w praktyce wyglądałaby działalność SI, ciekawe jak by to jednak działało. Np kwestia motywacji- człowieka do działania pcha logika (np rób zapasy na zimę, umrzesz z głodu) i emocje (np wespnij się na tą skałę, jak się nie zabijesz to będziesz miał z niej piękny widok).
    A co będzie kierować SI? Tylko program? To będzie mocno ograniczona. Jak nie odczuwa strachu, przyjemności, itp to po co ma coś robić? Zawsze mnie to zastanawiało.

  • Yeri 16 marca 2015 Odpowiedz

    I np takie mrówki- niby to żywe, ale jak roboty- zasuwają, bez emocji, robią co mają, królowa składa jaja a reszta posłusznie pracuje i ginie w obronie mrowiska. Bez buntów, dezercji, itp. Ciekawa sprawa. Ciekawe czy SI byøaby podobna do mrówek, tak sobie wyobrazam to troche.

  • Szpieg 18 marca 2015 Odpowiedz

    No ja myślę że – popuszczając wodze fantazji – mówimy o SI która osiągnie świadomość, więc również świadomość niedoskonałości i sposobów na poprawienie tego stanu.
    Pomijając technikalia o których pisze Mitzu – bo faktycznie Skynet czy Moloch z Neuroshimy działający na Windowsie 8.1 byłby straszny przede wszystkim dla siebie samego – można przeskoczyć kilkadziesiąt lat do przodu i przyjąć, że jeśli mówimy o świadomej SI, to będzie ona świadoma także błędów w swoim systemie i będzie w stanie go naprawiać i usprawniać, według siebie, już poza wszelką kontrolą człowieka. Jeśli podłapie jakie narzędzia i programowanie stosuje człowiek do jej usprawnień, to będąc świadoma i ucząca się, będzie w stanie sama je przyjąć, stosować i modyfikować. W to, że teraz nie jest to wykonalne i długo nie będzie, to ja jestem w stanie uwierzyć, ale jeszcze sto lat temu nikt by nie uwierzył, że człowiek może nosić całą wiedzę ludzkości w małym prostokątnym urządzonku, i używać tego urządzonka do robienia durnych selfie.

  • Szpieg 18 marca 2015 Odpowiedz

    A co do celu, to jest dobre pytanie, ale dopóki nie jesteśmy świadomymi maszynami, nie jesteśmy w stanie przewidzieć co taka uzna za swój cel i motywację. W popkulturze w sumie przyjęte są dwa główne modele: Agent Smith (trzeba zaprowadzić porządek bo ludzie to chaos i zbędny element więc należy ich wyniszczyć) oraz SI która jest świadoma wartości ludzkich przeżyć, uczuć, duszy – i usiłuje w jakiś sposób to przejąć, do tego dążyć.
    W tym filmie Maszyna do którego link wkleiłem na początku, SI zamknięta w cyborgu bojowo-infiltracyjnym jest na samym początku pustą kartą, czymś w rodzaju małego ciekawskiego dziecka – pozytywny główny bohater usiłuje nauczyć ją być człowiekiem, jego wojskowi przełożeni uczą ją zabijać a posłuszeństwo wymuszają stosując bodźce których nie lubi. W końcowych scenach powstaje coś, co idzie tak naprawdę swoją, nieodgadnioną drogą, jakąś wypadkową tych doświadczeń ale przefiltrowaną przez, no właśnie, tą „maszynową” logikę, i w sumie okazuje się, że nie wiadomo co siedziało w niej od początku, czy też uruchomiło się pod wpływem tych czy innych bodźców.

  • Mitz 19 marca 2015 Odpowiedz

    Sądzę że dyskutując o celu trafiliście w sedno. W literaturze o tym problemie mówi się w kategoriach gry: maszyna gra w grę która ma pewien cel – tzn. można w nią wygrać lub przegrać (ewentualnie dopuścić jakieś wariacje jak np. wszyscy/nikt nie wygrywa).

    Cel łatwo zdefiniować przy grach logiczno- zręcznościowych (tetris, arkanoid) taktycznych (warcaby, szachy) lub ekonomicznych (kupiec, simcity). W powyższych przypadkach maszyna może stworzyć skuteczną strategię, rozwiązując klasyczny problem optymalizacji.

    Taki Skynet jest z tego punktu widzenia względnie prosty: jego grą jest maksymalizacja czasu życia Skyneta oraz obszaru kontrolowanego terytorium. Środki mogą być z naszej perspektywy „nieludzkie”, ale zrozumiały, ludzki cel pozwala nam zrozumieć taką maszynę.

    Gorzej kiedy gra nie ma jasno zdefiniowanej funkcji kosztu – nie mogąc określić jakości danego stanu, maszyna nie może podjąć żadnych sensownych decyzji w celu poprawienia sytuacji.

    Dochodzimy tu do najciekawszej – „obcej” AI, czyli maszyny grającej w grę, której zasad nie pojmujemy. I to jest już temat na dyskusję przy piwie 🙂

  • Szpieg 19 marca 2015 Odpowiedz

    Mitzu, ta druga opcja pasuje do Żniwiarzy, nie sądzisz?
    Ich gra pozostaje nieodkryta aż do samego zakończenia trylogii Mass Effect, kiedy okazuje się że swoimi bezprecedensowymi działaniami namieszałeś w tym co przez miliony lat było dla nich niezmienne, i sami nie są w stanie podjąć decyzji co robić dalej?
    Ale tak naprawdę to nikt i nic nie jest w stanie z nimi skutecznie walczyć, ani negocjować bo nie nawiązują kontaktu, nie stawiają żądań i w gruncie rzeczy zatrzymuje ich jedynie ciąg przypadków, a gra tak naprawdę nie ma „dobrego” zakończenia.

    https://www.youtube.com/watch?v=HaUU7TtAm5c

    W sumie, w konkursie na mechanicznego arcy-wroga u mnie te dwukilometrowe żywe „statki” wygrywają i nad Skynetem, i nad Molochem i nad Matrixem. Mierzenie się z zagładą jaką sieją na setkach planet potrafiło wpędzić w depresję. A cel, jak się okazuje na samiutkim końcu gry, w gruncie rzeczy mieli „szczytny” – co 50 tysięcy lat wyczyszczali wszystkie zaawansowane technicznie rasy galaktyki by te mniej zaawansowane miały szansę się rozwinąć. Z kolei rozpuszczając miliardy tych organicznych istot na papkę i budując z niej kolejnego Żniwiarza, zachowującego pamięć komórkową rasy w formie jakiegoś totalnie niezrozumiałego kolektywu, pozwalali tej rasie przetrwać i unieśmiertelnić się w formie, wg nich, wyższej i lepszej. Taka trochę inna wersja nieśmiertelności w raju 😛 Niby po ludzku do pojęcia, ale jednak nie. Tacy kosmiczni ogrodnicy przycinający ogród co jakiś czas, bo ktoś miliony lat temu zadał pytanie jak uporządkować chaos…

  • Van 1 maja 2015 Odpowiedz

    Film rzeczywiści nie porusza tematyki wykorzystywania robotów do popełniania przestępstw. Nie przypominam sobie ich też w książce.Ale w serii „Pozytronowy detektyw” to już niemal są historie tylko o tym.

    Matrix (cała trylogia plus dodatki) to bardzo ładna według mnie próba opowiadania o relacjach SI – człowiek. Chociaż SI zachowuje się jak napisał Mitz.

    Yeri. Ciekawie opisuje jak mogłaby myśleć SI, Masamune Shirow w Ghost In The Shell , ale mam na myśli komiksy nie filmy. Warto przeczytać wszystkie trzy tomy które się u nas ukazały. Przemyślenia Fuchikom z „Kokoku Kidotai” i „Human error processer” oraz SI wspomagających z „Manmachine Interface”- bezcenne.

    Trop z mrówkami jako SI jest w mojej ocenie błędny. Pojedyńcza mrówka zachowuję się raczej jak automat. Dopiero w grupie zaczynają wykazywać coś na kształt inteligencji.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *

Facebook