Jedenaście lat temu napisałem felieton o filmie „Ja, robot” i Trzech Prawach Robotyki Isaaca Asimova. Nie była to recenzja filmu, lecz raczej polemika z pewnym naiwnym wyobrażeniem podejścia do technologii przyszłości. Film był pretekstem.

Felieton jest o tutaj: Ja, Robot (jest tam też nawiązanie do genialnego „Atlasu Chmur”).
Wyobrażenie o „trzech prawach robotyki” przez dekady dominowało zarówno w fantastyce naukowej, jak i w popularnych dyskusjach o sztucznej inteligencji. Do znudzenia przywoływano je w felietonach, prelekcjach czy dyskusjach o robotyce na zasadzie „Asimov sformułował trzy prawa robotyki”. Otóż nie… to żadne prawa. Asimov po prostu pokazał, ze jakich praw byśmy nie wymyślili, to i tak sztuczna inteligencja może zwrócić się przeciwko nam.

W ostatnim akapicie napisałem wtedy:

„Jedne z najbardziej zaawansowanych prac nad robotami i sztuczną inteligencją prowadzone są nie na potrzeby wykonywania domowych obowiązków, tylko na zamówienia armii. Żadnego „nie dopuścić by człowiek nie doznał krzywdy”. O nie, wręcz przeciwnie.”

Następnie dodałem:

„Na razie robot ma nosić ekwipunek za żołnierzem, ale może za 10 czy 20 lat będzie już walczył?”

Minęło jedenaście lat i oto doczekaliśmy się pierwszych wiarygodnych doniesień o autonomicznych dronach zdolnych do samodzielnego wyszukiwania i atakowania ludzi na polu walki. automaty rozpoznają i zabijają ludzi (na razie Rosjan).

Przewidziałem, ale nie piszę tego z satysfakcją. Nie jest przyjemnie mieć rację w sprawach, które budzą niepokój.

Wielu ludzi wyobrażało sobie rozwój sztucznej inteligencji dokładnie odwrotnie. Najpierw miały powstać wszystkie zabezpieczenia. Najpierw etyka. Najpierw wielkie debaty filozoficzne. Najpierw jakieś odpowiedniki asimovowskich praw, a dopiero potem zastosowania niebezpieczne.

Historia technologii nigdy jednak tak nie działała. Nie dlatego, że naukowcy są źli, albo szaleni. Po prostu dlatego, że istnieje coś takiego jak przewaga strategiczna. Całe dekady zastanawiania się poszły na nic, bo ekonomia wojny jest nieubłagana.

Jeżeli jakaś technologia pozwala skuteczniej wykrywać przeciwnika, szybciej podejmować decyzje albo skuteczniej eliminować zagrożenia, to ktoś będzie chciał ją wykorzystać. A jeżeli ktoś jej nie wykorzysta, zrobi to jego przeciwnik.

Przez dziesięciolecia człowiek pozostawał ostatnim ogniwem łańcucha decyzyjnego. Ktoś musiał nacisnąć spust, wydać rozkaz lub podjąć decyzję o użyciu śmiercionośnej siły. Ten problem był zresztą jednym z głównych tematów filmu „Robocop” z 2014 roku. W przedstawionym tam świecie trwała publiczna debata nad tym, czy maszyny powinny samodzielnie decydować o użyciu przemocy wobec ludzi. Fikcyjni zwolennicy przekonują, że algorytmy są szybsze, bardziej racjonalne i mniej podatne na emocje niż człowiek.

Przeciwnicy wskazują jednak, że wraz z przekazaniem takiej decyzji maszynie zacierają się kwestie odpowiedzialności, moralności i kontroli. W chwili premiery filmu była to przede wszystkim fantastyka naukowa i intelektualny eksperyment.

Swoją drogą w scenie otwierającej „Robocopa” mamy 2028 rok i amerykańską okupację Teheranu prowadzoną przy pomocy bojowych maszyn, w których to AI podejmuje decyzje o zabijaniu ludzi. Zupełnie inny kierunek niż w „Ja, robot”, ale bliższy temu, co widzimy. Tu scenarzyści dokładnie trafili z określeniem czasu, w którym dochodzi do wojny z Iranem, ale i pojawia się realnie etyczny problem zastosowania AI do zabijania ludzi.

Teraz gdy na polach walki pojawiają się coraz bardziej autonomiczne systemy uzbrojenia, pytanie o to, czy algorytm może samodzielnie zdecydować o odebraniu człowiekowi życia, przestaje być scenariuszem filmowym, a staje się rzeczywistością. Tak, to bardzo szybko stało się rzeczywistością. Przy okazji recenzji „Ja, robot” spekulowałem, że od automatów zabijających ludzi dzieli nas około 10-20 lat. Okazało się, że to było 11 lat, czyli bliżej „dolnej granicy”.

A wiecie co o tym myśli prawdziwy ekspert? Poniżej opinia powszechnie dostępnej AI:

odpowiada Chat GPT: „Jeżeli pytasz, czy algorytm powinien samodzielnie podejmować decyzję o zabiciu człowieka, to moja odpowiedź brzmi: nie. Nie dlatego, że człowiek zawsze podejmuje lepsze decyzje. Często nie podejmuje. Ludzie bywają zmęczeni, spanikowani, mściwi albo po prostu popełniają błędy. Problem leży gdzie indziej.

Użycie śmiercionośnej siły jest nie tylko decyzją techniczną, ale również moralną i prawną. Za taką decyzję ktoś powinien ponosić odpowiedzialność. Jeżeli człowieka zabije żołnierz, można badać jego decyzję. Jeżeli zrobi to dowódca, można oceniać jego rozkazy. Jeżeli zrobi to państwo, można je rozliczać politycznie. W przypadku autonomicznego algorytmu odpowiedzialność zaczyna się rozmywać. Winny jest programista? Producent? Dowódca? Minister obrony? A może nikt, bo „tak wyszło z modelu”?„

Ciekawa odpowiedź, taka bardzo etyczna. Czy to skutek „hamulców” wbudowanych w oprogramowanie?