Samochody autonomiczne to bardzo szeroki temat, jednakże zdecydowanie najbardziej kontrowersyjnym z nich jest ten, dotyczący wyboru tak zwanego mniejszego zła. Wbrew pozorom nie chodzi w nim o kwestie polityczne, ale o życie uczestników ruchu drogowego.
Ludzka loteria
Ludzie, w przeciwieństwie do sztucznej inteligencji, poddani są działaniu emocji i instynktu przetrwania w kryzysowych sytuacjach. Zatem to, co może się wydarzyć podczas wypadku drogowego, potrafi być skrajnie nieprzewidywalne. Możemy wymyślać najróżniejsze teoretyczne scenariusze działania, które należy zastosować w razie potencjalnego zagrożenia. Jednakże to, co w praktyce postanowi zrobić pamięć mięśniowa lub umysł, może się znacznie różnić od pierwotnego, teoretycznego zamysłu.
W przeciwieństwie do ludzi, sztuczna inteligencja jest zimnokrwistym mechanizmem, podejmującym tylko zaprogramowane schematy działań.To znaczy ma być, bo sztucznej inteligencji w pełnym tego słowa znaczeniu jeszcze nie ma. Gdyby istniała, byłaby bardziej przewidywalna w kryzysowych sytuacjach od człowieka, ale też mniej wyrozumiała i empatyczna. Dziś do czynienia mamy z algorytmami stworzonymi przez programistów i uczeniem maszynowym. Które istnienia oszczędzą, a które spiszą na straty, a przede wszystkim kto poniesie za to odpowiedzialność?
Samochody autonomiczne i cyfrowa moralność
Za przykład moralnego dylematu można przytoczyć sytuację, w której liczna grupka przechodniów wkroczyła na jezdnię. Rozpędzony samochód autonomiczny nie może bezpiecznie wyhamować i zatrzymać się, ponieważ jego droga hamowania jest zbyt długa. A wie o tym, ponieważ komputer jest zdolny to wyliczyć w ułamku sekundy, człowiek nie.
Cała sytuacja ma miejsce przy wjeździe do miasta. Chodnik znajduje się po lewej stronie i idzie wzdłuż niego wielu pieszych. Natomiast wzdłuż prawej strony znajduje się betonowa ściana. Zatem AI ma do wyboru śmiertelnie potrącić przechodniów lub uderzyć w ścianę zabijając oboje pasażerów.
To, czy człowiek wybierze własne życie ponad grupki przechodniów, jest zależne od absurdalnie wysokiej liczby czynników. Natomiast oschła kalkulacja AI opiera się tylko na wyliczaniu szans i próbie przewidzenia przyszłości. Jednakże po otrzymaniu wyników nadal trzeba podjąć decyzję na ich podstawie. A obie możliwości różnią się tylko liczbą zgonów i uszkodzeń pojazdu oraz mienia.
Czy jesteśmy gotowi, aby podejmować taką decyzję? Postawię śmiałą tezę: nie. Nikt nie ma prawa decydować o tym, kto żyje, a kto nie. Kierowca, który potrącił przechodniów ponosi za to konsekwencje, zarówno moralne, jak i prawne, sztuczna inteligencja – nie.
Autonomiczny kat
Człowiek w momencie zagrożenia uruchamia swoje naturalne, zwierzęce instynkty. Jesteśmy oportunistami, ratujemy życie swoje i swojej rodziny. AI za to podejmie zimną kalkulację – zamiast uratować dwóch pasażerów, poświęci ich życie, żeby ocalić grupę przechodniów. Tylko, że Ci pasażerowie byli równie niewinni, jak przechodnie.
Przecież to nie oni spowodowali wypadek, skoro auto było autonomiczne – dlaczego zatem mieliby zginąć? Między innymi to jeden z wielu powodów, dla których samochody autonomiczne budzą i będą budzić niechęć wśród potencjalnych nabywców. Jazda w pełni autonomicznym samochodem wiąże się z powierzeniem podjęcia wszelkich decyzji za kierowcę.
To oznacza, że każdy pasażer takiego pojazdu nie ma nawet poczucia kontroli nad własnym życiem. Wszelki krytyczny wybór spoczywa na zaprogramowanej maszynie, zaprogramowanej przez kogoś, kto nigdy nie poniesie odpowiedzialności za swoje decyzje. Z tego też powodu wiele osób nie chce ryzykować własnym życiem i pozwolić decydować za nich. Co jest zupełnie naturalnym zachowaniem, każdy powinien mieć zapewnioną wolność.
Czy jest tu miejsce na świadomy wybór?
Oczywiście problem ten jest znany i są już podjęte próby jego rozwiązania. Dość kontrowersyjną propozycją jest możliwość wyboru przez właściciela lub producenta, co powinno być priorytetem ‐ życie przechodniów czy pasażerów. Ktoś, kto prowadzi tradycyjny pojazd może wybrać, czy poświęci cudze, czy swoje życie w wyniku wypadku.
Samodzielna możliwość wyboru priorytetu w ustawieniach systemowych pojazdu wydaje się być racjonalną opcją. Jednakże pasażerowie odrzucający naturalny oportunizm musieliby być świadomi tego, że nie zawsze mogą dotrzeć na miejsce cali i zdrowi. Ci drudzy musieli by żyć ze świadomością, że komputer zamontowany w ich samochodzie może przyczynić się do śmierci innego człowieka. Zaznaczamy, to komputer byłby wtedy odpowiedzialny za śmierć, czyli w zasadzie programista, który go zaprogramował, albo producent, który zlecił takie oprogramowanie…
Kontrowersyjnym tematem może stać się priorytetyzowanie żyć osób o wysokim statusie społecznym. Głowy państw, biznesmeni, czy też lekarze mogą przemieszczać się przy użyciu transportu drogowego. Natomiast grubość portfela nie gwarantuje ochrony przed nieszczęśliwymi wypadkami. Nadal są takimi ludźmi, jak inni zwykli obywatele – przynajmniej w teorii, demokracja pokazuje, że rzeczywistość jest zgoła odmienna.
Zatem czy takie osoby powinny mieć wyższy priorytet bezpieczeństwa, ze względu na większe swoje możliwości i znaczenie? Oczywiście, że nie! Jednakże zdecydowanie możemy spodziewać się, że taka sytuacja niestety będzie miała miejsce. Tak samo jak ma to miejsce dziś w kwestii mandatów czy procesów sądowych dla polityków i innych wpływowych osób. Wszystko można załatwić odpowiednimi łapówkami czy posadami.
Pierwsza zasada robotyki vs samochody autonomiczne
Sztuczna inteligencja jest już pewną formą robotyki. Pewna decyzyjność, którą ma AI, dzięki założeniom programistów, może kwalifikować się jako odzwierciedlenie i zastępstwo człowieka. Zatem zdaniem niektórych autonomiczne pojazdy są formą robotyzacji.
Trzy prawa robotyki to wymyślone przez Isaaca Asimova zasady, które powinny zostać zaimplementowane robotom. Najważniejszą z nich jest pierwsza, która brzmi tak:
Robot nie może zranić człowieka, ani przez bezczynność pozwolić człowiekowi wyrządzić krzywdę.
Samochody autonomiczne, według tej zasady, nie miałyby wyboru pomiędzy prioretytezowaniem życia przechodniów i pasażerów. W związku z tym zmuszone byłyby zareagować tak, aby uratować jak najwięcej osób.
Autonomiczne samochody i ich systemy bezpieczeństwa
Już od dziesiątek lat mamy do czynienia z systemami wspomagania bezpiecznej jazdy. Do ABS, ESP, aktywnego tempomatu czy automatycznego hamowania przed przeszkodą zdążyliśmy się już przyzwyczaić. Samochody autonomiczne będą musiały jednak pójść o krok dalej.
Muszą być one wyposażone w nowe lub ulepszone systemy bezpieczeństwa – dodatkowe czujniki, kamery czy radary. Wszystko po to, aby zwiększyć precyzyjność odczytów oraz możliwości przewidywania sytuacji przez algorytmy sztucznej inteligencji.
To sprawi, że AI będzie lepiej analizować otoczenie i pozwoli wybrać oraz oszacować korzystniejsze scenariusze i protokoły działań. Nie da się jednak oszukać praw fizyki i nawet najlepsze czujniki tego nie przeskoczą. Jeśli do jakiegoś wypadku musi dojść, to AI temu nie będzie w stanie zapobiec. Jednakże dodatki takie jak radary, sonary lub kamery termowizyjne mogłyby pozwolić na szybszą reakcję komputera pokładowego.
W związku z tym, potencjalna szansa na uratowanie przechodniów i pasażerów wzrosłaby. W tym wszystkim brakuje jednak czynnika ludzkiego. Czynnika, który owszem, może czasami sprawić, że dany kierowca spowoduje wypadek, ale również, że tego wcale nie zrobi.
Niestety producenci nie są i prędko nie będą skłonni na implementację tych najbardziej zaawansowanych systemów bezpieczeństwa. Nic zresztą dziwnego, w końcu ich głównym celem jest zarobek, a nie ratowanie życia. Widać to m.in. na przykładzie Tesli, która w Modelu S 2021 zrezygnowała z radaru.
Zatem w przeciwieństwie do wielu poprzedników, dane do jej komputera pokładowego zarządzającego autopilotem docierają głównie z kamer. Wystarczy zatem, że część z nich się zabrudzi lub przestanie działać… i katastrofa murowana. Wypadek wynikający ze świadomej decyzji producenta, może przysporzyć marce czarny PR, a nadszarpniętą reputację trudno odzyskać.
Obecne systemy bezpieczeństwa
Autonomiczne samochody są zaprogramowane tak, aby przestrzegały przepisów drogowych. Jak wszyscy wiemy, przepisy te nie są stworzone przez osoby, które poruszają się na co dzień samochodem, tylko przez polityków z wyższych sfer, którzy wożeni są uprzywilejowanymi kolumnami lub latają helikopterami czy samolatami. Nikt o zdrowych zmysłach nie jeździ po mieście z prędkością 50 km/h, gdyż taka osoba jest po prostu zawalidrogą.
Samochody autonomiczne będą niestety jeździć zgodnie z absolutnie niepraktycznymi przepisami. Co więcej, w przeciwieństwie do człowieka, systemów nie da się rozproszyć i zachowują ciągłą czujność. A czas reakcji poszczególnych systemów bezpieczeństwa znacznie przekracza ludzkie zdolności. To jest oczywiście bardzo dobra informacja, jednak w połączeniu z aktualnymi przepisami może okazać się, że czasy przejazdów staną się absurdalnie długie.
Przynajmniej dopóki każdy samochód nie będzie autonomiczny i będą one wzajemnie komunikować się ze sobą. Wtedy prędkości przejazdu zapewne mogłyby być zwiększone.
Eksperci oszacowali, że autopilot w samochodach Tesli jest w stanie rozpoznać przeszkodę w ciągu 300 milisekund. Po tym czasie następuje od razu reakcja w postaci hamowania. Człowiek, żeby zareagować w tak krótkim czasie, musiałby wykazać się nieustannym skupieniem, które jest niemożliwe do długotrwałego utrzymania. Aby to udowodnić, brytyjska firma Select Car Leasing zleciła stworzenie symulatora, na którym możemy sprawdzić, czy nasz czas reakcji jest szybszy od autopilota Tesli. Link do symulatora.
Autonomiczne ciężarówki to nadal stosunkowo odległa wizja, ze względu na to, że konsekwencje wypadków z ich udziałem są znacznie poważniejsze. Zatem wymagają dokładniejszych testów, przed przyzwoleniem ich do ruchu drogowego. Wiadomo już, że jednym z niezbędnych systemów, który będzie im towarzyszyć jest automatyczne awaryjne hamowanie.
Konieczność zredukowania prędkości lub zatrzymania pojazdu, w razie pojawienia się nagłych przeszkód, jest bardzo oczywista. Szczególnie, jeżeli pojazd waży kilkadziesiąt ton i rozpędza się do 90km/h. Na rynku jest już kilka rozwiązań, które potrafią zaskoczyć swoją skutecznością. Jednakże szczególne wrażenie robi Volvo, które już w 2013 zaprezentowało swój system automatycznego hamowania awaryjnego. Jego możliwości możecie zobaczyć w krótkim filmie poniżej.
Kto dostanie odszkodowanie?
Z przytoczonego przykładu z pewnością winowajcami będą przechodnie. Ale skoro w jednym ze scenariuszy część z nich ginie, to kto wtedy poniesie odpowiedzialność za wypadek? Odszkodowania nadal muszą zostać wypłacone z czyjejś kieszeni, ale skoro winowajca nie żyje, to kto zapłaci za straty?
Takie właśnie problemy ograniczają wprowadzanie w pełni autonomicznych pojazdów. Dlatego też ciężko ustalić normy prawne dotyczące odpowiedzialności karnej w przypadku zdarzeń z udziałem autonomicznych samochodów. A wszelkie problemy legislacyjne skutecznie spowalniają przyrost liczby takich pojazdów na drogach. I raczej się to na razie nie zmieni.
Ktoś zawsze musi być winny
AI analizuje sytuację i wybiera wcześniej zaprogramowaną mu procedurę działania, na podstawie wyników analizy. Zatem wynika z tego, że to nie system ustala, jak ma zachować się pojazd w danej sytuacji, tylko jego programiści. Twórcy autonomicznych samochodów muszą zatem liczyć się z tym, że mogą być obwiniani o śmierć uczestników ruchu drogowego.
Firmy ubezpieczeniowe nadal będą musiały ściągnąć z kogoś pieniądze na odszkodowania. Tego problemu, przynajmniej narazie, nie da się rozwiązać, dlatego na szczęście autonomiczne samochody to melodia odległej przyszłości.
AI będzie zabijać ludzi, którzy ją finansują
Jak zatem jak widzicie, sztuczna inteligencja z założenia ma poświęcać życie… swoich właścicieli. Cóż za cliché. Wniosek jest następujący: nie możemy pozwolić, żeby technologia posłużyła do kontrolowania ludzkości i manipulacji. Powinniśmy walczyć o to, żeby spełniała swoją pierwotną funkcję – czyli nam służyła.
Niestety w dzisiejszym świecie wszystko podatne jest na wpływy polityków, korporacji i obrzydliwie bogatych jednostek, więc trudno jest uwierzyć w to, że nie wykorzystają oni możliwości do zdobycia jeszcze więcej kontroli. Taką okazję niewątpliwe dadzą im autonomiczne pojazdy.
Co Wy sądzicie o całej sprawie, autonomicznych samochodach, ich wadach i zaletach oraz odpowiedzialności za szkody, które mogą wyrządzić? Zachęcamy do dyskusji w komentarzach.
Dodaj komentarz