Početkom tjedna dogodila se tragedija u kojoj je poginula pješakinja koju je udario Uberov Volvo, u tom trenutku na autonomnom upravljanju. Za to je vrijeme u vozilu ipak bio vozač. I sada se ponovno postavlja pitanje koje je bilo aktualno i prije nego su takva vozila postala stvarnost. Tko je kriv za ovu smrt?
Ovo je prvi takav zabilježen slučaj na svijetu. Nešto slično dogodilo se 2016. godine kada je Tesla na autopilotskom upravljanju izazvao nesreću u kojoj je smrtno stradao njegov vozač. Istraga je trajala osam mjeseci i nije pronašla nikakve dokaze nedostataka u sistemu. Zaključeno je kako Tesla ne treba opozvati model.
Ova je nesreća zapravo je drugačija. Teslin sistem tehnički nije autonoman pa je tako i veća odgovornost za nesreću na samom vozaču. Smrt pješaka drukčija je od smrti vozača pa se time i potiče niz drugih pitanja. Tko bi mogao završiti na sudu? Uber, Volvo, dobavljači, vozač ili pješakinja? Tko je zapravo odgovoran?
Čini se kako je pitanje odgovornosti zapravo pogrešno pitanje koje se sada postavlja. Zapravo se može postaviti isto pitanje kao i za svaku prometnu nesreću u kojima sudjeluju 'obični' automobili. Bilo tko od Ubera do Volva, ili dobavljača dijelova automobila, može biti odgovoran, ovisno o tome što će pokazati policijska istraga.
Vozač automobila 44-godišnji Rafael Vasquez mogao bi biti u problemima ako policija otkrije da je "prevario" automobil. Naime, niz algoritama za izbjegavanje sudara zahtjeva uredno funkcioniranje i povezanost ostalih informacija između ostalo i o broju putnika u automobilu i gdje se nalaze, broju ljudi u automobilima koji se nalaze oko tog automobila, smatra to dr. Ali Abbas, profesor industrijskog i sistemskog inženjering na sveučilištu južna Kalifornija.
Neki od ovih algoritama mogu biti podložni utjecaju drugih, kao što je npr. lažna tvrdnja o broju putnika automobila, a vozač automobila može pokušati prevariti automobil ili druga vozila kako bi prioritetno zaštitio svoj život a ne nečiji drugi. Ovisi to o tome kako algoritam donosi odluke, posebno one u kriznim situacijama.
Trenutačno, kako kaže Abbas nema zakona koji to regulira, no ako je na neki način vozač obmanuo vozilo, moglo bi to dovesti do "zakonske regulacije u budućnosti".
Po nedavno objavljenoj snimci čini se kako bi nesreća mogla biti krivnja vozača, kako je rekao Bryant Walker Smith, asistent na pravnom sveučilištu južna Karolina i član američkog odjela za transport.
"Ako pažljivo promatram mogu primijetiti žrtvu dvije sekunde prije završetka videa. To je slično i prosječnom vremenu reakcije vozača. To znači da je oprezan vozač mogao bar pokušati stisnuti kočnicu", naglašava Smith. Snimka pokazuje kako Vasquez nekoliko puta udaljava svoj pogled od ceste.
Uber će biti u problemima ako se otkrije da su na cestu pustili automobile za koje su znali da imaju nekih problema. I nije pravo pitanje jesu li Uberovi algoritmi savršeni, već je pitanje koliko je Uber znao o njihovim manama, piše Mashable.
"Algoritmi koje sada imamo neće biti i algoritmi koje ćemo koristiti za 10-15 godina. Koliko je tvrtka bila sigurna u uspješnost svojih algoritama prije nego su automobile poslali na cestu? U SAD-u se u prosjeku nesreća sa smrtnom posljedicom događa često, no strašno je jer se ova nesreća dogodila jako rano u povijesti autonomnih vozila", naglasio je Smith.
Smatra kako zbog ove nesreće ljudi ne bi trebali biti u strahu od vozila bez vozača.
"Važno je naglasiti kako nove tehnologije neće biti savršene a i trenutačni njihov status nije savršen. Istog dana kada se dogodila ova nesreća u nesrećama diljem SAD-a poginulo je 100 ljudi", naglasio je.
Svaki dan obilježi neka nova tragedija, no to ne znači da autonomna vozila nisu statistički sigurnija od onih kojim upravljaju vozači. Istraživanja su pokazala kako se čak 90 posto prometnih nesreća moglo spriječiti da su vozila bila na autonomnom upravljanju.
"Trebali bi biti zabrinuti zbog autonomne vožnje ali prestravljeni zbog konvencionalne vožnje", naglašava Smith.
Najvjerojatnije će sličnih slučajeva u budućnosti biti i više, posebno kada i više ovakvih automobila stigne na ulice. Abbas se nada kako će njihovi korisnici, umjesto da ih odbijaju voziti, tražiti i dobiti više informacija od proizvođača.
"Ovo je otvorilo i niz novih etičnih pitanja. Npr. vozim automobil i sudarit ću se, da li da spasim više ljudi ili da spasim svoju obitelj? Tko odabire u naše ime? Kako biraju i s kakvim brojevima raspolažu?", pita se Abbas i naglašava kako su ovo pitanja na koje bi odgovore trebali dobiti vozači bilo kojeg automobila.
Većina ispitanika u studiji iz 2016. godine smatra kako bi vozila bez vozača trebala 'raditi za opće dobro', tj. trebala bi spasiti veliki broj života u opasnim situacijama, čak i pod cijenu svog vozača. Ipak većina je odgovorila kako bi odabrali kupnju automobila koji će svoje putnike štiti pod svaku cijenu. Odgovor na ovo pitanje se dodatno komplicira ako su su automobilu djeca, kućni ljubimci ili vrijednosti.
Abba se nada kako će ova nesreća biti pritisak na kompanije da objave više informacija oko etičnosti u svom radu kako bi potrošači mogli donijeti odluku koja je najbolja za njih.
"Kada neka kompanija želi predstaviti neko vozilo, morat će odgovoriti na niz pitanja oko njegovih algoritama, performanci, što kao potrošači ne čujemo baš svaki dan", naglašava Abba.
