Autopilot si dilema: pe cine „omori” – soferul sau pietonii?

Masinile autonome inceteaza deja sa mai fie o fantezie: pe sosele apar automobile cu mod autopilot, care pot rula fara interventia omului. Pasionatii auto sunt inca mai interesati de indicatorii traditionali – viteza, puterea, confortul. Ei compara cu entuziasm, de exemplu, supersedanurile germane BMW M5 F90 si Mercedes-AMG E63 S dupa caracteristici. Insa odata cu aparitia autopilotului, in prim-plan apare o tema cu totul diferita – etica si siguranta. Ce ar trebui sa faca masina atunci cand accidentul nu poate fi evitat?

Nu mai este o intrebare teoretica din manuale, ci o problema reala pe drum. Sa ne imaginam situatia: o masina fara sofer ruleaza in viteza si, brusc, in fata ei apare un grup de oameni pe trecerea de pietoni. E prea tarziu pentru franare. Exista doua variante: sa vireze si sa se izbeasca de un perete (sacrificand soferul) sau sa continue si sa loveasca pietonii. Algoritmul de inteligenta artificiala este programat pentru o anumita decizie – iar de aceasta decizie depind vieti.

Filosofii numesc o astfel de alegere tragica „problema tramvaiului”. Candva era doar un experiment imaginar: sa deviezi un tramvai scapat de sub control pe o alta linie, pentru a salva cinci oameni cu pretul vietii unuia? Acum, o dilema similara apare in fata inteligentei artificiale pe sosea – iar deciziile ei vor avea consecinte reale.

• Sa salveze pasagerul. Sa continue deplasarea, protejand soferul, in ciuda riscului pentru grupul de pietoni.
• Sa salveze pietonii. Sa directioneze masina spre un obstacol sau spre acostament, sacrificand viata celui din interior.
• Sa nu aleaga constient. Sa evite un algoritm special de selectie – adica sa programeze minimizarea daunelor fara tintire, lasand practic evenimentele sa evolueze spontan.

Unii pot obiecta ca inteligenta artificiala va fi atat de „desteapta” incat va gasi intotdeauna o a treia iesire, sigura. Dar acesta e mai degraba un mit. In realitate, nici cei mai moderni senzori si nici cele mai avansate programe nu pot anula legile fizicii si elimina toate riscurile. Situatiile critice tot vor aparea. Asadar, mai devreme sau mai tarziu, masina se poate afla in fata alegerii: pe cine sa protejeze cu pretul altei vieti.

Omenirea inca nu a gasit un raspuns unic, corect, la aceasta dilema. Totusi, cercetarile sociologice ofera o perspectiva interesanta. Sondajele arata: majoritatea respondentilor sunt de acord ca, intr-o situatie extrema, o masina autonoma ar trebui sa sacrifice pasagerul pentru a salva un grup de oameni. Insa aceiasi oameni recunosc ca nu si-ar dori sa circule intr-o masina care, in caz de pericol, i-ar sacrifica in mod constient pentru viata altora. Acest paradox poate deveni un obstacol in calea introducerii masinilor fara sofer pe sosele.

Iata un rezultat sugestiv al unuia dintre studiile de opinie despre „dilema autopilotului”:

Dupa cum vedem, societatea isi doreste simultan ca soferii-robot sa salveze cat mai multe persoane si, in acelasi timp, nu vrea sa-si asume riscul personal. Acest decalaj dintre interesul moral si cel personal creeaza o dilema pentru producatori si autoritati. Fiindca oricum ai programa algoritmul – decizia va fi controversata si poate provoca indignare.

Cine ajunge la inchisoare daca o masina fara sofer provoaca un accident?

Daca totusi o masina pe autopilot a provocat un accident cu consecinte fatale – pe cine pedepsim? Aceasta intrebare nu este mai putin complicata decat alegerea morala. Primele semnale de alarma au aparut deja. De exemplu, in 2018, un vehicul autonom de test Uber a lovit mortal un pieton; sunt cunoscute si alte accidente mortale in care a fost implicata Tesla pe autopilot. Astfel de cazuri, in care conduce un computer, pun sub semnul intrebarii principiul traditional conform caruia toata vina revine soferului.

In situatia cu un „robo-sofer”, sunt posibile abordari diferite pentru stabilirea vinovatului. Sa analizam principalele scenarii:

1. Proprietarul (pasagerul) masinii. Logica: el se afla in habitaclu si a activat modul autopilot. Poate ca trebuia sa supravegheze deplasarea si sa intervina – deci poarta o parte din vina pentru inactiune.
2. Dezvoltatorul programului (algoritmului). La urma urmei, programatorii au implementat modelul de comportament care a dus la tragedie. Ar trebui inginerii sa raspunda penal pentru consecintele deciziilor codului lor?
3. Compania producatoare a masinii. Firma care a lansat vehiculul autonom poate ca nu a prevazut toate riscurile sau a facut economii la senzori. Poate raspunde producatorul (prin conducere) ca persoana juridica – de exemplu, prin procese si amenzi.

Deocamdata nu exista o norma legala clara in aceasta privinta. In majoritatea tarilor in care se testeaza masini autonome, responsabilitatea este pusa pe omul de la volan. Pentru ca sistemele actuale de autopilot (nivel 2–3) cer ca soferul sa ramana atent. Astfel, in cazurile Tesla, instantele il considera de cele mai multe ori vinovat pe soferul care a supraestimat capabilitatile autopilotului si nu a intervenit cand era necesar.

Insa odata cu aparitia masinilor complet autonome (nivel 4–5), apare logic nevoia de a muta vina catre creatorii tehnologiei. In Germania, Comisia nationala de Etica pentru condus automatizat a decis inca din 2017: daca omul nu mai controleaza masina, atunci responsabilitatea pentru actiunile ei nu o poarta pasagerul, ci producatorul sau operatorul sistemului. Unii producatori auto sunt chiar pregatiti sa-si asume aceasta responsabilitate – de exemplu, Volvo a promis public ca va prelua intreaga vina atunci cand masinile sale vor rula in mod autonom.

Mutarea vinei asupra companiei are plusuri si minusuri. Pe de o parte, proprietarii vor avea mai multa incredere in autopilot daca stiu ca nu vor fi facuti „tapi ispasitori” in caz de accident. Pe de alta parte, producatorii se tem sa-si asume intreaga vina, deoarece acest lucru ameninta cu procese de milioane si chiar cu raspundere penala pentru persoanele lor de decizie. Este posibil sa fie introduse polite de asigurare speciale sau limitari juridice pentru a echilibra aceste riscuri.

In ciuda tuturor acestor incertitudini, tehnologiile de condus autonom nu stagneaza. Noile modele de masini primesc „creiere” tot mai inteligente. De exemplu, crossoverul electric Volkswagen ID.4 este echipat cu pachetul Travel Assist pentru deplasare semiautonoma, iar soferii acestui model pot creste confortul si utilitatea prin instalarea diferitelor accesorii pentru Volkswagen ID.4. Conducerea complet autonoma (nivel 5) ramane deocamdata o chestiune a viitorului. Prin urmare, discutiile despre algoritmi morali si responsabilitate juridica vor continua – societatii ii trebuie timp pentru a ajunge la un consens.

Asadar, dilema morala a autopilotului nu are inca o rezolvare clara. Sa programam masinile sa salveze majoritatea cu pretul pasagerului sau sa-si protejeze propriul sofer in orice conditii? Pe cine pedepsim pentru greselile inteligentei artificiale – inginerii, proprietarii sau, poate, pe nimeni? Asupra acestor intrebari reflecteaza filosofi, juristi si chiar producatorii. Poate ca in curand va trebui sa revizuim principiile consacrate ale eticii si responsabilitatii in trafic. Pentru ca atunci cand la volan este un computer, atat deciziile, cat si vina capata un sens cu totul nou – unul cu care omenirea abia urmeaza sa invete sa traiasca.