Tesla și capcana încrederii în sistemele de asistență: un expert avertizează
Un accident petrecut cu o mașină Tesla, cu sistemul Full Self-Driving (FSD) activat, a scos la iveală o problemă mai profundă decât defecțiunile tehnice. Raffi Krikorian, un fost șef al programelor de conducere autonomă de la Uber, a analizat modul în care sistemul FSD interacționează cu șoferii și a tras un semnal de alarmă: tehnologia, deși performantă, induce o încredere care poate reduce vigilența și poate duce la accidente. Cu alte cuvinte, problema nu este doar legată de funcționarea sistemului, ci de modul în care acesta modifică comportamentul uman.
Cum transformă FSD șoferii în pasageri
Krikorian explică, într-un eseu detaliat, că a început să folosească FSD pe autostradă, unde condițiile de rulare par mai simple și mai previzibile. Ulterior, a extins utilizarea și pe drumurile locale, convin să vadă că sistemul funcționează. Treptat, folosirea FSD a devenit un obicei. Accentul căzut de analiză sa nu este pe faptul că șoferul a adormit la volan sau a neglijat complet controlul mașinii, ci pe modul subtil în care un sistem, care funcționează bine în majoritatea timpului, schimbă comportamentul uman și reduce atenția șoferului, chiar și în momentele în care acesta crede că este vigilent.
Un alt aspect relevant este cel juridic. În cazul unui accident, responsabilitatea revine șoferului, deoarece FSD este clasificat ca nivelul 2 de asistență. Aceasta înseamnă că Tesla beneficiază de imaginea pozitivă a tehnologiei, dar șoferul suportă consecințele legale în cazul unui accident. „Când tehnologia funcționează, beneficiul de imagine merge către Tesla. Când lucrurile merg prost, răspunderea cade pe șofer”, explică Krikorian.
Supravegherea: o sarcină imposibilă pentru șoferi
Krikorian subliniază că Tesla cere oamenilor să supravegheze un sistem care face această supraveghere dificilă. Dacă o mașină este evident nesigură, șoferii rămân alertați. Dacă sistemul este complet autonom, nu mai există responsabilitatea de a supraveghea. Problema apare atunci când sistemul este suficient de bun pentru a induce o relaxare, dar nu suficient de perfect pentru a elimina intervenția umană. „Un sistem care merge bine în 99% din timp produce exact cea mai periculoasă combinație: suficientă încredere pentru relaxare și suficientă imperfecțiune pentru a cere reacții umane imposibil de rapide”, menționează expertul.
Acest fenomen este susținut de cercetări care arată că oamenii au nevoie de timp pentru a se reconecta mental la sarcinile de condus după ce au permis automatizării să funcționeze. Multe situații de urgență apar și se dezvoltă mai rapid decât acest interval de timp. În aceste cazuri, câteva secunde de întârziere pot fi diferența dintre un eveniment neplăcut și un accident.
Tesla și responsabilitatea: omul sau sistemul?
Krikorian nu este împotriva automatizării, ci critică abordarea „supervised self-driving”. El subliniază că Tesla, prin sistemul FSD, preia beneficiile de marketing ale autonomiei, dar lasă responsabilitatea finală în seama șoferilor. În plus, Krikorian atrage atenția asupra modului în care Tesla folosește datele colectate după accidente, care pot fi folosite pentru a transfera vina către șofer.
În contextul reglementărilor, Agenția Americană pentru Siguranța Traficului (NHTSA) a ridicat investigația asupra FSD la nivel de analiză inginerească, un pas care poate conduce la rechemări. Ancheta vizează modul în care sistemul gestionează vizibilitatea redusă și dacă alertele către șoferi sunt eficiente. În timp ce Tesla se confruntă cu aceste investigații, BYD, un producător auto din China, a anunțat că își asumă responsabilitatea pentru daunele cauzate de unele incidente legate de funcția de parcare autonomă, un exemplu despre cum funcționează responsabilitatea partajată.
Sursa: Playtech.ro
