Hvad er problemet med Tesla-biler, og hvorfor anses softwaren for farlig?

Tesla, som har solgt sin kontroversielle Full-Self Driving-softwareopgradering for tusindvis af dollars i årevis, har udstedt en tilbagekaldelse for alle de næsten 363.000 køretøjer, der bruger funktionen. Denne beslutning kommer efter, at et amerikansk regeringsagentur advarede om, at softwaren kunne bringe chauffører i fare i sjældne situationer og øge risikoen for nedbrud i hverdagsscenarier. Mens tilbagekaldelser i bilindustrien typisk fokuserer på specifikke dele eller vejsituationer, er denne tilbagekaldelse fra Tesla mere omfattende.

National Highway Traffic Safety Administration har udtalt, at Full Self-Driving-softwaren kan overtræde lokale færdselslove og opføre sig på uventede måder i en række forskellige kørselsscenarier.

Agenturets arkivering opregner flere situationer, herunder at køre et gult lys ved at blive rødt, undlade at standse fuldstændigt ved et stopskilt, hastighedsoverskridelse på grund af manglende evne til at opdage vejskilte, eller fordi chaufføren har indstillet bilen til en hurtigere hastighed som standard, og foretage uventede vognbaneskift for at bevæge sig ud af vognbaner, der kun drejer sig om, mens du kører lige gennem et vejkryds. Mens en softwarepatch udvikles til at løse disse problemer, vil drivere stadig kunne bruge funktionen.

Disse scenarier, som er genstand for tilbagekaldelsen, ser ud til at være forbundet med en designfejl, som nogle sikkerhedseksperter mener har været et grundlæggende problem med Teslas førerassistentteknologi i nogen tid. Denne fejl involverer ideen om, at chauffører kan stole på softwaren til at køre bilen, men skal være klar til at tage over med et øjebliks varsel, når softwaren har brug for assistance.

Ifølge Philip Koopman, en lektor ved Carnegie Mellon University, som har specialiseret sig i selvkørende bilsikkerhed, fungerer mennesker ikke på denne måde. "Denne teknologi har en grundlæggende fejl," forklarer han. "Man har en kort reaktionstid til at undgå disse situationer, og det er folk ikke gode til, hvis de er trænet til at tro, at bilen gør det rigtige." Bilen er designet til at advare føreren med summen og bip, når den fornemmer, at menneskelig indgriben er påkrævet.

Koopman bemærker, at dagens tilbagekaldelse indikerer, at den amerikanske regering tager små skridt i retning af at sætte strengere grænser for ikke bare Teslas ambitiøse teknologi, men også for avancerede førerassistentfunktioner fra alle bilproducenter. Disse funktioner er beregnet til at gøre kørslen mere behagelig, mindre ensformig og mere sikker, men de kræver også, at bilproducenter foretager svære vurderinger af grænserne for menneskelig opmærksomhed, og hvordan de kan fremme og beskrive deres teknologis muligheder.

Tesla har taget en særskilt tilgang, ledet af sin administrerende direktør Elon Musk, for at undgå regeringsovervågning, irettesætte lovgivere og i visse tilfælde udvikle teknologi hurtigere, end regulatorer kan overskue. Ifølge en erklæring fra Lucia Sanchez, en NHTSA-talsmand, identificerede agenturet de bekymringer, der foranledigede den nylige tilbagekaldelse gennem undersøgelser forbundet med en sonde, der blev indledt i 2022. Undersøgelsen undersøgte, hvorfor biler, der bruger Teslas autopilot-funktion, har en historie med at have styrtet ind i en stationær udrykningskøretøjer.

Tesla informerede agenturet i denne uge, at kunder havde indsendt garantikrav, der matchede de situationer, NHTSA fremhævede mindst 18 gange mellem foråret 2019 og efteråret 2022. Virksomheden oplyste, at det ikke var bekendt med nogen skader eller dødsfald forbundet med de defekter, som agenturet havde identificeret , ifølge sagen.

Selvom Tesla ikke var enig i agenturets analyser, gik man med til at fortsætte med tilbagekaldelsen uanset, ifølge NHTSA-arkiveringen. Softwarefejlene vil snart blive rettet gennem en trådløs opdatering, hvilket betyder, at chauffører ikke skal tage deres køretøjer ind til service. Tesla svarede ikke på en anmodning om kommentar, og det er uklart, hvilke ændringer bilproducenten vil foretage på sin fulde selvkørende funktion. Elon Musk, administrerende direktør for Tesla, SpaceX og Twitter, tweetede imidlertid, at det at bruge udtrykket "tilbagekaldelse" til at henvise til opdateringen "er anakronistisk og bare helt forkert!"