Hva er problemet med Tesla-biler og hvorfor anses programvaren som farlig?

Tesla, som har solgt sin kontroversielle Full-Self Driving-programvareoppgradering for tusenvis av dollar i årevis, har utstedt en tilbakekalling for alle de nesten 363 000 kjøretøyene som bruker funksjonen. Denne avgjørelsen kommer etter at et amerikansk myndighetsorgan advarte om at programvaren kan sette sjåfører i fare i sjeldne situasjoner og øke risikoen for krasj i hverdagsscenarier. Mens tilbakekallinger i bilindustrien vanligvis fokuserer på spesifikke deler eller veisituasjoner, er denne tilbakekallingen fra Tesla mer omfattende.

National Highway Traffic Safety Administration har uttalt at Full Self-Driving-programvaren kan bryte lokale trafikklover og oppføre seg på uventede måter i en rekke kjørescenarier.

Byråets arkivering lister opp flere situasjoner, inkludert å kjøre et gult lys i ferd med å bli rødt, unnlate å stoppe helt ved et stoppskilt, fart på grunn av manglende evne til å oppdage veiskilt, eller fordi sjåføren har satt bilen til en raskere hastighet som standard, og foreta uventede kjørefeltendringer for å bevege deg ut av kjørefelt med kun sving mens du kjører rett gjennom et veikryss. Mens en programvareoppdatering utvikles for å fikse disse problemene, vil drivere fortsatt kunne bruke funksjonen.

Disse scenariene, som er gjenstand for tilbakekallingen, ser ut til å være knyttet til en designfeil som noen sikkerhetseksperter mener har vært et grunnleggende problem med Teslas førerassistanseteknologi i noen tid. Denne feilen innebærer ideen om at sjåfører kan stole på programvaren for å kjøre bilen, men må være klare til å ta over med et øyeblikks varsel når programvaren trenger hjelp.

Ifølge Philip Koopman, en førsteamanuensis ved Carnegie Mellon University som spesialiserer seg på selvkjørende bilsikkerhet, fungerer ikke mennesker på denne måten. "Denne teknologien har en grunnleggende feil," forklarer han. "Du har kort reaksjonstid for å unngå disse situasjonene, og folk er ikke flinke til det hvis de er opplært til å tro at bilen gjør det rette." Bilen er designet for å varsle sjåføren med summing og pipelyd når den registrerer at menneskelig inngripen er nødvendig.

Koopman bemerker at dagens tilbakekalling indikerer at den amerikanske regjeringen tar små skritt mot å sette strengere grenser for ikke bare Teslas ambisiøse teknologi, men også for avanserte førerassistansefunksjoner fra alle bilprodusenter. Disse funksjonene er ment å gjøre kjøringen morsommere, mindre monoton og tryggere, men de krever også at bilprodusenter foretar vanskelige vurderinger om grensene for menneskelig oppmerksomhet og hvordan de skal fremme og beskrive teknologiens evner.

Tesla har tatt en distinkt tilnærming, ledet av sin administrerende direktør Elon Musk, for å unngå statlig tilsyn, irettesette lovgivere og i visse tilfeller utvikle teknologi raskere enn regulatorer kan overvåke. I følge en uttalelse gitt av Lucia Sanchez, en NHTSA-talsperson, identifiserte byrået bekymringene som førte til den nylige tilbakekallingen gjennom undersøkelser knyttet til en sonde startet i 2022. Undersøkelsen undersøkte hvorfor biler som bruker Teslas autopilot-funksjon har krasjet inn i stasjonært. utrykningskjøretøy.

Tesla informerte byrået denne uken om at kunder hadde sendt inn garantikrav som samsvarte med situasjonene fremhevet av NHTSA minst 18 ganger mellom våren 2019 og høsten 2022. Selskapet uttalte at det ikke var klar over noen skader eller dødsulykker knyttet til defektene identifisert av byrået , ifølge innleveringen.

Selv om Tesla ikke var enig i byråets analyser, gikk den med på å fortsette med tilbakekallingen uansett, ifølge NHTSA-filen. Programvarefeilene vil bli rettet gjennom en trådløs oppdatering snart, noe som betyr at sjåførene slipper å ta bilene inn for service. Tesla svarte ikke på en forespørsel om kommentar, og det er uklart hvilke endringer bilprodusenten vil gjøre i sin fulle selvkjørende funksjon. Elon Musk, administrerende direktør for Tesla, SpaceX og Twitter, twitret imidlertid at det å bruke begrepet "gjenkalling" for å referere til oppdateringen "er anakronistisk og rett og slett feil!"