Autonieuws

Tesla denkt dat de bestuurder oplet, maar ziet in werkelijkheid een poppenhoofd

Tesla denkt dat de bestuurder oplet, maar ziet in werkelijkheid een poppenhoofd
Door Nathan van Jaarsveld Vandaag om. 14:15

Tesla-bestuurders in China hebben een nieuwe manier gevonden om de aandachtssystemen van hun auto te misleiden.

Met kleine kunststof hoofdjes van slechts enkele centimeters groot proberen zij het camerasysteem van Tesla’s rijhulpsystemen te laten geloven dat de bestuurder voortdurend naar de weg kijkt. De truc zorgt voor nieuwe zorgen over de veiligheid van geavanceerde rijassistentiesystemen.

Een video die de afgelopen dagen veel werd gedeeld op sociale media laat zien hoe zo’n miniatuurhoofdje strategisch voor de interieurcamera wordt geplaatst.

Door de juiste hoek lijkt het voor de camera alsof de bestuurder zelf recht vooruit kijkt, daardoor zou het systeem kunnen denken dat de bestuurder alert is, zelfs wanneer die wegkijkt of tijdelijk niet op het verkeer let.

De hoofdjes zijn volgens het Amerikaanse technologiemagazine Wired eenvoudig verkrijgbaar via Chinese online marktplaatsen zoals Taobao, Xianyu en Douyin.

De prijzen liggen omgerekend tussen ongeveer 8 en 35 euro en vaak gaat het om 3D-geprinte miniaturen van bekende Chinese of internationale beroemdheden. Verkopers bevestigen dat de accessoires specifiek bedoeld zijn om de camera van Tesla te misleiden.

Koelkast, karaoke en massages: Chinese auto’s lijken steeds meer op een woonkamer

Lees ook: Koelkast, karaoke en massages: Chinese auto’s lijken steeds meer op een woonkamer

Systeem bekijkt richting van het hoofd en ogen

Tesla gebruikt interieurcamera’s om te controleren of bestuurders voldoende aandacht besteden aan het verkeer wanneer functies zoals Autopilot of andere rijhulpsystemen actief zijn.

Het systeem kijkt onder meer naar de richting van het hoofd en de ogen van de bestuurder, wanneer iemand te lang wegkijkt volgt eerst een waarschuwing en als die waarschuwing wordt genegeerd kan Tesla bepaalde functies uitschakelen.

In China is Tesla’s Full Self-Driving-systeem, net als in veel Europese landen, niet volledig toegestaan. Wel zijn verschillende rijhulpfuncties beschikbaar waaronder adaptieve cruisecontrol, automatische stuurondersteuning en op bepaalde wegen uitgebreide Autopilot-functionaliteit. Juist daarom is actieve aandacht van de bestuurder verplicht.

Artikel gaat verder onder de tweet.

De kunststof hoofdjes zijn overigens niet de enige methode die wordt gebruikt. Er gaan ook speciale kaarten rond met wisselende afbeeldingen die afhankelijk van de kijkhoek een andere gezichtsuitdrukking tonen.

Sommige gebruikers proberen daarmee knipperende ogen na te bootsen, daarnaast zijn er meldingen van kleine videoschermen die voor de camera worden geplaatst en voortdurend beelden van een oplettende bestuurder afspelen.

Verkeersveiligheidsexperts reageren bezorgd op deze ontwikkelingen, het doel van de interieurcamera is namelijk om te voorkomen dat bestuurders te veel vertrouwen op geautomatiseerde systemen.

Hoewel moderne rijhulpsystemen steeds geavanceerder worden, blijven ze afhankelijk van menselijk toezicht. Diverse onderzoeken en incidenten uit het verleden hebben aangetoond dat bestuurders nog altijd moeten kunnen ingrijpen wanneer de technologie fouten maakt.

Bestuurders moeten nog altijd kunnen ingrijpen

Op sociale media wordt daarnaast betwijfeld hoe effectief de miniatuurhoofdjes werkelijk zijn. Sommige gebruikers wijzen erop dat Tesla’s software normaal gesproken ook oogbewegingen en knipperen detecteert.

Een stilstaand kunststof hoofd zou daardoor niet langdurig moeten werken. Anderen stellen echter dat het bestaan van dergelijke hulpmiddelen al aantoont dat het systeem kwetsbaarheden heeft, Tesla heeft nog niet publiekelijk gereageerd op de verspreiding van de 3D-hoofdjes.

Wel is het waarschijnlijk dat het bedrijf software-updates zal blijven ontwikkelen om dergelijke trucs te herkennen. Autofabrikanten staan namelijk onder toenemende druk van toezichthouders om aandachtssystemen betrouwbaarder te maken.

Het incident laat zien hoe creatief gebruikers omgaan met veiligheidsvoorzieningen. Tegelijkertijd wordt het ook pijnlijk duidelijk hoe belangrijk goede controlemechanismen zijn, nu auto’s steeds meer taken van de bestuurder kunnen overnemen.

De 5-minutenlader van BYD kost nog geen 60 cent

Lees ook: De 5-minutenlader van BYD kost nog geen 60 cent

Lewis Hamilton stuurt waarschuwing naar George Russell vlak voor GP van Barcelona

Lees ook: Lewis Hamilton stuurt waarschuwing naar George Russell vlak voor GP van Barcelona

Laatste nieuws

Lees meer nieuws