Paniek bij Waymo: zelfrijdende taxi’s zien het verschil niet meer tussen weg en bouwplaats

Waymo is een zusterbedrijf van Google, maar heeft recent bijna 4.000 voertuigen teruggeroepen voor een software-update, nadat minstens 13 van zijn zelfrijdende taxi’s snelweggedeelten zijn opgereden die afgesloten waren vanwege wegwerkzaamheden.

De voertuigen reden de bouwzones in zonder te registreren dat de weg gesloten was, wat zowel gevaarlijk als wettelijk verboden is. Waymo bevestigde de terugroepactie tegenover het Amerikaanse technologiemedium TechCrunch.

“Vorige maand hebben we onze activiteiten op snelwegen vrijwillig beperkt om verbeteringen door te voeren.”

“We hebben de staats- en federale toezichthouders proactief geïnformeerd en besloten een vrijwillige software-terugroepactie uit te voeren bij de NHTSA.”

Voertuigen van Waymo reden bouwzones in

De NHTSA is de Amerikaanse verkeerveiligheidsautoriteit en in totaal werden zes incidenten gemeld in Phoenix en zeven in San Francisco. Als tijdelijke maatregel geldt voor alle teruggeroepen voertuigen een absoluut verbod op het rijden op snelwegen totdat een definitieve softwareoplossing is uitgerold.

Die maatregel klinkt drastisch maar is de enige betrouwbare manier om nieuwe incidenten te voorkomen zolang de onderliggende programmering nog niet is gecorrigeerd.

Het bedrijf verklaarde dat de robotaxi’s in de bouwzones reden omdat andere gevaren op de snelweg prioriteit kregen en de werkzone niet werd herkend. Dat is een technische verklaring voor wat in de praktijk een ernstig veiligheidsprobleem is.

De algoritmen kozen voor het vermijden van een direct gevaar en sloegen daarbij over het hoofd dat ze een verboden zone binnenreden. Dit is ook niet de eerste keer dat Waymo een terugroepactie uitvoert, het is inmiddels al de zesde keer.

Eerdere incidenten omvatten robotaxi’s die met hoge snelheid door overstroomde rijbanen reden, beperkte zijweggedeelten negeerden, bij schoolbussen aan het laden en lossen waren en frontaal op bergingswagens afkoersten die langs de weg stonden.

Elk incident leidde tot software-updates maar ook tot hernieuwde vragen over hoe zelfstandig de huidige generatie zelfrijdende voertuigen werkelijk is. Waymo is het meest geavanceerde commerciële, zelfrijdende taxisysteem ter wereld en rijdt op niveau 4 autonomie wat betekent dat er geen menselijke bestuurder aan boord is.

In San Francisco en Phoenix zijn de voertuigen al jaren actief in het normale stadsverkeer. Toch laten de terugroepacties zien dat zelfs de meest gevorderde systemen op de markt nog te maken hebben met scenario’s die de huidige AI-systemen niet goed aankunnen.

De terugkerende problemen illustreren een fundamentele uitdaging in de ontwikkeling van zelfrijdende voertuigen. Een systeem dat 99,9 procent van de rijsituaties correct afhandelt slaagt toch niet als het de resterende 0,1 procent in gevaarlijke omstandigheden mist.

Bouwzones vaker uitdaging gebleken

Bouwzones zijn wel vaker een uitdaging gebleken voor zelfstandige systemen, vanwege tijdelijke signalering, veranderende rijstrookindelingen en de aanwezigheid van werknemers en materieel, ondanks de uitdagingen zet Waymo haar plannen om uit te breiden voort.

Het bedrijf heeft meer dan twintig steden in bredere internationale visie opgenomen waaronder New York, Londen en Tokio. Elke stad brengt met haar eigen infrastructuur nieuwe uitdagingen met zich mee die de systemen moeten leren herkennen en verwerken.

Voor Nederlandse en Europese weggebruikers is de robotaxi vooralsnog toekomstmuziek, maar de Waymo-incidenten kunnen heel nuttig de herinnering bieden dat het rijden zonder chauffeur in de praktijk meer vergt dan goede algoritmen.

Het vergt ook foutloze herkenning van uitzonderlijke en tijdelijke verkeerssituaties zoals bouwzones, een terrein waarop de huidige technologie duidelijk nog stappen te zetten heeft.