Zelfrijdende Uber besloot zelf om dakloze dood te rijden

Een van de doelen van zelfrijdende auto's is dat ze ervoor zorgen dat er geen ongelukken meer gebeuren. Daarom is het nogal lullig dat er bij de eerste tests al een dode is gevallen. Op een vrij knullige manier, dat mag erbij gezegd worden.

De politie van het stadje Tempe in Arizona sprak de zelfrijdende Uber onlangs vrij van schuld omdat de voetganger die doodgereden werd door de autonome Volvo XC90 zomaar uit het niets tevoorschijn kwam. De redenering daarbij was dat een gewone bestuurder haar ook niet had gezien en de dakloze vrouw met fiets eveneens had verpletterd. Leuke verklaring natuurlijk, maar wel fout. Het idee is immers dat sensors beter kunnen zien dan mensen en dat de Uber de vrouw juist wel had moeten zien.

De software en de sensors van de autonome Volvo van Uber blijken de vrouw wel gezien te hebben. Wat is er dan in hemelsnaam misgegaan dat de auto het niet nodig achtte om in te grijpen?

De software heeft volgens The Information een foutmarge gekregen waarbinnen de software mag bepalen of iets een echt object is of iets dat genegeerd mag worden. Blijkbaar had niemand de computer voorbereid op het fenomeen 'voetganger naast fiets' want de auto herkende het geheel niet. Het systeem was niet voorbereid op kruisend verkeer op een doorgaande weg. Tja, dat is wel een hele makkelijke manier van dingen classificeren. Het is maar goed dat de zelfrijdende systemen niet in de fietsrijke omgevingen van Nederland worden getest. En inwoners van drukke steden in India, Thailand of Vietnam kunnen helemaal hun borst natmaken voor de komst van zelfrijdende auto: object rijdt aan de verkeerde kant van de straat; kan dus platgereden worden.

Om te voorkomen dat Ubers autonome voertuigen zich echt ontwikkelen tot Judge Dredd die kleine overtredingen met de dood bestraft is er een oplossing bedacht. Het taxibedrijf heeft Christopher Hart aangenomen als adviseur op het gebied van 'veiligheidscultuur'. Hart is voormalig voorzitter van de National Transportation Safety Board (NTSB) en weet daarom veel van fouten die ontwikkelaars van nieuwe systemen (niet meer moeten) maken.

Meteen na het ongeval trok de gouverneur van Arizona de verstrekte vergunning voor autonoom rijden in. De nieuwe feiten zijn overigens nog geen reden geweest om dat verbod weer in te trekken. Uber moet naar andere staten uitwijken om de Volvo's weer de weg op te brengen.