Onderzoekers: autonomie niet mogelijk omdat u verkeerd oversteekt

De autonome auto is nog niet klaar voor stadsverkeer. Ook bij de ontwikkelaars van dit soort technologieën is dit hard binnen gekomen na het fatale ongeluk met de Uber eerder dit jaar. Uber en Googles Waymo hebben hun plannen al wat naar achter geschoven in verband met dit soort dodelijke veiligheidsproblemen. Maar niet iedereen is het daarmee eens. Volgens Andrew Ng, een bekende machine learning researcher en eigenaar van startup Drive A.I. Hij liet aan Bloomberg weten dat mensen geleerd moet worden om te gaan met zelfrijdende auto's, en niet andersom.

Ng geeft ook keiharde argumenten zoals de komst van treinen. Toen deze begonnen te rijden leerden mensen heel snel dat je niet zomaar over een overgang moest rennen omdat het dan behoorlijk fout ging. Of de typisch Amerikaanse schoolbussen: mensen houden er tegenwoordig rekening mee dat er kleine mensjes over de straat kunnen rennen als de bus stilstaat om de kinderen uit te laten stappen. Ze rijden dus langzamer voorbij de bussen als ze stilstaan. Kortom: in het verleden hebben mensen zich leren aanpassen aan nieuwe ontwikkelingen in het verkeer, dat moeten ze nu ook doen.

Andrew is niet de enige die er zo over denkt. Shuchisnigdha Deb, Advanced Vehicular Systems-onderzoeker aan de Universiteit van Mississippi State vindt dat mensen opgeleid moeten worden in het omgaan met de zelfrijdende auto's. Ook oprichter van de Londense startup Humanising Autonomy Maya Pindeus denkt er hetzelfde over. Zij geeft zelfs een concreet voorbeeld van hoe we het zouden kunnen doen: Duitsland probeerde het aantal verkeersdoden door domme oversteekacties te verminderen met publieke campagnes. Deze begonnen in 1970, toen er nog 6.000 doden vielen door verkeerd oversteken, en liepen door tot 2016 toen er nog 'maar' 500 doden vielen.

Als je naar de aangehaalde voorbeelden kijkt, lijkt het helemaal niet zo'n raar idee om mensen te leren omgaan met zelfrijdende auto's. Maar het creëert het beeld dat de de bedrijven die bezig zijn met autonome auto's hun onkunde willen afschepen op voetgangers die het fout doen. En precies dat willen die bedrijven natuurlijk voorkomen, want ze staan al op achterstand als het aankomt op hun publieke imago. Dit komt doordat het vergrootglas ligt op de fouten die gemaakt worden tijdens het testen.

Op dit moment lijkt het testen van autonome auto's zelfs nog lastiger dan het zou moeten zijn. Dit komt doordat mensen zich niet normaal gedragen als ze een dergelijke auto voorbij zien komen. Waymo heeft al aangegeven dat hun auto's regelmatig onderdeel zijn van een 'prank' waarbij pesters de auto volgen, inhalen en vervolgens ervoor springen om te kijken hoe de auto reageert. Door dit gedrag wordt de vooruitgang belemmerd.

Omdat mensen dus eigenlijk ongewenst zijn in de hele autonome wereld, worden er nu stappen genomen om deze bewegende vleeszakken te laten doen wat de robots willen. Drive A.I. heeft al zijn testauto's bijvoorbeeld feloranje geschilderd en volgehangen met LCD-schermen. Hiermee vallen de auto's extra op en kunnen de mensen er omheen er extra rekening mee houden. De LCD-schermen geven vervolgens aan waar de auto mee bezig is en wat het gewenste gedrag van de vleeszak is. Als hij stil staat voor een zebrapad staat er bijvoorbeeld "waiting for you to cross" op de schermen. Waardoor de overstekende mens precies weet waar hij aantoe is.

Uber gaat nog een stapje verder en heeft patenten aangevraagd op een systeem dat allerlei lichten laat flitsen en een hologram voor de auto projecteert waarmee duidelijk gemaakt wordt wat de auto gaat doen. Shuchisnigdha vergelijkt deze ontwikkelingen met het piepje dat men hoort als een vrachtwagen achteruit gaat. Je leert er immers van wat je moet doen als je zoiets hoort.

Natuurlijk zullen de mensen uiteindelijk leren omgaan met auto's die uit zichzelf rondrijden. Maar of dit moet gebeuren doordat de auto's zelf duidelijk aangeven wat ze moeten doen, zodat de zelfdenkende mens dit kan negeren omdat hij op zijn telefoon kijkt, is misschien niet de beste oplossing. Pindeus vindt ook dat mensen moeten leren, maar zet er harder op in dat de softwareschrijvers dat meer doen. De auto's moeten nonverbale handelingen van mensen leren interpreteren en daarop kunnen gaan inspelen. Het probleem ligt bij haar dan ook bij de systemen die op dit moment gebruikt worden. Deze kijken voornamelijk ver van de auto en zien alle dingen die dichtbij gebeuren over het hoofd.

Al met al lijkt het vooral erg makkelijk om de toekomst van de autonome auto van mensen of software te laten afhangen. Beide partijen zijn onlosmakelijk met elkaar verbonden in deze kwestie en zullen dus ook beide stappen moeten maken om de volledig autonome auto werkelijkheid te laten worden. De beschuldigende vinger naar menselijk gedrag wijzen, is in ieder geval een stap in de verkeerde richting.