VIDEO. Dit is wat Tesla's Autopilot daadwerkelijk ziet

Parijs is misschien wel een van de verschrikkelijkste steden om doorheen te moeten rijden. De Frambozen staan niet bepaald bekend om hun geweldige rijstijl, waardoor het een wonder is als je er zonder schade vandaan komt. Waarschijnlijk hebben Tesla-hacker verygreen en kompaan DamianXVI precies om die reden de altijd chaotische stad uitgekozen om te laten zien wat de Autopilot ziet.

Laten we gelijk maar met de deur in huis vallen: nee, de beelden zijn niet geschoten in een Tesla die zichzelf bestuurde. Dat zou te gevaarlijk zijn in een stad als Parijs. In dit geval zat er een bestuurder achter het stuur. Daarnaast zijn de getoonde beelden niet per se de beelden die de ontwikkelaars bij Tesla ook zien. De hackers moesten werken met ruwe data en hebben ervoor gekozen om dit op deze manier weer te geven op het originele beeld. Een korte uitleg over de kleuren is daarom wel handig: het groene vlak vertegenwoordigt begaanbare wegdelen, de lijnen geven de wegbelijning of andere grenzen aan, en de verschillend gekleurde vierkanten laten zien wat het systeem oppikt als zijnde voertuigen, voetgangers, fietsers en ga zo maar door. Vooral hierbij gaat het nog wel eens fout.

Omdat meneer verygreen zich ook kan voorstellen dat u zich niet door een 20-minuten durende video vol normaal Frans verkeer worstelt, heeft hij een lijst van opvallende gebeurtenissen gemaakt.

01:17 – traffic cones shape driveable space
01:31 – construction equipment recognized as a truck (shows they have quite a deep library of objects they train against? Though it’s not perfect, we saw some common objects not detected too. Notably a pedestrian pushing a cart (not present in this video)
02:23 – false positive, a container mistaken for a vehicle
03:31 – a pedestrian in red(dish?) jacket is not detected at all. (note to self, don’t wear red jackets in Norway and California, where Teslas are everywhere)
04:12 – one example of lines showing right turn while there are no road markings of it
06:52 – another false positive – poster mistaken for a pedestrian
08:10 – another more prominent example of showing left turn lane with no actual road markings.
09:25 – close up cyclist
11:44 – roller skater
14:00 – we nearly got into accident with that car on the left. AP did not warn
19:48 – 20 pedestrians at once (not that there was shortage of them before of course)

Zoals Tesla zelf ook al meerdere malen heeft aangeven is de Autopilot niet geschikt voor gebruik in de stad. Iets dat goed opvalt als u het bovenstaande beeld vergelijkt met de onderstaande video die de hackers op de snelweg schoten. Hier heeft de software het zichtbaar een stuk makkelijker met het interpreteren van de omgeving.

Het is niet de eerste keer dat we beeld van de Autopilot, of vergelijkbare systemen, te zien krijgen. Tesla en
Waymo hebben beide beelden van hun automatischepilotensoftware vrijgegeven, maar zoals de hackers aangeven, is dit de eerste keer dat we beelden te zien krijgen die niet eerst langs de PR-afdeling gegaan zijn. De video's geven dus een beter beeld van de echte werking van het systeem.

Ter verduidelijking: de Autopilot werkt niet met het beeld hierboven. Dat is door de hackers zo opgesteld om het voor ons mensen duidelijk te maken wat de software ziet en wat deze identificeert. De Autopilot laat het camerabeeld achterwege en werkt alleen met de data. Dat ziet er ongeveer zo uit.