De zelfrijdende auto, kwestie van algoritmes en ethiek

Geen betere locatie hiervoor dan de Automotive Campus in Helmond. Een campus aan de testlocatie A270 waar juist 5G is geïnstalleerd voor nog meer connectiviteit en een iVRI niet ontbreekt. 

Lex Boon, directeur van de Automotive Campus, legt uit dat de focus van de bedrijven en kennisinstellingen op deze campus zich richt op Smart Mobility, Data en Technologie, Educatie en Groene mobiliteit. Hoewel nog slechts een deel van de campus ontwikkeld is, bruist het er al van energie. 

Een kleine rondgang op de Campus brengt de deelnemers langs vestigingen van onderwijsinstellingen Fontys (hbo) Summa College (mbo) en MAC (Mbo Automotive Center), naar de soft- en hardwaretestomgevingen van TNO, inclusief dummy fietsers en voetgangers, en naar de controlekamer van het testbed Eindhoven-Helmond van Tass International. Bij TNO wordt onder meer bestudeerd welk effect het op inzittenden heeft als een zelfrijdend voertuig plotseling uitwijkt, terwijl bestuurders er niet op bedacht zijn. Een simulatie laat zien dat de fysieke effecten significant sterker zijn, dan wanneer bestuurders en inzittenden een manoeuvre zien aankomen. Tass toont een zelfrijdende auto die een parkeerplaats gaat zoeken als demo voor het ITS Europe Congress 2019 in Eindhoven-Helmond.

Algoritmes en ethiek

Trendwatcher en futuroloog Richard van Hooijdonk twijfelt niet aan de komst van zelfrijdende auto’s, vliegtuigen, treinen, boten en meer. “Ik hoor de Europese Commissie spreken over rijstroken voor zelfrijdende vrachtwagens en ik praat met de NS over het overstappen via sluisjes tussen twee naast elkaar rijdende treinen.”

Onderwijs op de schop

Die toekomst is realiteit, maar blijft niet ongemerkt, waarschuwt Van Hooijdonk. Deze ontwikkelingen hebben vergaande consequenties. We hebben bijvoorbeeld andere mensen nodig dan nu. Van Hooijdonk noemt: big-dataspecialisten, filosofen en ethische hackers. Hiervoor moet het onderwijs op de schop, want dat levert niet de skills die mensen in de toekomst nodig hebben.

Value of life

Dat zijn volgens Van Hooijdonk: passie, nieuwsgierigheid, kritisch denken, veerkracht (resilience), snel ideeën kunnen genereren en ethiek (‘hoe houden we iedereen gelukkig’). Want gaat het in de toekomst nog om geld (verdienen) als alles is geautomatiseerd of om andere waarden? Zo staat bijvoorbeeld ‘the value of life’ al ter discussie bij het programmeren van het zelfrijdende voertuig. Die neemt beslissingen op basis van algoritmes die uitgaan van zo min mogelijk slachtoffers maken, terwijl mensen het leven van kinderen mogelijk een hogere waarde toekennen dan die van ouderen.

Non-explaining algoritmes

Hoe vertaal je ethische dilemma’s waar een voertuig voor kan komen te staan in algoritmes? Daar heb je filosofen voor nodig, aldus Van Hooijdonk. Opmerkelijk, maar begrijpelijk vindt Van Hooijdonk dat de Europese Commissie spreekt over een verbod op non-explaining algoritmes. “De rekensnelheid van algoritmes is intussen waanzinnig, maar als overheid moet je kunnen begrijpen hoe iets wordt berekend om te kunnen reguleren.”

Regeerperiode

Nina Schaap, beleidsmedewerker bij de unit Smart Mobility van het ministerie van IenW zet een stap in het nu en geeft aan wat het ministerie in deze regeerperiode in gang wil zetten. Daarbij benadrukt ze dat er binnen het ministerie ook wordt nagedacht over de langere termijn. De actuele doelen zijn verwoord in de Kamerbrief van 4 oktober over ‘publiek-private samenwerking voor een veilig, vlot en duurzaam systeem voor verkeer en vervoer (smart mobility)’.

Deze ambities zijn vertaald in vier actielijnen: Stimuleren gebruik van bestaande producten en diensten (bijvoorbeeld door in samenwerking met de ANWB het online forum slimonderweg.nl op te zetten); Verantwoorde introductie van nieuwe generatie voertuigen (dit gaat onder meer over het rijbewijs van de zelfrijdende auto); Toekomstbestendige infrastructuur en wegbeheer (denk aan afspraken over beschikbaarheid en kwaliteit van digitale infra of de nieuwe generatie iVRI’s) en ten slotte het zorgvuldig benutten van data-uitwisseling en connectiviteit (onder meer in de Data Task Force).

5 levels

Hoewel de meningen verschillen over de snelheid waarmee de 5 levels van ‘zelfrijden’ hun intrede doen, horen Schaap en haar collega’s van verschillende fabrikanten berichten dat de stap van de huidige level 1 en 2-auto’s naar level 3 (de bestuurder wordt sterk ondersteund, maar is nog verantwoordelijk) ergens tussen 2021 en 2025 zijn intrede zou kunnen doen. “Wij zijn daarom nu al bezig met de randvoorwaarden, zegt Schaap, om op tijd klaar te zijn.”

“Het gaat bijvoorbeeld om functionele eisen voor toelating. Maar daarbij horen ook eisen aan gedrag, wat is veilig als je taken laat overnemen en weer terug moet nemen? Hoe zit het met de eisen die je stelt aan software-updates, waardoor een voertuig hele andere eigenschappen kan krijgen?”

Ook Schaap gaat in op de ethische vraagstukken die Van Hooijdonk noemde. Sommige vraagstukken zijn context of cultuurgevoelig. Ik vind het fijn als ik merk dat auto’s langzamer rijden als ze mij met mijn zoontje van twee zien. Willen we dan ook dat het zelfrijdende voertuig dat doet? En mag een zelfrijdende auto straks invoegen op een manier die misschien niet heel netjes is, of moet hij blijven wachten tot het helemaal veilig kan, zodat hij het systeem misschien wel laat vastlopen? Je komt in feite op de vraag: hoe willen we dat ons mobiliteitssysteem eruit ziet.”

Eén overheid

Als laatste randvoorwaardelijk aspect noemt Schaap de noodzaak van verdergaande samenwerking. Verschillende overheden (o.a. IenW, de G5 en verscheidene regio’s) trekken daarom nu al gezamenlijk op in de Krachtenbundeling Smart Mobility, waarin wordt samengewerkt om één front te vormen, om gebruik te maken van elkaars sterke punten en om kennis te delen. Over het toegankelijk maken van smart mobility kennis gaat Schaap in het voorjaar een sessie organiseren en roept iedereen op daarbij aan te sluiten: “Ik ga graag in gesprek.”

Historie

Nog een stap verder terug gaat Jan Wouters, manager innovatie en green mobility bij AutomotiveNL én directeur van het NCAD, het Nederlands Centrum voor Autohistorische Documentatie (ook op de Automotive Campus). Hij laat aan de hand van historische beelden zien dat ontwikkelingen soms grillig verlopen en vaak in de kern al een lange voorgeschiedenis kennen.

“We denken heel snel dat iets mogelijk is, maar we vergeten soms de impact van ontwikkelingen op andere sectoren. Bijvoorbeeld de effecten op economie, werkgelegenheid of het aanpassen van de infrastructuur. Een voertuig veranderen is niet moeilijk, maar een heel systeem veranderen is vaak erg complex.”

Automaatbak in 1939

“We leven in het moment en neigen ernaar de ontwikkelingen in het heden te overdrijven door groepsdenken en tunnelvisie. De ontwikkeling van de zelfrijdende auto is in feite al meer dan honderd jaar geleden gestart door steeds verder gaande automatisering van bestuurderstaken; de eerste auto met cruise control was er in 1959, en de eerste automaatbak in 1939. En het elektrische voertuig had ooit al een groter marktaandeel bereikt dan nu het geval is. Soms zijn er parallelle vragen of economische motieven waardoor ontwikkelingen anders lopen dan verwacht.” Wouters hoedt zich dan ook voor voorspellingen. De toekomst is niet te voorspellen. Tot 2030 kun je een beetje inschatten, maar tot 2050 is volstrekt onmogelijk.”

Le Mans

De campusexcursie van de deelnemers eindigt bij InMotion, een startup die met wisselende studententeams (dit jaar 35 studenten) werkt aan de derde versie van een elektrische raceauto met als doel om in 2023 de 24 uur van Le Mans volledig elektrisch uit te rijden. Alle aandacht richt zich op de koeling van batterijen, want voor deze race moet een oplaadsnelheid van 7,5 minuut worden gerealiseerd.