Nieuwsberichten en artikelen over autonome voertuigen volgen elkaar in rap tempo op. Google heeft de pers een tijdje gedomineerd, maar inmiddels laten ook Mercedes en BMW zich niet onbetuigd. De techniek is er en de nieuwste voertuigen kunnen het ook zonder 360 graden ingemeten wereldkaart af. Zijn autonome voertuigen en de bijbehorende beloftes van veiliger verkeer en minder files dan echt binnen handbereik? Of stellen we de zaken met z’n allen net iets te simpel voor?
In zijn hoofdwerk Logica van het gevoel verhaalt de cultuurfilosoof en kennistheoreticus Arnold Cornelis over de stabiliteitslagen in de cultuur en de nesteling van emoties in deze lagen. Ieder mens heeft een eigen logica van het gevoel, aldus Cornelis. Meestal blijft het bij een gevoel, maar als er problemen zijn dan is het belangrijk die verborgen logica te doorgronden. Die is genesteld in drie stabiliteitslagen, die in feite voor de groeistadia van een mens en de samenleving staan. De eerste laag is het natuurlijke systeem, de verborgen mens. Cornelis spreekt over de verborgen mens om aan te geven dat deze zichzelf niet stuurt: hij neemt waar, maar leert niet en zal zich zichzelf of de omgeving ook niet actief veranderen. Die mens, maar ook de maatschappij die zich in de eerste laag bevindt, is op zoek naar veiligheid en geborgenheid. Projecteren we deze laag op voertuigen – u begrijpt nu waar we naartoe gaan – dan is dit het fysisch-mechanische voertuig met verbrandingsmotor en passieve veiligheidsconstructies.
De tweede stabiliteitslaag betreft het sociale regelsysteem, de zwijgende mens. In deze laag zijn mensen wel in staat te leren, maar wat zij leren is handelen. De structuur voor dat handelen wordt bepaald door de normen van het sociale regelsysteem: het natuurlijke systeem uit de eerste laag is nu ingepast in wetten en regelgeving. Merk op dat de tweede laag mensen nog geen mogelijkheid biedt tot zelfsturing. Alles is gereguleerd, mensen bewegen zich binnen de wetten en de vastgestelde normen. In termen van voertuigen zijn dit de slimme systemen voor bestuurdersondersteuning, zoals lane departure warning of autonomous cruise control. En wellicht de eerste generatie autonome voertuigen.
De derde stabiliteitslaag betreft de communicatieve zelfsturing, de communicatieve zelfsturende mens. Deze sturende mens zet zijn emoties om in een sturingslogica en die wordt nu het voorwerp van communicatie. Door communicatie wordt een wereld van mogelijkheden geopend. De gespecialiseerde mensen uit het sociale regelsysteem ontdekken dat zij elkaar nodig hebben om daadwerkelijk te leren en tot nieuwe inzichten en oplossingen te komen. De werkelijkheid is te complex om door één persoon begrepen te worden. In termen van voertuigen zijn dit de coöperatieve, autonome voertuigen die samen tot een veiliger wegverkeer en een betere benutting van de weginfrastructuur komen.
Wanneer we de logica van het gevoel volgen dan moeten autonome voertuigen ‘op hun gevoel’ complexe situaties kunnen doorgronden en in interactie met elkaar tot passende oplossingen komen – dát zijn de voertuigen waar we naar streven. Of zoals Maarten Sierhuis, directeur van het Nissan Research Centre in Silicon Valley, het verwoordt: “Automakers moeten zelfrijdende auto’s leren ontwerpen, die niet alleen begrijpen hoe mensen een voertuig in het verkeer besturen, maar die diezelfde mens ook kunnen nabootsen.” De automotive industrie moet een verandering in denken maken van de auto als fysisch-mechanisch systeem naar een autonoom, communicatief systeem dat het gedrag van mensen begrijpt en kan repliceren.
En dan blijken mensen iedere dag weer heel veelzijdig te zijn. Bij onverwachte weg- of verkeerssituaties waarschuwen voertuigbestuurders elkaar door lichtsignalen te geven met voorlichten of knipperlichten. Mensen pikken dit soort signalen snel op, maar voor autonome voertuigen zijn ze niet zomaar één-twee-drie te bevatten. Bij oversteekplaatsen maken voetgangers en fietsers oogcontact met de bestuurders van voertuigen om elkaars intenties – wel niet oversteken, wel of niet voorrang geven – te leren begrijpen. Hoe kan een autonoom voertuig de intenties van voetgangers en fietsers leren begrijpen? Professor Berthold Färber van de Universiteit van München stelt dat juist dit soort informele communicatiemethoden een significante rol spelen in het dagelijkse verkeer.
Voertuigbestuurders, of beter weggebruikers in het algemeen, blijken ook patronen te herkennen en te onthouden in het handelen van typen mensen en voertuigen. Ze herkennen en anticiperen op de verschillen in rijstijl tussen sportauto’s en sedans. Ze herkennen en anticiperen op verschillen in voortbewegen tussen kinderen en bejaarden. Een autonoom voertuig moet deze patronen leren herkennen, maar om voldoende voorspelbaar te zijn voor de overige weggebruikers, zal het autonome voertuig deze patronen ook moeten borgen in het eigen rijgedrag.
Niet alleen human factors worden zo in en heel ander daglicht geplaatst. Ook de wijze waarop voertuigen worden ontworpen, gaat kantelen. Software krijgt een veel prominentere plek in het voertuigontwerp en dan met name de software die menselijk gedrag kan nabootsen.
Autonome voertuigen vragen om een ethisch kader
Een goede beoordeling van de weg- of verkeerssituatie kan voertuigbestuurders soms nopen tot het bewust overtreden van de wet- en regelgeving. Zien we bijvoorbeeld dat er lading van een aanhangwagen is afgevallen en de verkeerssituatie staat het toe, dan wijken we zonder meer uit naar de rijstrook van het tegemoet komende verkeer en passeren het obstakel. Wat gaat een autonoom voertuig doen? Wat mag het doen? Mag het net als een mens de wet tijdelijk overtreden of stopt het netjes voor het obstakel met het risico dat er auto’s achterop rijden? Mag het met een defecte koplamp de rit toch afmaken, net als mensen doen, of moet het dan langs de kant van de weg gaan staan ook al is de verkeersveiligheid daar niet mee gediend? Algemener gesteld, kunnen we autonome voertuigen vertrouwen op onze wegen, simpelweg omdat ze geprogrammeerd zijn om de wet- en regelgeving strikt te volgen en onder alle omstandigheden botsingen te voorkomen?
Een stap verder dan het juridische kader reikt de ethiek. Het punt is niet alleen dat de bestaande wet- en regelgeving nog tekortschiet wanneer het om autonome voertuigen gaat. Het zal ook moeilijk (zo niet onmogelijk) zijn alle mogelijke situaties die zich voor kunnen doen en de gepaste reactie bij die situaties in wet- en regelgeving te vatten. Dat is nu ook al zo. We gaan er stilzwijgend vanuit dat mensen in staat zijn – zeker met het toenemen van de rijervaring – in fracties van een seconde een goede beslissing te nemen in situaties die ze niet eerder hebben ervaren. Mensen grijpen daarbij terug op hun ethisch besef. Resulteert het handelen dat volgt op die beslissing toch in een ongeval dan zijn ze zelf verantwoordelijk. Hoe zit dit met autonome voertuigen?
Laten we eens een extreem voorbeeld nemen. Een opa en zijn kleinkind wandelen ieder aan de andere kant van de weg. Ze zien elkaar en herkennen elkaar. Het kleinkind steekt spontaan over om zijn opa te begroeten en vergeet op het verkeer te letten. De autonome auto die aan komt rijden ziet het kind, maar weet ook dat de remweg te lang is om tijdig te stoppen. De autonome auto staat dan voor de keuze het kind aan te rijden, de stoep op te rijden en de opa aan te rijden of de andere stoep op te rijden en een wandelend echtpaar aan te rijden. Een menselijke voertuigbestuurder neemt zo’n besluit in een fractie van een seconde en legt later verantwoording af aan de politie en eventueel de rechter. Is bij het programmeren van de autonome auto niet in deze situatie voorzien, dan zal de autonome auto eveneens in een fractie van een seconde zelfstandig een besluit moeten nemen. Waarop valt de autonome auto terug? Op een ethisch besef en de bijbehorende morele waarden die zijn ingeprogrammeerd? Hoe programmeer je ethisch besef en morele waarden en hoe universeel zijn deze waarden over de landen en de tijd?
En hoe zit het met de verantwoordelijkheid voor de gevolgen van dit besluit? Ligt die bij de autobezitter of bij de programmeur van de auto, die de situatie had moeten voorzien? Een mens kan geconfronteerd worden met een situatie tijdens het rijden. Van een programmeur kan worden verwacht dat hij vooraf nadenkt over alle mogelijke situaties.
Wanneer het gaat om ethiek komt nadrukkelijk de waardering van een mensenleven om de hoek kijken. Daarbij is het autobezit relevant. Is het een privéauto dan lijkt het gerechtvaardigd dat de autonome auto het leven van de inzittenden hoog aanslaat en beschermt, zo mogelijk met risico voor andere weggebruikers. Maar wat als het een legervoertuig of een politiewagen betreft? Moet de autonome auto van een soldaat of politieagent het leven van andere weggebruikers niet hoger aanslaan? En wat als de politieagent op weg is naar een brand of een overval?
Een heel ander geval is het risico om te worden gehackt. Tot nu toe zijn alle door mensen ontworpen softwaresystemen gehackt, met soms nare gevolgen. Wie is er verantwoordelijk voor een gehackt voertuig dat een ongeval veroorzaakt?
De ethiek rond autonome voertuigen kan wel eens het lastigste struikelblok zijn.
Risico’s en verzekeraars
Zelfs als we in staat zijn de wet- en regelgeving en de ethische normen rond autonome voertuigen sluitend te krijgen, kan het nog zo zijn dat verzekeraars vanuit hun risicoperceptie aanvullende grenzen stellen. Wat gebeurt er wanneer het coöperatieve autonome voertuig onze wegen veroverd? Welke risico’s komen om de hoek kijken als die voertuigen en masse met elkaar gaan communiceren? De beurshandel heeft al aardige uitschieters laten zien in de vorm van schokken en onverwachte pieken, die mede toe te schrijven lijken aan het handelen tussen geautomatiseerde systemen. Gaan we dit soort schokken ook op het wegennet zien met verhoogd risico op verkeersongevallen?
Dan is daar natuurlijk nog de vraag welke risico’s optreden in het verkeer wanneer een deel van de auto’s wel en een deel niet autonoom is. En dan hebben we het niet alleen over oldtimers die sowieso weinig moderne technologie aan boord hebben. Er zullen altijd mensen blijven die hechten aan het ultieme rijgevoel van het zelf besturen van een auto. Sommige automerken spelen daar ook heel bewust op in. Die mensen zullen het rijgenot niet snel overdragen aan een robot.
Hoe kunnen verzekeraars zich indekken tegen nog onbekende risico’s die komen kijken met autonome voertuigen in gemengd verkeer? En welke grenzen zal dit stellen aan de autonome voertuigen op de weg? Het antwoord is er nog niet.
Autonome voertuigen vragen om discussie
De discussie rond autonome voertuigen is goed losgekomen na de eerste successen op de openbare weg. De hang naar nieuwe technologie en de behoefte aan een veiliger verkeer en betere benutting van de weg, hebben ons enthousiasme aangewakkerd. Net als bij zoveel nieuwe ontwikkelingen zal het inbedden van autonome voertuigen in de samenleving een grotere uitdaging blijken dan de ontwikkeling van de benodigde technologie. Of je nu voor- of tegenstander bent, we zijn allen verplicht bij te dragen aan de discussie rond autonome voertuigen en het ontwikkelen van het benodigde ethisch kader en de risicowaardering. Juist autonome voertuigen vragen om een menselijke maat.
____
De auteur
Ing. Paul van Koningsbruggen is programmamanager van Technolution en redacteur van NM Magazine.
