Voor dit themanummer spraken wij met prof. dr. Jos de Mul over de betekenis van autonomie in het digitale tijdperk.
Door Maartje Bekker
In een van uw artikelen zei u dat autonomie een illusie is, wat verstaat u onder autonomie?
Volstrekte autonomie is een illusie. Autonomie betekent letterlijk jezelf de wet voorschijven. Dat idee, dat vooral in de tijd van Verlichting tot ontwikkeling is gekomen, heeft ook sterk doorgewerkt in politieke opvattingen zoals het liberalisme, met zijn nadruk op individuele verantwoordelijkheid De vraag is of we werkelijk autonoom zijn. Wij worden allemaal sterk beïnvloed door onze omgeving en opvoeding, onze scholing, de bedrijfscultuur waar we inzitten. Mensen zijn meer meelopers dan individuen die voor zichzelf opkomen.
Autonomie veronderstelt ook dat we ons laten leiden door ons verstand, dat we in staat zijn rationele beslissingen te nemen. Onze rationaliteit kent echter zijn grenzen. Menselijk gedrag wordt vaak ook mede gemotiveerd door instincten, vooroordelen en onderbuikgevoelens. Bovendien ontbreekt het ons vaak aan de kennis die nodig is om tot voldoende geïnformeerde en weloverwogen beslissingen te komen. Rationaliteit is net als autonomie eerder een ideaal dan een realiteit.
Een thema dat ik bijzonder interessant vind, is de relatie tussen mensen en technologie. In hoeverre spelen technologieën een rol in onze autonomie? Een simpel voorbeeld is het plaatsen van snelheidsdrempels in een woonwijk om ervoor zorgen dat mensen afremmen. Wie maakt de keuze om langzamer te rijden? Doen wij dat of de verkeersdrempel? Duidelijk is dat de verkeersdrempel ons gedrag beïnvloedt.
Is het zo dat wij altijd gestuurd worden door technologieën? En zo ja, betekent dit dat we geen autonomie bezitten? Of is het veeleer zo dat autonomie geen individuele zaak is, maar een coproductie, die sociaal wordt ingevuld en deels wordt gefaciliteerd en bevorderd door de hulpmiddelen die wij krijgen toegereikt.
Is het dan nog een relevant begrip?
Het ‘auto’ in het begrip ‘autonomie’ betekent ‘zelf’. Misschien is het in deze zin niet zo’n geslaagd begrip als je dat zelf strikt beperkt tot het individu. Anderzijds zou je kunnen zeggen dat anderen en technologieën onze zelfsturing kunnen ondersteunen en versterken en als zodanig bijdragen aan ons zelf.
Op welke manier ondersteunt technologie de autonomie?
Neem de stemhulpen op het internet, zoals Stemwijzer en Kieskompas. Stemmen is – zo zouden we dat kunnen zeggen – bij uitstek een individuele en rationele keuze die onze autonomie bevestigt. Niemand kan meekijken tijdens het stemmen en we kleuren zelf het stemvakje in. Maar kiezen we wel volstrekt rationeel? Zijn we voldoende geïnformeerd? Lezen we alle partijprogramma’s? Kijken we alle debatten op tv? Stemmen we op een partij omdat we partijleider sympathiek vinden? Laten we ons misschien beïnvloeden door onze omgeving of stemmen we op de partij van onze ouders? Al deze (irrationele) factoren doen afbreuk aan onze autonomie. De stemwijzer is interessant omdat een dergelijk simpel ‘expertsysteem’ je helpt te bepalen bij welke partij je hoort en wat je zou moeten stemmen. Sommigen vatten het gebruik van stemhulpen op als een ‘outsourcen’ van je autonomie, maar ik denk dat ze eerder onze autonomie versterken omdat ze je helpen een rationele keuze te maken.
Zijn er dan geen gevaren verbonden aan het gebruik van stemhulpen?
Zeker. Het werkt alleen goed wanneer het expertsysteem een zekere mate van objectiviteit heeft. Je moet er op kunnen vertrouwen dat het klopt dat de stemhulp zegt dat partij X standpunt Y inneemt.
Het probleem is dat je meestal niet weet hoe de algoritmes werken; een expertsysteem is vaak een black box. Bovendien wordt software door mensen gemaakt, die nooit volstrekt onbevooroordeeld zijn. Daarom is transparantie belangrijk: je moet in staat zijn het deksel van de black box te lichten en te kijken hoe het systeem werkt. Anders kan zo’n stemhulp onze autonomie inderdaad ondermijnen.
Ander voorbeeld: Stel je verbruikt een bepaalde hoeveelheid stroom per week en je wilt je aan deze hoeveelheid houden, omdat je milieubewust bent of de kosten in de hand wilt houden. Het systeem geeft aan het eind van de dag aan dat je teveel stroom hebt verbruikt en jij dus niet meer in de sauna kan, omdat je anders te veel stroom verbruikt. Is dit dan een autonome keuze? Jij hebt jezelf dat maximum opgelegd, jij hebt zelf het doel bepaald. Het middel helpt jou om je doelen te bereiken.
Stel dat het systeem zelf lerend is en aangeeft: we moeten meer letten op ons stroomverbruik in verband met de toekomstige generaties, daardoor moet je maximum verbruik met een 1/3 omlaag. Dat betekent geen sauna meer en de kachel omlaag. Dit is niet meer mijn persoonlijke keus, het systeem heeft nu voor mij de doelen bepaald. En dat is echt anders. Normaal bepalen wij de doelen en de middelen om het doel te bereiken kunnen we outsourcen.
Bent u bang dat superieure intelligentie ons deze eeuw nog gaat overheersen?
Stephan Hawking († 14 maart 2018) dacht dat superieure kunstmatige intelligenties wel eens een einde zouden kunnen betekenen voor het menselijk ras. Ik ben, anders dan Hawking, niet zozeer bang dat superieure intelligenties ons snel zullen gaan overvleugelen. Mijn schrikbeeld is veeleer dat inferieure intelligenties ons gaan overheersen. Ze willen nu al eenvoudige zaken laten afhandelen door computers zonder tussenkomst van een rechter, maar waar ligt de grens? Iets dat we nog niet kunnen programmeren is creativiteit. Juist de menselijke component is heel belangrijk in de rechtspraak. Rechtspreken is meer dan het mechanisch volgens van vastgestelde regels. Een rechter weegt alles mee in zijn oordeel: het verleden, het gedrag, hij kijkt naar het totaalplaatje. Als we al deze componenten niet meer laten meetellen, dan lijkt me dat gevaarlijker.
Hoe ziet u de toekomst dan tegemoet?
Het is belangrijk dat we goed nadenken over welke taken en beslissingen we overlaten aan de inferieure intelligenties. Zolang dat simpele taken zijn, is dat niet zo’n probleem en zijn de voordelen zelfs groter. Maar zaken waar hogere vormen van intelligentie (creativiteit, moraliteit etc.) voor nodig zijn, kunnen we voorlopig maar beter aan mensen toevertrouwen.