1 mei 2023
Onlangs nam ik – aangemoedigd door mijn neefje dat op de middelbare zit - een proefabonnement op ChatGPT. Dat is een geautomatiseerde gesprekspartner – een zogenaamde chatbot - die van kunstmatige intelligentie gebruikmaakt om te kunnen antwoorden op open vragen. Over die chatbot is – zoals u weet - veel te doen. Nadat Italië vorige maand besloot om ChatGPT te verbieden, heeft de Europese privacy-toezichthouder een taskforce opgezet die onderzoekt of er Europese privacyregels moeten komen voor kunstmatige intelligentie.
Maar intussen is mijn neefje dik tevreden over deze applicatie; hij produceert in no time de mooiste werkstukken over de Romeinen, waar hij tot zijn eigen verbazing (en soms die van zijn omgeving) hoog mee scoort.
Ik was in de aanloop naar dit symposium benieuwd wat deze chatbot te melden heeft over het mij toebedeelde onderwerp: het vertrouwen van burgers in de rechtspraak. Kan technologie aan dat vertrouwen bijdragen? Op die vraag kreeg ik onmiddellijk een bevestigend antwoord. Ja, zei een mechanische stem, kunstmatige intelligentie kan het vertrouwen van burgers in de rechtspraak op verschillende manieren vergroten, en wel:
Zekerheidshalve stelde ik ter controle ook de omgekeerde vraag: kan kunstmatige intelligentie het vertrouwen van burgers in de rechtspraak ook ondergraven? En ook daar kreeg ik meteen antwoord op:
“kunstmatige intelligentie kan een bedreiging vormen voor het vertrouwen van burgers in de rechterlijke macht, omdat het gebruik van algoritmes in besluitvormingsprocessen kan leiden tot een gebrek aan transparantie en verantwoordingsplicht. Bovendien kunnen algoritmes vooroordelen bevatten die onbewust zijn ingebouwd en die kunnen leiden tot oneerlijke of onjuiste beslissingen. Daarom moeten rechters betrokken zijn bij de ontwikkeling en implementatie van deze technologieën in de rechtspraak.”
Ik begon het enthousiasme van mijn neefje te begrijpen. Zonder enig eigen denkwerk kreeg ik, door een paar voor de hand liggende vragen te stellen, in luttele seconden een opzet voor een presentatie aangereikt met, op het eerste gezicht, steekhoudende argumenten. Maar ik bleef met nog één vraag zitten, namelijk of per saldo het gebruik door de rechter van deze nieuwe technologie nu wel of niet wenselijk is. Het antwoord op die vraag besloot ik zelf uit te zoeken.
Het Utrechtse Montaigne Centrum bracht in 2020 in opdracht van het WODC een lezenswaardig rapport uit, waarin het onder meer de kansen en de risico’s benoemt van artificiële intelligentie voor de rechtspraak. Kansen zijn er onder meer voor het maken van een efficiencyslag in de bedrijfsvoering, de automatisering van procedures, en ook voor het zelfstandig beslissen van geschillen. Maar de onderzoekers geven ook een winstwaarschuwing af. Algoritmes kunnen interfereren met diverse grondrechten, en zij blijken niet altijd in staat om rechterlijke beslissingen te voorzien van een daadkrachtige, inhoudelijke en empathische motivering. Een voorwaarde is bovendien dat rechters moeten kunnen begrijpen en controleren hoe algoritmes tot een advies komen, omdat zij het zijn die de verantwoordelijkheid van een beslissing moeten dragen.
Een stap verder dan ondersteuning en delegatie van rechtsprekende taken aan kunstmatige intelligentiesystemen gaan de ideeën van de Britse wetenschapper Richard Susskind. Is a Court a Place or a Service? is de prikkelende vraag die hij zijn publiek voorhoudt. Volgens hem zijn de traditionele manier van werken en de instellingen in de rechtspraak niet meer van deze tijd. De ervaringen opgedaan tijdens de pandemie bewijzen dat online geschillenbeslechting de toekomst heeft. Er moet meer worden geïnvesteerd in technologie en de nadruk moet worden gelegd op het oplossen van geschillen, en niet op het voeren van een juridische strijd. Daarvoor moet ook meer gebruik worden gemaakt van alternatieve geschillenbeslechting, zoals bemiddeling en arbitrage. Autoritair gezag van rechterlijke beslissingen wordt vervangen door het vertrouwen van burgers in de uitkomst van een eerlijk online proces, dat – met de juiste algoritmes - snel, goedkoop, zonder bias, en foutloos is.
Wat opvalt in veel beschouwingen over kunstmatige intelligentie en rechtspraak is de onuitgesproken veronderstelling dat de kerntaak van een rechter bestaat uit de toepassing van de wet, en dat het vertrouwen van burgers in rechtspraak toeneemt als zij weten dat wettelijke voorschriften door de rechter zorgvuldig worden opgevolgd. Lineaire eigenschappen als nauwkeurigheid, een geringe foutenmarge, transparantie en consistentie worden, niet toevallig, steeds positief gewaardeerd. Maar wij moeten waken voor technologisch legalisme. Want de opvatting dat het recht een logisch en gesloten regelsysteem is – en de rechter de spreekbuis van de wet - is gedateerd, en miskent dat in een rechtsstaat het recht dynamisch is en evolueert en zich aanpast aan nieuwe omstandigheden, zelfs als de wet formeel niet wordt gewijzigd.
In de discussie over de mogelijkheden die technologie het recht kan bieden wordt echter nauwelijks stilgestaan bij het legal realism dat eigen is aan de taak van de rechter. Toch is dat cruciaal om de mogelijkheden en de grenzen van kunstmatige intelligentie te controleren. Moderne rechtspraak is véél meer dan de juiste toepassing van wet- en regelgeving. Rechtspraak moet, als de regel in de concrete toepassing dreigt te ontsporen, daarop een correctie kunnen aanbrengen. En behalve rechtstoepasser en controleur, is de rechter ook een verkenner van het recht op onontgonnen terrein. Hij is – soms contre coeur - wegbereider voor lastige vraagstukken op politiek gevoelig terrein, zoals het reduceren van stikstofemissies, het analyseren van genderissues in het recht, en het ontwikkelen van een juridisch kader voor euthanasie. Die taken zijn niet in programmeertaal te vatten, omdat kunstmatige intelligentie niet de moraliteit van de toepasselijke regels kan beoordelen, laat staan zelfstandig maatschappelijke vraagstukken kan agenderen of oplossen.
Zelfs dáár waar de wet bijna letterlijk vraagt om mechanische toepassing door de rechter, blijkt de werkelijkheid steeds complexer dan vooraf gedacht. De gedachten gaan als vanzelf uit naar de Toeslagenaffaire, maar een ander voorbeeld, dat de gelaagdheid van nationale en Europese normen onderstreept, is het Kaderbesluit overlevering van verdachten en veroordeelden. Omdat de praktijk illustreert dat in een rechtsstaat de rechter niet ontkomt aan het maken van rechtspolitieke keuzes. De Overleveringswet verlangt van rechters niet veel méér dan het afvinken van een vragenlijstje en een handtekening. We dachten in 2002 daarmee te kunnen volstaan in een Europese Unie met betrouwbare partners. Totdat in 2015 in een van de nieuwe lidstaten, te weten Polen, een rechtsstaatcrisis uitbrak, en daarna in Hongarije. Het stelde rechters voor acute nieuwe rechtsvragen.
Zou kunstmatige intelligentie de rechter in zo’n geval adviseren om prejudiciële vragen te stellen aan het HvJ in Luxemburg, over de uitleg van het Kaderbesluit - en nóg een keer als het antwoord van het Hof niet overtuigt, en dan nóg eens als het nodig is? Zou kunstmatige intelligentie de rechter adviseren om in overleveringszaken, zonder dat daarvoor een reden of een rechtsgrond in het Kaderbesluit bestaat, maar mét een beroep op het Handvest en het EVRM, contra legem te gaan, en overlevering te weigeren? Het is nauwelijks voorstelbaar, gelet op de legalistische vooronderstellingen over rechtspraak die de discussie nog te vaak kenmerkt. Ook geavanceerde technologie, met zelflerende algoritmes, gaat ons hierbij niet helpen. En toch zijn dit precies de dilemma’s waar de rechters in de Amsterdamse Overleveringskamer, even verderop aan de Parnassusweg, voor staan.
De opkomst van kunstmatige intelligentie brengt ons bij de grote vragen in het staatsrecht. Wat definieert rechtspraak als rechtsstatelijke waarde; aan wie of wat mogen rechterlijke taken worden gedelegeerd? Soortgelijke vragen worden nu ook bij de twee andere staatsmachten gesteld. De Eerste Kamer debatteerde op 21 maart jl. over algoritmische besluitvorming bij de overheid en de manier waarop het parlement daar grip op kan krijgen. De kern van het debat laat zich goed samenvatten in de motie van het Eerste Kamerlid Recourt, die de regering oproept:
“om helder te formuleren welke waarden en gedragingen voor het goed laten functioneren van de democratische rechtsstaat altijd door menselijk handelen en menselijke interactie moeten worden vormgegeven en om op basis daarvan beleid en wetgeving te toetsen en te formuleren.“
Het is niet de makkelijkste opdracht waarmee de regering op pad wordt gestuurd. J.T. Buys – hij mag in dit gezelschap best genoemd worden - merkte in de negentiende eeuw al op dat de grootste vanzelfsprekendheden in het staatsrecht over het hoofd worden gezien, juist omdat ze zo vanzelfsprekend zijn.
Maar we kunnen het erover eens zijn dat ook in politiek en bestuur het menselijk handelen een kernwaarde in zichzelf is. Het menselijk oordeel is niet het resultaat van logisch redeneren, maar is een combinatie van ervaring, emoties, waarden, en intuïtie. Alleen mensen kunnen contextuele informatie plaatsen, en rekening houden met de complexiteit van menselijke relaties en culturele normen. De toepassing van het positieve recht heeft om rechtsstatelijk te kunnen zijn een ziel nodig, of tenminste bezieling, en kan niet zonder het menselijk geweten.
Toch ben ik er niet zeker van dat mensenwerk in de rechtspraak ook door toekomstige generaties blijvend als waardevol wordt gezien. De vergezichten die Susskind schetst zal de generatie van mijn neefje – de generatie Z – zeker aanspreken. Deze digital natives, zijn eraan gewend dat alles binnen één klik te vinden is, of dat nou nieuws, muziek of het recht is. Zullen zij rechtspraak zien als een tempel van het recht, of als een internetbedrijf dat moet concurreren met andere geschiloplossers? Zullen zij nog hechten aan ceremonieel vertoon in een Paleis van Justitie, of willen zij straks liever een day online dan hun day in court?
En wie verzekert ons dat de burger van de toekomst vanzelfsprekend méér vertrouwen heeft in mensenwerk dan in technologie? Het is waar dat AI-systemen vooroordelen kunnen bevatten, maar het was menselijk falen dat tot de Toeslagenaffaire leidde en dat onze taal verrijkte met het begrip ‘institutioneel racisme’. Maar liefst in alle drie de pijlers van de trias ging het tegelijkertijd mis. Een machine had het niet heel veel slechter kunnen doen.
Dames en heren,
Zonder af te willen doen aan de mogelijkheden en kansen die kunstmatige intelligentie kan bieden, ook voor het vertrouwen van burgers in de rechtspraak, kan de waarschuwing aan rechters, dat zij de betrekkelijkheid van kunstmatige intelligentie voor de rechtspraak moeten leren inzien, niet luid genoeg klinken. Als het gebruik van kunstmatige intelligentie tot gevolg zou hebben dat het kritisch denken van rechters zal ontmoedigen, dan leidt dat niet alleen tot stilstand van de rechtsontwikkeling, maar wordt het stelsel van rechtsbescherming van binnen uitgehold.
De vraag die voorligt is niet of een robot net zo goed als een rechter beslissingen kan nemen. De échte uitdaging is hoe de autonomie van rechterlijke oordeelsvorming kan worden beschermd tegen de verleidingen van artificiële intelligentie. Anders geformuleerd: hoe zorgen we dat rechtspraak ook in de toekomst een living constitution blijft? Het zijn vragen die ik - over het hoofd heen van de feestelingen vandaag – vooral richt tot de aanwezige studenten, omdat zij een cruciale rol gaan vervullen bij het antwoord daarop.
Verantwoord gebruik van kunstmatige intelligentie in de rechtspraak vraagt om een fundamentele bezinning op de rol van de rechter en het rechterlijk domein, noem het constitutioneel procesrecht. Er valt nog iets te kiezen als het om verantwoorde technische vooruitgang gaat in de rechtspraak, en die kans mag de samenleving niet laten schieten.