In het boek Frankenstein creëert Victor Frankenstein een nieuw wezen en keert hij zich vervolgens van zijn schepping af. Het drama ontstaat niet alleen doordat hij leven probeert te maken. Het ontstaat vooral doordat hij niet nadenkt over wat hij daarna aan zijn schepping, zijn omgeving en zichzelf verplicht is.

Die vraag klinkt ruim tweehonderd jaar later door in het maatschappelijk debat over kunstmatige intelligentie. AI is geen bewust “monster” en het is misleidend om technologie als een zelfstandig moreel subject te behandelen. Toch dwingen AI-systemen organisaties en overheden tot een vergelijkbare vraag: wie blijft verantwoordelijk wanneer een systeem beslissingen beïnvloedt, mensen beoordeelt, informatie genereert of schade veroorzaakt?

Het antwoord kan niet luiden: “het algoritme deed het”. Want AI-systemen worden ontworpen, getraind, gekocht, geïntegreerd, ingezet en gecontroleerd door mensen en organisaties. Verantwoordelijkheid verdwijnt dus niet door automatisering; zij wordt juist verdeeld over een langere en complexere keten.

Frankenstein is geen waarschuwing tegen wetenschap

Frankenstein; or, The Modern Prometheus van Mary Shelley verscheen in 1818. De roman wordt vaak gelezen als een waarschuwing tegen wetenschap die “te ver” gaat. Dat is echter maar een deel van het verhaal.

Victor Frankenstein wordt niet alleen gevaarlijk omdat hij kennis zoekt. Hij faalt vooral omdat hij zijn ambitie loskoppelt van zorg, verantwoordelijkheid en vooruitdenken. Hij wil leven creëren, maar heeft geen plan voor wat er moet gebeuren zodra dat lukt. Hij vraagt zich niet af hoe zijn schepsel zal leven, wie er voor hem zorgt, hoe anderen op hem reageren of welke gevolgen zijn experiment voor de samenleving kan hebben.

Daarmee is Frankenstein dus geen pleidooi tegen innovatie. De roman stelt een moeilijkere vraag:

Wat zijn makers verplicht wanneer hun creatie gevolgen krijgt die zij vooraf niet volledig kunnen overzien?

Dat is precies de vraag die bij de huidige overgangsfase van het inpassen van AI in onze samenleving hoort. Niet omdat AI hetzelfde is als een levend wezen, maar omdat AI-systemen steeds vaker invloed uitoefenen op werk, onderwijs, zorg, media, dienstverlening, veiligheid en besluitvorming.

AI is geen monster, maar ook geen neutraal hulpmiddel

AI wordt soms voorgesteld als een bijna autonome kracht die “ons overkomt”. Aan de andere kant wordt het geregeld behandeld als een neutraal productiviteitsmiddel: een snelle assistent voor tekst, beeld, analyse, klantenservice of programmeren.

Beide beelden zijn te simpel.

AI is geen zelfstandig moreel wezen dat eigen doelen, bedoelingen of verantwoordelijkheid heeft. Maar AI is ook niet neutraal. Elk systeem is het resultaat van menselijke keuzes. Iemand bepaalt welk probleem ermee wordt opgelost, welke gegevens worden gebruikt, welke uitkomsten als “goed” gelden, wanneer een systeem mag adviseren of beslissen en wanneer menselijke tussenkomst nodig is.

Een AI-systeem dat sollicitanten rangschikt, fraude detecteert, medische beelden beoordeelt of studenten ondersteunt, is dus nooit uitsluitend technisch. Het weerspiegelt keuzes over efficiëntie, risico, eerlijkheid, privacy, toegankelijkheid en controle.

De OECD wijst erop dat AI-risico’s zich onder meer kunnen voordoen in de vorm van bias en discriminatie, privacyproblemen, desinformatie, polarisatie en veiligheidsincidenten. De precieze risico’s verschillen per toepassing, maar de kern blijft hetzelfde: technische prestaties zijn niet voldoende om verantwoord gebruik te garanderen (oecd).

De keten van verantwoordelijkheid

Bij AI zijn vaak veel partijen betrokken. Een modelontwikkelaar bouwt een basismodel. Een cloudpartij levert rekenkracht. Een softwareleverancier maakt een toepassing. Een organisatie koopt die toepassing in en koppelt haar aan eigen processen en gegevens. Medewerkers gebruiken de uitkomsten. Burgers, klanten, patiënten, studenten of sollicitanten ondervinden vervolgens de gevolgen.

Dat maakt de vraag naar verantwoordelijkheid ingewikkelder, maar niet minder urgent.

Een leverancier kan verantwoordelijk zijn voor technische documentatie, beveiliging en beperkingen van een model. Een organisatie die het systeem inzet, blijft verantwoordelijk voor de keuze van de toepassing, de context waarin die wordt gebruikt, de gegevens die worden ingevoerd en de bescherming van mensen die door een uitkomst geraakt worden.

Een nuttige vuistregel is daarom:

Wie AI inzet om invloed uit te oefenen op mensen, processen of besluiten, kan zijn verantwoordelijkheid niet uitbesteden aan de technologie of aan de leverancier.

Dat betekent niet dat één persoon alles moet kunnen overzien. Het betekent wel dat organisaties moeten vastleggen wie verantwoordelijk is voor ontwerpkeuzes, inkoop, privacy, informatiebeveiliging, menselijke controle, monitoring, klachten en herstel.

De OECD beschrijft accountability als een benadering die verantwoordelijkheid koppelt aan de volledige levenscyclus van een AI-systeem: van ontwerp en ontwikkeling tot inzet, evaluatie, aanpassing en beëindiging (oecd).

Vier lessen uit Frankenstein voor AI

 1. Omdat iets kan, hoeft het nog niet

Victor Frankenstein wordt gedreven door de vraag of hij leven kan creëren. Hij stelt nauwelijks de vraag welk probleem hij daarmee oplost, voor wie en tegen welke prijs.

Ook organisaties beginnen soms met AI vanuit technologie-enthousiasme of druk om “iets met AI te doen”. Maar een betere startvraag is niet: welke AI-tool kunnenwe gebruiken?  De betere vraag is: welk probleem willen we oplossen, voor wie en waarom is AI daarvoor de juiste aanpak?

Voordat je AI inzet, is het verstandig om ten minste deze vragen te beantwoorden:

• Welk concreet probleem lost deze toepassing op?
• Welke alternatieven zijn er zonder AI?
• Wie profiteert van de toepassing?
• Wie kan nadeel ondervinden?
• Welke fouten zijn acceptabel en welke niet?
• Wat gebeurt er als de output onjuist, onvolledig of bevooroordeeld is?

AI kan veel waarde bieden, bijvoorbeeld bij het ondersteunen van medewerkers, het toegankelijk maken van informatie of het analyseren van grote hoeveelheden data. Maar het inzetten van de techniek is geen doel op zich.

2. Ontwerpkeuzes zijn waardeoordelen

In Frankenstein wordt Victor geconfronteerd met het uiterlijk van zijn schepsel en de gevolgen van zijn eigen keuzes. Hij behandelt die gevolgen vervolgens alsof ze losstaan van hemzelf.

Bij AI bestaat een vergelijkbaar risico. Organisaties kunnen een systeem beschouwen als objectief omdat het met data en statistische modellen werkt. Maar ook een technisch systeem bevat menselijke keuzes.

Denk bijvoorbeeld aan:

• Welke gegevens worden gebruikt om een model te trainen?
• Welke groepen zijn goed of juist slecht vertegenwoordigd in die gegevens?
• Welke uitkomst wordt geoptimaliseerd?
• Hoe zwaar weegt snelheid tegenover zorgvuldigheid?
• Wanneer krijgt een medewerker een waarschuwing?
• Wanneer krijgt iemand een afwijzing of lagere risicoscore?
• Kan een mens de uitkomst begrijpen, betwisten en corrigeren?

Een systeem dat efficiënt lijkt, kan bestaande ongelijkheid versterken wanneer het voortbouwt op historische patronen. Een model dat overtuigend klinkt, kan onjuiste informatie presenteren. Een tool die tijd bespaart, kan medewerkers ook afhankelijk maken van uitkomsten die zij niet meer goed kunnen controleren.

Daarom moet verantwoord AI-gebruik niet alleen gaan over technische betrouwbaarheid. Het gaat ook over de waarden die in een systeem worden ingebouwd — bewust of onbewust.

3. Verantwoordelijkheid mag niet verdampen

AI maakt besluitvorming soms ondoorzichtiger. Wanneer een fout optreedt, kan iedere betrokken partij naar een andere wijzen: de leverancier naar de gebruiker, de gebruiker naar de software, de organisatie naar een medewerker en de medewerker naar “het systeem”.

Juist daar ligt een van de belangrijkste lessen van Frankenstein. Een maker kan zich niet terugtrekken zodra zijn creatie ongemakkelijke gevolgen heeft.

Voor organisaties betekent dit dat zij vooraf duidelijk moeten maken:

• Wie beslist of een AI-toepassing wordt ingezet?
• Wie toetst de kwaliteit en risico’s vóór ingebruikname?
• Wie controleert de werking tijdens gebruik?
• Wie kan een systeem stilzetten?
• Wie behandelt klachten, fouten en bezwaar?
• Wie communiceert met mensen die geraakt worden?
• Wie draagt de verantwoordelijkheid wanneer herstel nodig is?

De Europese AI Act werkt met een risicogebaseerde benadering. Afhankelijk van het soort toepassing kunnen eisen gelden rond onder meer risicobeheersing, transparantie, technische documentatie, toezicht en menselijke controle. De precieze verplichtingen worden gefaseerd van toepassing (ai-act-service-desk.ec.europa).

4. Denk vooruit over de wereld die ontstaat

De diepste fout van Victor Frankenstein is misschien wel dat hij niet nadenkt over de wereld waarin zijn schepsel terechtkomt. Hij vraagt zich niet af of het wezen kan deelnemen aan de samenleving, hoe mensen erop reageren of welke zorgplicht daaruit voortvloeit.

Bij AI geldt iets vergelijkbaars. Een organisatie kan een toepassing technisch goed laten functioneren en toch belangrijke maatschappelijke gevolgen over het hoofd zien.

Stel dat een gemeente AI inzet om aanvragen sneller te beoordelen. Dat lijkt efficiënt. Maar wat gebeurt er wanneer inwoners niet begrijpen waarom een besluit is genomen? Wat als sommige groepen vaker onterecht worden aangemerkt als risicovol? Wat als medewerkers de uitkomst van het systeem te snel vertrouwen? En wat als de organisatie na verloop van tijd niet meer goed kan functioneren zonder één externe leverancier?

Dit zijn geen puur technische vragen. Het zijn vragen over vertrouwen, macht, afhankelijkheid, rechtvaardigheid en de toekomstige speelruimte van een organisatie.

Hier kan toekomstverkennen veel toevoegen. Niet door precies te voorspellen hoe AI zich ontwikkelt, maar door verschillende mogelijke toekomsten te verkennen en tijdig te onderzoeken welke keuzes verstandig blijven.

Scenario’s voor AI en samenleving

Een eenvoudige manier om vooruit te denken is het formuleren van scenario’s. Niet om één toekomst te voorspellen, maar om verschillende plausibele ontwikkelingen te onderzoeken.

Denk bijvoorbeeld aan vier mogelijke AI-toekomsten voor een organisatie:

Het doel van zulke scenario’s is niet om te bepalen welke toekomst het meest waarschijnlijk is. Het doel is om te ontdekken welke risico’s, vaardigheden, waarborgen en keuzemogelijkheden in elk scenario belangrijk worden.

Voor complexe vraagstukken met meerdere partijen kun je vervolgens ook een vorm van path gaming gebruiken. Laat bijvoorbeeld medewerkers, klanten, leveranciers, toezichthouders en bestuurders reageren op een AI-incident, nieuwe regelgeving of een grote verandering bij een leverancier. Zo wordt zichtbaar waar belangen botsen en waar handelingsopties ontbreken.

AI vraagt om meer dan compliance

De aandacht voor AI-regels is begrijpelijk. Organisaties moeten weten welke verplichtingen voor hen gelden en hoe zij risico’s beheersen. Maar alleen voldoen aan minimumeisen is niet hetzelfde als verantwoord omgaan met AI. De maatschappelijke discussie gaat ook over vragen die verder reiken dan wetgeving:

• Hoe voorkomen we dat mensen minder zeggenschap krijgen over besluiten die hen raken?
• Hoe zorgen we dat AI publieke waarden ondersteunt in plaats van onder druk zet?
• Hoe voorkomen we een groeiende afhankelijkheid van een klein aantal grote technologiebedrijven?
• Welke menselijke kennis en vaardigheden willen we behouden, ook wanneer automatisering mogelijk is?
• Hoe verdelen we de voordelen en nadelen van AI eerlijk?

Het Stanford AI Index Report laat zien dat AI-ontwikkeling, investeringen en toepassing snel doorgroeien. Daardoor wordt AI steeds minder een onderwerp voor alleen technologische voorlopers en steeds meer een vraagstuk voor bestuurders, professionals, beleidsmakers en burgers (hai.stanford).

De toekomstles van Frankenstein

Mary Shelley’s boodschap is niet dat mensen geen nieuwe dingen mogen maken. Frankenstein stelt een moeilijkere eis: zorg dat nieuwsgierigheid, macht en technische vaardigheid gepaard gaan met verantwoordelijkheid.

Voor AI betekent dat niet dat organisaties moeten wachten totdat alle onzekerheid verdwenen is. Innovatie brengt nu eenmaal onzekerheid met zich mee. Wel betekent het dat organisaties vooraf nadenken over mogelijke gevolgen, tijdens gebruik menselijk toezicht organiseren en na fouten bereid zijn verantwoordelijkheid te nemen voor herstel.

De vraag uit Frankenstein blijft daarom verrassend modern:

• Niet alleen: wat kunnen we maken?

•  Maar vooral: welke verantwoordelijkheid zijn we bereid te dragen voor wat we in de wereld brengen?

Bronnen

• Mary Shelley en Frankenstein: vroege sciencefiction, wetenschap en verantwoordelijkheid
• Science Fiction Prototyping
• Europese Commissie, tijdlijn AI Act
• OECD, AI risks and incidents