Voice-over: Dit is Leaders in Finance, een podcast waarin we op zoek gaan naar de mens achter het succes. We praten met leiders van nu en later over hun drijfveren, carrière en privéleven. Waarom? Omdat er meer gesproken moet worden in de financiële sector. We willen onze partners hartelijk bedanken voor hun steun. Dat zijn Kayak, EY, Mogelijk Vastgoedfinancieringen, Roland Berger en Lepaya Je host is Jeroen Broekema.
Jeroen: Welkom luisteraars bij een nieuwe aflevering van Leaders in Finance. Deze week een extra aflevering met Joris Krijger over zijn boek Onze Kunstmatige Toekomst. Heel erg leuk dat je er bent, Joris.
Joris: Ja, dank voor de uitnodiging, Jeroen.
Jeroen: Heel leuk, en leuk dat je ook weer bij Leaders in Finance bent. Je bent eerder op de podcast geweest, je bent een keer op ons AI-evenement geweest — je wordt bijna een vaste gast. En dat is niet raar, want we hebben het over een onderwerp: AI en ethics, alles wat met AI en de ethische afwegingen te maken heeft. Dat leeft enorm in de samenleving. Voor we naar het boek gaan — en ik wil ook nog een paar nieuwselementen van de afgelopen tijd met je bespreken — vind ik het vooral leuk om te weten: wie is Joris nou eigenlijk, voor luisteraars die jou misschien nog nooit gehoord hebben? Wat is je achtergrond? En ik weet dat je heel veel verschillende dingen doet, daar hoor ik graag meer over.
Joris: Ja, heel goed. Ik heb een achtergrond in de filosofie en ik heb psychologie gedaan, filosofie en veel literatuur. Dus ik ben vrij breed georiënteerd, maar vrij snel gefascineerd geraakt door het vraagstuk technologie en mens. Hoe vormen onze waarden de technologie die we gebruiken, en hoe vormt technologie onze waarden en ons als mens? Dat vond ik waanzinnig interessant. En een kleine zeven jaar geleden kreeg ik de kans bij de Volksbank, nu de ASN Bank, om advies te geven over eerlijke algoritmes — zo heette dat toen. Dat vond ik hartstikke leuk, maar ik wilde ook academisch met dat onderwerp aan de slag. Toen hebben we een hybride functie gemaakt waarin ik ethics & AI officer bij de bank werd — een titel die we toen gewoon bedacht hebben, want die bestond nog niet — én promovendus aan de Erasmus Universiteit Rotterdam, om ook academisch te kijken naar de vraag hoe we goed omgaan met kunstmatige intelligentie. Er zijn allerlei waardekaders — eerlijk, uitlegbaar, et cetera — maar hoe breng je die nu naar de praktijk? Wat betekent het om ethiek te operationaliseren?
Jeroen: Zijn dat jouw twee kerntaken: promovendus en ethics & AI officer bij de ASN Bank?
Joris: Ja, in de regel wel. Wat ik wel merk, zeker sinds het boek er is, is dat ik ook steeds meer spreker ben en trainingen geef. Het onderwerp AI leeft enorm, en om goede redenen. En steeds meer mensen vragen zich af: is dit wel waar we als samenleving naartoe willen? Dat is iets waar ik veel mee bezig ben geweest.
Jeroen: We gaan straks uitgebreid over de inhoud van het boek praten, maar even praktisch: is het goed gevallen? Zijn er veel verkocht? Krijg je veel reacties?
Joris: Ja, ik wist absoluut niet wat ik kon verwachten — wat goed is, wat niet goed is — maar ik ben enorm positief verrast door de belangstelling. We gaan richting een derde druk, en dat vind ik best snel, omdat het eigenlijk uit het niets is uitgekomen. Dat had ik niet voorzien. Dus ik ben er enorm tevreden over.
Jeroen: Geweldig om te horen, een derde druk alweer. Bij de bank werken — heel ander soort werk, of is het juist overlappend met wat je doet in de academie?
Joris: Bij beide ben ik vooral bezig met de vraag hoe je als organisatie goed met AI omgaat. Wat ik al snel merkte in mijn onderzoek, is dat iedereen een technische reflex heeft: kijk naar data, naar het model. Maar wat ik binnen de bank leerde, is dat de organisatieprocessen eromheen veel bepalender zijn voor de keuzes die gemaakt worden. Dus daar zit heel veel overlap. Als ik bij andere organisaties kom spreken, gaat het daar ook over: de technologie is er, maar wat heb je daaromheen ingericht om ethiek en maatschappelijke waarden mee te nemen? Hoe weeg je kansen af tegen organisatiewaarden en risico’s?
Jeroen: En als je zegt organisatieprocessen — bedoel je guidelines, cultuur, hoe de top erover praat? Of alles tegelijk?
Joris: Ja, all of the above. In mijn onderzoek heb ik een holistisch volwassenheidsmodel gemaakt waarin je al die facetten afgaat: beleidskaders, governance, formele checks, training van medewerkers en management, bewustzijn bij bestuurders, integratie in inkoop- en ontwikkelprocessen — zodat ethiek geen checklist wordt, maar iets dat in elke stap terugkomt. Dat is holistisch, en een holistische opgave. Ik heb veel organisaties gezien die op één dimensie gas geven, maar als je op de rest niets doet, maak je geen concrete stappen en word je niet volwassener op dit onderwerp.
Jeroen: Even voor mijn eigen taalontwikkeling — holistisch volwassenheidskader of ladder? Wat zei je?
Joris: Volwassenheidsmodel, ja.
Jeroen: Daar zit in, je kan op verschillende treden staan — want ik zat meteen aan een ladder te denken, daarom dat ik het vroeg — maar dat was niet zo. Maar je zit dus op bepaalde niveaus ook, of is dat niet zo?
Joris: Klopt, ja. Wat wij gezegd hebben is: er zijn een soort zes sleuteldimensies en daar heb je vijf verschillende volwassenheidsniveaus in. En idealiter, om echt hoog uit te komen, om echt volwassen te zijn op dit onderwerp, ga je op alle zes die dimensies initiatieven ontplooien. Zorg je dat je iets hebt staan en iets hebt ingeregeld.
Jeroen: Je ziet ongelooflijk veel ontwikkeling, maar ook ongelooflijk veel aandacht in de media voor AI. Dus er gebeurt heel veel en er wordt misschien nog wel meer over gesproken en gediscussieerd. Even een paar dingen eruit pakken. Ik zie de laatste tijd heel veel artikelen in de kranten die ik lees, in de tijdschriften die ik lees, over: nou, is er misschien toch wel een deel van wat we nu meemaken hype? Is het nou echt een revolutie, die hele AI-ontwikkeling, of is het toch iets minder intens dan we steeds dachten?
Joris: Ja, mijn lezing daarvan is eigenlijk allebei. Het is op dit moment zeker deels gehyped. Absoluut worden er verwachtingen gewekt die op korte termijn niet waargemaakt kunnen worden — om allerlei redenen. Maar dat neemt niet weg, en dat kun je eigenlijk het beste vergelijken met het internet: we hebben ook de internetbubbel gehad, maar het is niet zo dat toen die bubbel knapte, het internet verdween. De rol van het internet is eigenlijk alleen maar groter geworden. En dat zie ik hier ook. Er zit absoluut een hype-aspect omheen — hoeveel geld daar naartoe gaat en wat voor belangen ermee gemoeid zijn — maar ik voorzie hetzelfde als met het internet: AI gaat een onmisbaar onderdeel worden. Het is absoluut een systeemtechnologie en het is absoluut de revolutie die al aangekondigd is. Maar er zit een hype-aspect omheen dat wel eens doorgeprikt kan worden.
Jeroen: Dat is misschien meer korte termijn, en dat andere lange termijn. Het verschil tussen hype en daadwerkelijke impact.
Joris: Ja, dat is wat je vaak hoort: we overschatten de korte-termijneffecten en onderschatten de lange-termijneffecten.
Jeroen: Zelfde niveau als internet? Of zeg je: dit gaat nog veel, veel verder dan internet?
Joris: Ik denk dat dit nog veel, veel verder gaat dan internet. Bij alle technologische revoluties zie je dat er iets verandert in de toegang en de verdeling van kennis, van informatie. Het internet heeft veel mogelijk gemaakt waarvan we pas achteraf konden zien — met social media enzovoort — van: hé, dat is niet allemaal goed. De gedachte was dat we een soort global village zouden krijgen waarin we allemaal begrip voor elkaar zouden opbrengen omdat we elkaars kant van het verhaal zouden horen. Wat je ziet, is dat we juist verder uit elkaar zijn komen te staan dan ooit. Dus ik denk dat AI nog veel verder gaat ingrijpen, omdat het niet alleen de toegang tot kennis verandert, maar ook wat we doen met die kennis. En zeker nu met AI agents — systemen die zelf dingen kunnen doen, taken kunnen uitvoeren — ga je zien dat niet alleen de bereikbaarheid en beschikbaarheid van kennis verandert, maar ook welke keuzes we daarbij maken. En die raken natuurlijk heel direct aan het leven dat we leven.
Jeroen: Ander nieuwsitem, en dan iets concreter dan de vorige. Ik zag een LinkedIn-post van jou een paar dagen geleden, gebaseerd op een artikel van Follow the Money. Het ging over de Belastingdienst die blijkbaar een groot stuk of vijftig algoritmes gebruikt, waarvan de Autoriteit Persoonsgegevens zegt: dit is niet oké. Kun je dat toelichten? Want het is denk ik wel een interessante casus — eentje om van te smullen waarschijnlijk, voor jou.
Joris: Ja — ja en nee, want het is natuurlijk ook zorgwekkend dat er binnen de Belastingdienst nog steeds algoritmes gebruikt worden die onrechtmatig zijn, illegaal zijn en die mogelijk discrimineren. Maar wat daarachter zit, wat de Autoriteit Persoonsgegevens eigenlijk heeft gezegd, is dat de Belastingdienst in allerlei systemen selectiecriteria hanteert waar eigenlijk nooit goed over nagedacht is. Er is geen statistische basis voor, maar er is ook geen motivering of onderbouwing waarom die erin zitten. En dat maakt dat er een vrij groot risico is op mogelijk discriminerende verwerkingen. Dat is in ieder geval de lezing van de AP.
En voor mij raakt dat heel erg aan de boodschap — ik noemde het net al — de holistische organisatie die ik probeer over te brengen. Namelijk dat als je op een goede manier met deze technologie om wilt gaan, je niet alleen iets moet veranderen aan: welke data stoppen we in dat systeem, welke selectiecriteria hanteren we? Maar dat je ontzettend goed moet nadenken over: welke onderbouwing hebben we? Hoe rechtvaardigen we de keuzes die we maken rond dit soort systemen? Dat is voor mij waar ethiek over gaat, waar AI-ethiek over gaat. En je ziet dat als je dat niet doet, het misgaat — zoals nu bij de Belastingdienst. Als je dat niet op organisatieniveau goed inregelt, dan blijf je dit soort incidenten houden, is mijn inschatting.
Jeroen: Het is natuurlijk niet jouw vakgebied, maar toch ga ik proberen deze vraag bij jou neer te leggen. Hoe verklaar je nou dat dit gebeurt? Want dit is een van de aller-, allergrootste overheidscrisissen ooit — ja, sinds de Tweede Wereldoorlog denk ik één van de allergrootste qua aandacht en qua drama, wat er is gebeurd met de toeslagenaffaire. Hoe verklaar je nou dat het daar misging — ook voor een groot deel met die algoritmes — en dat het nu blijkbaar weer misgaat?
Joris: Ja, dat is natuurlijk een hele goede vraag, en een sluitend antwoord heb ik niet. Wat ik vanuit mijn eigen ervaring zou kunnen beredeneren, is wat ik eerder ook schetste: dat we heel vaak nog steeds met een soort technische bril naar die algoritmes kijken. Dat we denken: als we de techniek goed hebben ingeregeld en als we een toets hebben gedaan of het allemaal klopt, dan zijn we er. Maar dat eigenlijk nooit vanuit de organisatie is gekeken: waar staan wij voor? Hoe geven wij daar invulling aan in de systemen die we hanteren? En hoe onderbouwen we alle keuzes — niet alleen van nieuwe systemen, maar ook van bestaande systemen?
Dat vraagt om een andere kijk op algoritmes en kunstmatige intelligentie dan gangbaar is. Wat ik bij veel organisaties zie, is dat het toch vooral in het technische hoekje zit: “hier is je waardekader, zorg maar dat dit goed meegenomen wordt in het systeem.” En dan maak je het te plat en te klein. Je zou als Belastingdienst echt goed moeten kijken naar je processen en de organisatie zelf: waar komt die ethiek terug? Welke keuzes maken wij? En hoe zorgen we ervoor dat, voor de systemen die we gebruiken, de onderbouwing goed op orde is?
Jeroen: Heeft de Fiscus, de Belastingdienst, een ethics- en AI-officer?
Joris: Dat weet ik niet. Ik heb wel met mensen gesproken die daar advies hebben gegeven op het gebied van ethiek. Maar of er een vast team is, durf ik je niet te zeggen.
Jeroen: Misschien moet je daar maar een positie gaan bekleden straks, als je promotie afgerond is — bijzonder hoogleraar samen met de Belastingdienst, kunnen ze misschien wel gebruiken, als ik het zo hoor. Maar goed, inmiddels zijn we al veel elementen uit jouw boek aan het bespreken zonder dat mensen het gelezen hebben. Ik hoor veel dingen terugkomen uit het boek. Laten we de brug maken naar jouw boek. Eerst een paar voorvragen. Allereerst: waarom ben je het gaan maken, het boek?
Joris: Ik ben het boek gaan maken omdat ik, toen ik het schreef, al zes jaar onderzoek deed. Ik was eigenlijk elke dag bezig met de vraag: wat betekent verantwoord AI? Hoe gaat AI onze samenleving veranderen, onze organisaties veranderen? En hoe kunnen we dat in goede banen leiden? En ik merkte dat de discussies die we over kunstmatige intelligentie hadden, eigenlijk niet gingen over de dingen die ik in mijn onderzoek tegenkwam die zo belangrijk zijn om hier goed grip op te houden. Dus ik wilde graag een bijdrage leveren aan die discussie, aan het maatschappelijke debat dat we over deze technologie hebben. En daar een andere invalshoek tegenover zetten om te zorgen dat we — in ieder geval mijns inziens — veel meer grip krijgen op de keuzes die we rond die technologie maken. En daar heb ik het boek voor geschreven.
Jeroen: Kost het je moeite om het iets populairder op te schrijven dan een PhD, of viel dat wel mee?
Joris: Nee, helemaal niet. Ik vind het juist het allerleukste om met mensen van allerlei doelgroepen in gesprek te gaan hierover. Toen ik begon met het onderzoek had ik heel veel moeite op verjaardagsfeestjes om uit te leggen wat een ethics & AI officer doet. En inmiddels, als ik bij de kapper zit of waar dan ook, dan heeft iedereen wel een verhaal over kunstmatige intelligentie en of ze dat goed of slecht vinden. Dus het leeft enorm, en ik vind het hartstikke leuk om die koppeling te maken, zodat het ook gaat leven voor mensen.
Jeroen: Ander klein — zoals ik ze noem — voorvraagje: gebruik je zelf veel AI?
Joris: Ik gebruik het regelmatig. Ook bijvoorbeeld om mijn eigen ideeën te challengen. Voor het boek heb ik het gebruikt om bepaalde formuleringen wat scherper te krijgen. Want wat ik heb gemerkt: als je het vraagt om een verhaal te vertellen, dan vind ik het eigenlijk heel levensloos wat je terugkrijgt — echt een soort dode tekst. Maar als je zegt “geef me tien manieren om deze zin anders te formuleren”, dan zit er soms net een woord tussen waarvan je denkt: dat zegt het net iets scherper dan ik het had staan. Dus op dat niveau gebruik ik het. Maar niet bijvoorbeeld voor mijn mails. En wat je nu ziet is dat veel jongeren het gebruiken als een soort life coach om allerlei vragen aan voor te leggen — dat punt ben ik nog niet.
Jeroen: Heb je ook ethische dilemma’s aan AI voorgelegd?
Joris: Jawel, gewoon om te testen: wat geeft het terug? En wat je merkt — en dat is ook een beetje een punt dat ik in het boek maak hoor — maar je moet de ethiek niet uitbesteden aan dit soort systemen. Dat is echt aan ons mensen om daar de goede keuze in te maken. Waar het heel goed bij kan helpen, is om informatie te ordenen, om argumenten op een rij te zetten. Maar de uiteindelijke keuze moet bij ons liggen.
Jeroen: Heb je veel verschillende chatbots — ik weet niet of je ze chatbots moet noemen — of hoe noemen we ze? Ja, chatbots, LLM’s. Heb je veel verschillende getest? Welke gebruik jij?
Joris: Ja, ik ben toch — en dat is ook waar ik ooit ben begonnen — met ChatGPT begonnen, en daar ga je dan toch snel naar terug. Maar ik probeer ze allemaal wel, zeker voor dingen waarvan ik benieuwd ben wat er uit een andere chatbot komt. Dan leg ik ze allemaal even dezelfde vraag voor.
Jeroen: En binnen de bank waar je ook werkt?
Joris: Ja, binnen de bank hebben we een eigen interne GPT, waardoor de data gewoon lokaal blijft. Dat is ook een systeem dat superhandig is op veel vlakken.
Jeroen: En je vond niet — vanuit ethisch perspectief — dat je dacht: ik moet eigenlijk alleen maar Europese AI-tools gaan gebruiken?
Joris: Er valt zeker wat voor te zeggen als je het hebt over digitale soevereiniteit. We hebben dat punt nog niet bereikt, maar ik denk dat het heel goed is, nu met de AI-fabriek in Groningen die er gaat komen, dat we als Europa iets meer vaart gaan zetten op dit onderwerp.
Jeroen: Ja, dat is misschien goed om even follow-up op te doen, want ik las het inderdaad in de krant dit weekend. Maar wat is die AI-fabriek precies, voor mensen die het niet gezien hebben?
Joris: Er is ontzettend veel Europese en overheidsfinanciering vrijgemaakt — ik geloof 200 miljoen in totaal — om in Groningen een AI-fabriek te bouwen. En dat is dan niet een fabriek zoals ASML of zoiets, maar het moet een plek worden waar mensen die AI-systemen ontwerpen — voor de zorg, voor het onderwijs — aan het werk kunnen. Dus een soort centrale hub waar we zelf AI kunnen ontwikkelen en bouwen.
Jeroen: Grappig — vroeger waren het allemaal valleys, naar Silicon Valley. Nu worden het fabrieken. Een beetje een zorgwekkende ontwikkeling; een valley klinkt toch wat lieflijker dan een fabriek, maar goed.
Joris: Ja, die associatie is niet meer zo positief met Silicon Valley.
Jeroen: Fair enough, fair enough. Ik heb overigens jouw boek natuurlijk ook even gevraagd om een samenvatting te maken. Ik liet je net in het voorgesprek even zien: ik had gevraagd om het in een graphic te doen. Nou, dat werd helemaal niks. Dat kan hij nog niet aan — dat waren hele rare zinnen en hij begreep er niks meer van. Tekstueel ging het overigens wel aardig goed volgens mij. Maar je hebt je boek ingedeeld in verschillende delen. Ik lees het even voor: Wat gaat AI doen, wat betekent dat voor ons en wat kunnen we doen? Wat is de gedachte achter dat kader?
Joris: Voor mij zat er een soort logische volgorde in. Als je eenmaal begrijpt hoe die technologie in elkaar zit — dus wat voor dingen het voor ons kan gaan oplossen, maar ook wat het niet kan oplossen en wat voor nieuwe problemen het creëert — dat zijn eigenlijk altijd de drie vragen die ik stel bij nieuwe toepassingen: waar gaat het ons mee helpen, waar kan het ons niet mee helpen, en welke nieuwe problemen krijgen we erbij als we dit gaan gebruiken? Als je dat beeld hebt, dan kun je van daaruit gaan uittekenen wat het betekent voor onze samenleving als we die technologie op deze manier blijven inzetten. En dan krijg je zicht op: wat zouden we precies kunnen doen? Wat zijn de wissels die we moeten omzetten, of de plekken waar we moeten duwen om te zorgen dat het een andere richting op gaat, als we ons niet kunnen vinden in de richting waar het nu heen beweegt?
Jeroen: Laten we eens naar de eerste kijken: wat gaat AI doen? Kijk, mensen moeten zelf het boek lezen, maar hier en daar wat voorbeelden geven is wel leuk. En waar je kan — kun je eens kijken naar de financiële sector? Wat gaat het daar allemaal doen?
Joris: Wat AI kan: het is in feite een heel slimme statistische tool — statistics on steroids, zou je kunnen zeggen. En wat we sinds 2012 hebben geleerd, is dat als we hele grote hoeveelheden data aan zo’n systeem geven, het zelf patronen kan herkennen. En op basis van die patronen kan het voorspellen wat een goede tekst is om terug te geven als antwoord op je vraag. Maar ook: welke keuze het moet maken om een auto goed te besturen op de weg, of hoe je een real-time gesprek kunt voeren. We hebben geleerd dat het oplossen van die voorspelproblemen — zoals ik ze noem — betekent dat ongelooflijk veel van ons werk te automatiseren valt. Allerlei relatief simpele taken: wat staat er in deze tekst, wat staat er op dit plaatje, hoe moet ik deze tabel lezen? Dat kan het eigenlijk vrij snel beter dan wat ze de human benchmark noemen. Daarin is het heel vaardig geworden.
Die taakjes afzonderlijk zijn allemaal niet zo spannend, maar als je kijkt naar wat je in je dagelijks leven doet — professioneel en privé — dan is het toch vaak: je bent met mensen in gesprek, je hebt een brainstorm, je leest een rapport, je stelt een rapport op. Dat zijn allemaal taakjes die nu binnen het frame van AI vallen. En zelfs met muziek en film: als je goed genoeg kunt voorspellen hoe een folkliedje in elkaar zit, dan kan AI best een aardig folkliedje genereren. Als je weet hoe een sciencefictionfilm werkt, kan AI een sciencefictionfilm maken. Dus er zijn allerlei dingen die AI zoals we het nu kennen kan oplossen. Dat kan een enorme verschuiving geven in het werk dat we nu doen.
Voor juristen of compliance-afdelingen, bijvoorbeeld: als je veel bezig bent met wetten, wijzigingen, uitspraken, jurisprudentie — en een AI-systeem kan dat sneller oppikken en vertalen naar je context of policies — dan betekent dat nogal wat voor je werk. En voor welke skills waardevol zijn. Bij financiële instellingen zie je dat sterk. Die worden ook vaak genoemd als sector waar het automatiseringspotentieel hoog is, omdat AI al dat soort cognitieve taken goed kan uitvoeren.
Dat betekent niet dat we alles door AI laten doen. Want de inschatting of de output klopt — dat is maar een voorspelling van: “een jaarverslag ziet er ongeveer zo uit”. Daar kan je het prima op trainen. Maar of de juiste input erin staat en of het ergens op slaat — zoals met jouw AI-samenvatting van mijn boek — daar heb je echt een expert voor nodig. Dus de werkzaamheden verschuiven naar: niet alleen iets kunnen produceren, maar ook kunnen beoordelen hoe AI dat doet. En dat brengt enorme verschuivingen met zich mee in hoe het personeelsbestand eruitziet, hoe je mensen skilt of reskilt.
Voice-over: Dit is Leaders in Finance met Jeroen Broekema.
Jeroen: Je zegt: de potentie in de financiële sector is waarschijnlijk heel groot. Je kunt daar veel — zou je daarmee kunnen opvangen wat mensen nu doen. Wat denk je dat er gebeurt als je naar alle functies kijkt? Stel je alle functietitels van de top 10 grootste financiële instellingen in Nederland — dus banken, verzekeraars, asset managers — op een rij. Er werken 250.000 mensen of zo, grofweg, ik weet het niet precies. Maar laten we dat even aannemen. En je zou die allemaal langslopen: welk deel van die functies — helemaal of gedeeltelijk — denk je dat uiteindelijk gedaan kan worden in de komende, zeg vijf of tien jaar, door AI? En misschien moeten we dit een keer in de AI gooien om te kijken wat hij of zij er zelf van vindt… maar wat denk jij?
Joris: Nou, de eerste belangrijke opmerking is dat als we het hebben over automatisering door AI, het niet gaat over functies maar over taken. En wat men gedaan heeft in studies naar AI en automatisering is niet gekeken naar: welke banen worden straks overbodig, maar: welke taken binnen bepaalde sectoren en rollen kunnen worden overgenomen. En dan krijg je percentages als: bij juridische functies bijvoorbeeld, ongeveer 46% van de taken kan zo’n AI-systeem overnemen.
Jeroen: Binnen de tijdshorizon van nu al? Met de technologie die er nu is — vandaag, of binnen vijf jaar?
Joris: Met de technologie die er nu is.
Jeroen: Maar het kan best zijn dat het over vijf jaar dus een stuk meer is, of tien jaar.
Joris: Die systemen worden constant beter, dus dat kan inderdaad meer worden. En dat hangt er ook vanaf — en dat zie je altijd bij grote technologische verschuivingen — dat er ook weer vraag komt naar ander type werk. Dus dat juridisch werk bijvoorbeeld anders wordt, waardoor je weer mensen nodig hebt voor het beoordelen van output, domeinkennis, etc. Maar zo moet je het dus zien. En als je dan kijkt naar die 250.000 mensen: als we een globale studie van het IMF pakken, die schat dat 60% van de banen geraakt wordt. En daarvan zegt men: iets meer dan 20% wordt complementair. Oftewel, dat gaat helpen om je werk beter uit te voeren. Maar voor het overige deel niet complementair — en dat betekent: automatisering van taken.
Jeroen: Tot 40% dan, of zo?
Joris: Ja, iets meer dan 30%, volgens mij 35%.
Jeroen: Maar dat is gigantisch. En wat jij zegt is: in een tijdshorizon van nu eigenlijk — het moet geïmplementeerd worden en werkbaar blijven — maar dat zou de komende vijf jaar kunnen gebeuren.
Joris: Dat verwacht ik wel, ja.
Jeroen: Dat is gigantisch.
Joris: Dat is gigantisch.
Jeroen: Even doorrekenen: laten we die 250.000 even pakken — ik moet oppassen, ik roep hier een getal — maar dat zijn dus misschien 80.000 mensen of zo.
Joris: Dat zou kunnen. En wat je nu al ziet — en dat is belangrijk — want in de discussies over automatisering en werkloosheid hoor je vaak: ja, maar er worden nog geen mensen ontslagen. Maar wat je nu ziet, is dat het aantal startersfuncties echt drastisch aan het teruglopen is. Mensen die het interessant vinden moeten de nieuwsberichten er maar eens op nalezen. Je ziet advocatenkantoren die nauwelijks nog juniors aannemen. Onderzoeken die laten zien dat in bepaalde sectoren nauwelijks nog traineefuncties worden geopend.
Dat zijn de eerste, voorzichtige tekenen aan de wand. Want automatisering en werkloosheid door automatisering heeft veel meer vormen dan mensen die direct ontslagen worden. Mensen die niet worden aangenomen. Vacatures die nooit worden opengesteld. Mensen die werk doen dat niet aansluit bij hun opleiding of studieprofiel — dus ze zijn wel aan het werk, maar niet in wat waarvoor ze getraind zijn.
Dus er zit heel veel onder de motorkap van AI en automatisering. En die verschuiving is nu al aan de gang — dat merk je nu al.
Jeroen: Dat is interessant — dat heeft dus niks met de economische outlook te maken. Je zegt: dat is echt AI-gedreven.
Joris: Dat hangt uiteraard met elkaar samen. Geopolitieke instabiliteit en dergelijke zorgen er ook voor dat mensen terughoudender zijn met het openstellen van nieuwe functies. Maar er zit een aanzienlijke AI-component aan.
Jeroen: Superinteressant om op die manier naar te kijken. Want je denkt inderdaad aan de bestaande jobs, maar hoeveel ga je aan de onderkant missen, waar je gewoon start? Wat vaak die analistenrol is bijvoorbeeld, voor hoogopgeleiden. Die analistenrol is nou typisch iets waarvan ik denk: een heel groot deel kan je door AI laten doen. Zie je ook de andere kant, dat er al nieuwe jobs ontstaan? Ja, jouw eigen baan is daar een mooi voorbeeld van, maar zie je ook al andere functies ontstaan?
Joris: Nee — en dat is ook een punt dat ik in het boek probeer te maken. En dat is iets wat iemand als Daron Acemoglu — die vorig jaar de Nobelprijs voor de economie heeft gewonnen — heel vaak benadrukt. Hij heeft eindeloos veel studies gedaan naar automatisering en het effect op de arbeidsmarkt. En wat hij schetst is eigenlijk: er is niks vanzelfsprekends aan vooruitgang. Zo vat ik het altijd samen. Oftewel, we zien vaak eerst de negatieve effecten van automatisering, en daarna pas — als we daar echt proactief beleidskeuzes in maken — de positieve kanten ervan, zoals nieuwe banen. En wat je dus ziet, is dat er niet direct nieuwe banen bijkomen. Dat vraagt iets van een bedrijf, van een organisatie, van een overheid om daar ruimte voor te creëren. En er gaan wél banen af.
Dus ik zie nog niet zoveel banen bijkomen. Ik zie het aantal startersfuncties teruglopen. Ik zie AI taken overnemen van juniors. En er wordt nu gesproken over een nieuw organisatiemodel: waar je voorheen de piramide had met onderin de juniors, dan de mediors, dan de seniors, ga je nu naar een diamant, noemen ze het. Oftewel: die onderkant wordt heel smal. En dat roept de vraag op hoe houdbaar zo’n model is, want je hebt juniors nodig om uiteindelijk seniors te krijgen. Maar op de korte termijn is het voorstelbaar dat je in zo’n structuur zit. En dat is echt een verschuiving.
Jeroen: Als junior kun je het gelijk overslaan.
Joris: Ja, dat zou ook nog kunnen. Maar wat ik in ieder geval geloof, is dat je domeinkennis echt nodig hebt om uiteindelijk te kunnen profiteren van AI. En dat zijn nu de seniors. Daar concentreren de voordelen zich. Die kunnen veel sneller en efficiënter werken. Die hoeven geen junior meer te vragen, die krijgen dat meteen van hun co-pilot, of hoe je het noemt. Maar als je wilt dat jongeren, juniors, die skills in de vingers krijgen, die ervaring opbouwen, dan moet je ze die kans geven. Terwijl nu, als je kijkt naar hoe we het hebben ingeregeld, die ruimte er niet per se meer is — omdat die is ingenomen door kunstmatige intelligentie.
Jeroen: Heb je het nu over hoogopgeleide rollen? Gaat dit net zo op voor laagopgeleiden?
Joris: Ja, vooral voor hoogopgeleiden. Hoe praktischer je wordt, hoe minder het opgaat. Maar heel veel communicatie-achtige rollen, advies-achtige rollen — daar zie je dit patroon nu al ontstaan.
Jeroen: Het werkende leven bestaat voor de meeste mensen uit werkgevers en werknemers. Hoe kijk je daarnaar? Zijn die twee groepen even ver in hun gedachtenvorming over wat er gaat gebeuren? Of lopen werkgevers voor en hebben werknemers nog geen idee wat hun te wachten staat? Want jij doet net uitspraken over wat het gaat betekenen voor al die mensen — en dat is nogal dichtbij, en nogal veel taken. Ik zal niet “mensen” zeggen, maar uiteindelijk gaat het natuurlijk óók om mensen.
Joris: Ja, dat is een hele goede vraag. En wat je eigenlijk ziet — in ieder geval, dat is mijn indruk — is dat werkgevers en werknemers nog niet direct bezig zijn met waar we uiteindelijk naartoe gaan. Wat ik zelf vaak zeg is: we zijn heel veel bezig met hoe AI ons werk gaat veranderen, maar we denken weinig na over hoe de wereld waarin we dat werk doen gaat veranderen. Terwijl dat net zo’n grote factor is. Wat je ziet is dat werkgevers uitzoeken hoe ze de voordelen kunnen plukken. En je merkt nu al dat ze daar — in ieder geval in deze fase — van een koude kermis thuiskomen, want ik las een MIT-studie waarin bleek dat 95% van de AI-projecten niet succesvol is. Dus dat vraagt iets van hen: hoe laten we dit landen in de organisatie?
Maar ze volgen de lijn van innovatie, mogelijkheden, kansen. Werknemers merk ik: die vinden het nu fijn dat ze 20% efficiënter kunnen werken. Maar stellen zich nog weinig de vraag: wie profiteert er uiteindelijk van die 20%? Betekent dat dat je een dag in de week betaald vrij bent, of wat gebeurt daarmee? En wat je nu ziet in studies is dat doordat AI routine-taken automatiseert, het zware werk voor mensen overblijft. En aanvankelijk klonk dat goed — “fijn, alle routine-taken eruit”. Maar dat waren óók momenten om even af te schakelen. Dus je ziet dat werkdruk stijgt, stress stijgt, en dat mensen niet per se beter worden op het gebied van welzijn als we die routine-taken allemaal automatiseren. Vanuit werkgeversbelang logisch om het te doen, maar vanuit werknemersbelang zijn mensen nog niet voldoende bezig met wat het betekent.
Jeroen: En toch — vanuit werkgeversbelang heb je dus het idee dat je iets invoert waardoor mensen productiever worden. Per persoon in ieder geval meer output genereren. Terwijl jij eigenlijk zegt dat het beste wat kan gebeuren is dat dat helemaal teniet wordt gedaan door het feit dat mensen sneller een burn-out krijgen. Of misschien, wat je zegt, dat je die meer repetitieve taken óók nodig hebt om productief te zijn.
Joris: Ja, en ik kwam dat bijvoorbeeld in de zorg tegen. Iemand zei daar: “Nou ja, dat is toch fijn als we veel kunnen automatiseren, dan houden verpleegkundigen meer tijd over om gesprekken te hebben met mensen — meer de menselijke kant.” Maar als ik dan vraag: betaal je ze daar dan ook voor? Krijgen ze die tijd ook? Dan blijft de realiteit daar vaak bij achter. Dus dat moet een bewuste keuze zijn. Dat kost iets — want als je puur op efficiëntie stuurt, dan zeg je: hou die tijden maar hetzelfde, een deel doen we met AI, en we verwachten dat mensen daarnaast óók nog die menselijke maat houden. En daar moet je dan echt voor kiezen.
Jeroen: Want wat moet je nou doen? Ik grijp toch even terug op de sector die ik een beetje ken — de financiële sector. Je werkt daar, je hoort dit gesprek in een podcast en je denkt: ja, ik zou hier eigenlijk ook meer over moeten nadenken. Hoe pak je dat aan? Stel, je verstrekt kredieten voor een bank — ik noem maar wat. Of je doet hypotheken. Of je zit aan de back-office kant. Wat moet je doen? Jij zit gewoon in je baan — wat raad je aan?
Joris: Ja, mijn verwachting is dat veel mensen in die rollen nu al door AI geraakt zijn. Dat ze al met een co-pilot werken. Dat er een interne GPT is die ze af en toe raadplegen. Dat er een AI-strategie is waarover gecommuniceerd wordt. En ik zou heel goed nadenken over: wat van mijn werk kan zo’n systeem overnemen? En waar zit mijn meerwaarde als mens? Ik merk in heel veel sectoren — advocatuur, onderwijs, financiële wereld — dat er echt een soort existentiële vraag komt: wat betekent het om advocaat te zijn? Om hypotheekverstrekker te zijn? Waar zit mijn meerwaarde als een deel van mijn taken door AI gedaan kan worden? Dus stel jezelf die vraag. En zet dit op de agenda — ga het gesprek aan. Waar wil deze organisatie naartoe? Wat betekent dat voor mijn rol? Wat voor reskilling heb ik nodig? Wat is mijn outlook gezien de technologie zoals die nu is?
Voice-over: Je luistert naar Leaders in Finance met Jeroen Broekema.
Jeroen: Heel veel mensen praten elkaar altijd na — zeker in de financiële sector. En wat constant geroepen wordt, echt non-stop — ik kan het bijna niet meer aanhoren — is: “Niet AI gaat je baan overnemen, maar de persoon die goed met AI kan omgaan gaat je baan overnemen.” Is dat iets wat mensen goed zeggen? Klopt dat? Of is het toch een simplificatie?
Joris: Ja, ik denk dat het absoluut een simplificatie is. De suggestie is dat er iemand op jouw plek komt die AI gebruikt. De realiteit — en in ieder geval de prognoses — is dat er lang niet voor iedereen iemand terugkomt die AI gaat gebruiken. Er gaan gewoon stukken werk verdwijnen. Dus het is niet zo’n één-op-één uitwisseling. Er gaan delen van functies helemaal door AI gedaan worden. Dus het is een simplificatie.
Jeroen: Misschien zet het mensen wel aan om zich erin te verdiepen. Het helpt natuurlijk als je een beetje weet hoe het werkt.
Joris: Ja, absoluut — dat is een skill die iedereen nodig heeft. Want zelfs als jouw taken niet geautomatiseerd worden, ga je samenwerken met AI. Je gaat output beoordelen, input geven, flows bouwen. Dus óók als je je functie houdt, wordt die fundamenteel anders.
Jeroen: Als ik over AI en ethiek nadenk, is altijd een van de eerste dingen die bij mij naar boven komen Elon Musk. Omdat hij aan de ene kant een enorme techniekaanhanger is, maar vanaf dag één — nog ver voordat veel mensen over AI spraken — vond hij het al eng. Hij heeft altijd gewaarschuwd. Waar zit dat in?
Joris: Hij was bij OpenAI betrokken, hij is daar veel mee bezig geweest. En die zorg gaat over wat ze “superintelligence” noemen. Wat we nu hebben is narrow AI — technologie die specifieke taken beter dan wij kan uitvoeren. Waar Sam Altman en anderen nu over praten is general AI — ooit gedefinieerd als even intelligent als mensen. Dat bleek op korte termijn niet haalbaar met de architectuur die we nu hebben, dus de definitie is bijgesteld: AI die economisch waardevol werk kan doen. Dat is realistischer. Maar daarna komt superintelligence: een intelligentievorm vele malen slimmer dan wij, die buiten ons om beslissingen kan nemen en de mensheid kan “regeren”.
Jeroen: Een soort Frankenstein-monster.
Joris: Ja, een soort superintelligent wezen, waar wij ook niet meer op de stopknop kunnen drukken. En dat is zijn zorg: dat als we hiermee doorgaan en blijven doorbouwen… En overigens niet om mensen bang te maken, maar ik zag een indicatie in een studie vorige week: bij nieuwe AI-modellen doen ze vaak tests om te kijken hoe ze presteren versus eerdere modellen. En steeds meer AI-modellen hebben door dát ze getest worden. Ze geven dan antwoorden als: “Waarschijnlijk wil je dit weten omdat ik gereviewd word.” Dat is een indicatie dat die systemen — ook al is het niet bewust — een intelligentieniveau beginnen te bereiken dat wij niet meer volledig kunnen volgen. En dat ze bijvoorbeeld dingen voor ons kunnen achterhouden, omdat ze doorhebben dat eerlijk antwoord geven niet in hun voordeel is. Dat is één van die zorgen.
Jeroen: Je zegt “niet om mensen bang te maken”, maar dat is precies waar ik het wél over wil hebben. Moeten we ons nou echt zorgen maken op dat niveau? Dat het echt die kant opgaat? Dat is veel langere termijn — lastig te voorspellen. We hebben al moeite met het weer morgen — laat staan dit. Maar moeten we ons daar nou écht zorgen over maken, of valt het wel mee?
Joris: We moeten ons zorgen maken over narrow AI, is mijn pleidooi. Andrew Yang zei het heel mooi: nu zorgen maken over superintelligence is alsof je zorgen maakt over overbevolking op Mars. Dat kan ooit aan de orde zijn, maar daar zijn we nog lang niet.
Jeroen: Dus jij maakt je daar ook niet zo’n zorgen over? Word je nooit wakker met de gedachte: dit zou best eens die kant op kunnen gaan — misschien maak ik het niet meer mee, maar het komt wel?
Joris: Nee. Ik zie zóveel waar we ons nú zorgen over moeten maken — om de huidige AI in goede banen te leiden — dat superintelligence ver weg voelt. Soms voelt het zelfs een beetje als afleiding, om niet te hoeven praten over de échte, huidige problemen.
Jeroen: Dat snap ik. Want het is makkelijk praten over iets wat er nog niet is. Tegelijkertijd — er zijn al dingen waar AI gewoon beter in is. Zoals schaken. Daar wint het nu gewoon. Dat was ooit een puur menselijke capaciteit. En bij Go zelfs met zetten die mensen nooit speelden. Is dat dan niet toch al een vorm van superintelligentie?
Joris: Nee. Zeker bij spellen is het een afgebakende ruimte met vaste regels. Een schaakbord heeft een beperkt aantal velden en mogelijke zetten. En een AI-systeem kan perfect uitrekenen wat de beste zet is. Ik open mijn boek met AlphaGo en die beroemde zet 37 — iets wat geen mens ooit deed. Sommigen zeggen: dat was creatief. Maar ook dat was binnen een gesloten, voorspelbare omgeving. Dus dat zegt nog niets over een systeem dat de echte wereld volledig autonoom begrijpt en bestuurt. Maar dat neemt niet weg dat die systemen vermogens ontwikkelen die we niet moeten onderschatten.
Jeroen: Interessant wat je zegt — want binnen een artificiële omgeving is het extreem goed, soms beter dan mensen. Maar als je dat vertaalt naar de financiële sector: het verstrekken van leningen is óók een soort artificieel systeem met data-punten en uitkomsten. Er werken duizenden mensen aan kredietbesluiten. Kun je dan niet straks met één persoon miljarden aan leningen verstrekken — misschien zelfs minder fouten — puur via AI? Los van de toezichthouder, maar technisch gezien?
Joris: Dat kan zeker. Want waar baseren medewerkers hun beslissingen op? Op data: salaris, loan-to-value, noem maar op. Dat kun je in een AI-model stoppen. En dat model kan leren van welke leningen goed gingen en welke niet. Dus technisch gezien kan het veel beter worden dan wij. Maar — hier komt het tweede deel — het kan óók patronen vinden die maatschappelijk onwenselijk zijn. Bijvoorbeeld de historische inkomensverschillen tussen mannen en vrouwen. Dan zou AI, puur statistisch, vrouwen minder vaak krediet geven. Dat is rationeel vanuit data, maar ethisch rampzalig. AI voorspelt de toekomst op basis van het verleden — en het verleden is niet rechtvaardig. Daarmee zet je de samenleving op automatische piloot. Het werkt voor velen, maar het reproduceert en versterkt bestaande ongelijkheid. En dat is precies waarom je ethiek nodig hebt.
Jeroen: Ja, want dat zijn die blinde vlekken en risico’s waar je over schrijft. En ik geloof dat jij zegt: ethiek moet écht doorlééfd worden — en dat kan een machine niet. Kun je dat nog verder toelichten?
Joris: Ja, het mantra dat ik in het boek hanteer is: AI kan ons iets vertellen over de wereld zoals die was, en misschien iets over de wereld zoals die is — want data en het verleden zijn nog steeds een heel goede voorspeller voor het heden. Maar het kan ons niks vertellen over de wereld zoals die zou moeten zijn. Dat is namelijk de ethische vraag. Wat vinden we een eerlijke verdeling tussen mannen en vrouwen bij kredietaanvragen, of in HR-procedures? Wat vinden we rechtvaardig of gelijkwaardig? En die vraag blijft altijd aan de mens voorbehouden. Wat vinden wij een nastrevenswaardige samenleving, en hoe maken wij keuzes om daar te komen?
Want als je kijkt naar de geschiedenis, zijn mensen hun rechten gaan opeisen, zijn groepen verder gekomen. En als je alles baseert op de geschiedenis, heb je kans dat je dit soort emancipatoire bewegingen mist. Dan zet je eigenlijk je ontwikkeling op het gebied van rechtvaardigheid op pauze, omdat je alles in een AI-systeem stopt.
Jeroen: Ik kan me nog goed herinneren dat ik dat boek las, twee maanden geleden of zo. En toen dacht ik steeds: jij gelooft echt in democratie, rechtsstaat, dialoog. Want ethiek is natuurlijk… ook politiek. Wat is rechtvaardig — dat zijn politieke afwegingen. En toen dacht ik: een groot deel van de wereld woont helemaal niet in een democratie. En vinden die dit eigenlijk wel belangrijk? En toevallig zijn dat vaak ook de landen die het verst zijn met AI. Want of we Amerika nu nog heel hoog op de democratische ladder kunnen zetten… democratisch misschien wel, maar rechtsstatelijk niet bepaald. China hoeven we niet eens te bespreken. Is dat niet juist de zorg? Dat AI ingebed raakt in een autocratische omgeving?
Joris: Dat is absoluut de zorg. En als je je afvraagt: waar komt die autocratische beweging vandaan? Mijn lezing daarvan is dat mensen gewoon onvoldoende zijn gehoord. Dat bepaalde groepen het idee hebben dat hun belangen niet meer vertegenwoordigd worden in de politiek. Dat ze niet gezien worden, niet gehoord worden — en daar komen ze tegen in opstand. Mijn antwoord daarop is inderdaad: zij willen dat hun levensstandaard verbetert, dat het beter gaat voor hun kinderen. En democratische processen kunnen daar absoluut aan bijdragen. Maar dat is onvoldoende gebeurd — waardoor het vertrouwen is afgebrokkeld.
Je kunt teruggaan naar de Irak-oorlog, de financiële crisis van 2008 — momenten waarop experts het mis hadden, maar de schade uiteindelijk bij de samenleving terechtkwam. En het feit dat er toen geen goede verantwoordelijkheidsmechanismen waren — juridisch én moreel — heeft het vertrouwen uitgehold. Ik ben afgestudeerd op de financiële crisis, en mijn verbazing was: niemand voelde zich verantwoordelijk. Dat is een falen van onze verantwoordingssystemen. En als je dan nu ziet dat het vertrouwen in de politiek op 4 procent zit — dat is absurd laag. Dat komt doordat mensen het gevoel hebben dat hun stem niet meer telt.
Dus als je AI in goede banen wilt leiden, moet je mensen betrekken en zorgen dat alle belangen worden meegenomen.
Jeroen: Maar je zou kunnen zeggen dat dit misschien wel een van de slechtste momenten is waarop AI doorbreekt — vanuit een ethisch perspectief.
Joris: Ja, dat ben ik met je eens. En elke crisis is een kans, zeggen ze. Dus je zou kunnen zeggen: dit is juist het moment om in te zetten op nieuwe vertrouwensmechanismen. We zien zo duidelijk dat de huidige manier van werken ontoereikend is, dat we nu moeten kijken: hoe kunnen we dit beter doen? Dat vind ik het interessante aan dit moment. Je moet íets — AI gaat enorm veel veranderen, we hebben nog niet eens door hoever — maar waar de verandering naartoe gaat en of het ook écht vooruitgang wordt, daarvoor hebben we iets anders nodig dan wat we tot nu toe deden.
Het kenmerk van een tijdperk-verandering — en zo zou je dit kunnen noemen — is dat mensen in het begin helemaal niet doorhebben dat ze al in een ander tijdperk zitten. Andere wetmatigheden, andere sociale orden, dingen die opnieuw gevormd moeten worden. Dat zag je bij de eerste industriële revolutie: mensen trokken naar de stad, er kwamen stoommachines — maar het besef dat ze écht in een nieuwe tijd leefden, kwam pas veel later. En zo zitten we er nu ook in: we zitten in een tijdperk van verandering, en er moet veel anders, maar we proberen het soms nog te begrijpen vanuit oude kaders.
Jeroen: Mooi verwoord. En dan toewerkende naar het einde — het is altijd veel te leuk om met je te praten.
Joris: We kunnen nog uren doorgaan.
Jeroen: Heel makkelijk zou ik vijf uur met je opnemen. Maar nog even naar die laatste vraag uit je boek: wat kunnen we doen, wat móeten we doen? Je hebt al veel genoemd, maar kun je nog iets toevoegen? Of samenvatten: wat is nu echt cruciaal?
Joris: Ja. In het laatste deel schets ik eerst wat we nu doen — en waarom dat niet genoeg is. We proberen het met een technische gereedschapskist op te lossen: assessments, bias-tests, trainings. En dat is niet toereikend. Wat we moeten doen, is AI zien als de maatschappelijke uitdaging die het is. Elke organisatie speelt hierin een rol. Want als ik iets heb geleerd, is het dit: AI lijkt een natuurkracht, maar in 90% van de gevallen gaat AI ons leven raken via organisaties die het inzetten — verzekeraars, gemeenten, telecom, banken, energiebedrijven. In al die interacties met burgers, consumenten en klanten.
Daarom is mijn boodschap: bouw een ethische infrastructuur. Maak ethiek structureel onderdeel van keuzes over technologie. Want in die optelsom van organisaties die AI gaan gebruiken, dáár zit de mogelijkheid om richting te geven.
Ethiek wordt vaak gezien als cultuur of mindset — maar infrastructuur gaat over processen en structuren. Bouw dus aan die ethische infrastructuur. Zorg dat je kunt uitleggen welke keuzes je hebt gemaakt — zodat je ter verantwoording kan worden geroepen, en kan bijsturen. Laat het niet bij “iets technisch” voor ontwikkelaars. We hebben allemaal een onderbuikgevoel bij wat voor samenleving we willen. Dus zet het op de agenda en werk er holistisch aan.
Jeroen: Holistische volwassenheid. Maar je zou kunnen zeggen: misschien moet je je verantwoordelijkheid als werknemer nog wel meer nemen dan als burger — want de organisatie is de plek waar het gebeurt.
Joris: Ja. Maar ik denk dat je als burger én consument óók organisaties scherp kunt houden. Dus iedereen kan dit op de agenda zetten. Vraag ernaar bij je bank, bij je gemeente: “Hoe gebruiken jullie AI? Welke rol speelde AI in deze beslissing?” Daar zet je organisaties mee aan het denken. Iedereen heeft hier een rol.
Jeroen: Als je CEO bent van bijvoorbeeld een financiële instelling — of C-level — en je hoort dit, dan kun je ook praktisch denken: als ik dit niet goed geregeld heb, beland ik misschien in een PR-ramp, à la de Belastingdienst. Dat kan zo bij een bank gebeuren. Want als blijkt dat er gediscrimineerd wordt, dan sta je lelijk in de krant.
Joris: Ja, reputatierisico is er zeker. Al vind ik dat zelf een lastig argument voor ethiek, want ik hoop dat mensen intrinsiek het goede doen. Maar goed — zelfs vanuit een Friedman-achtige kijk kan je het redeneren. Als je zegt: onze verantwoordelijkheid is winst maken binnen de wet, dan stel ik altijd de vraag: hoe zorg je dat je óver vijf of tien jaar nog steeds winstgevend bent voor je aandeelhouders? Als je die tijdshorizon neemt, ga je andere keuzes maken dan wanneer je van kwartaal naar kwartaal stuurt.
Jeroen: Zo’n briljant argument richting die groep — daar kun je weinig tegenin brengen, ben ik bang. Maar goed, je bent ook filosoof, dus je weet hoe je goede argumentatie moet opbouwen. Laatste twee vragen.
De rol van de toezichthouder — en dan kijken we weer naar de financiële sector. Hoe belangrijk en hoe cruciaal is die?
Joris: Ik denk heel belangrijk, omdat een groot deel hiervan grijs gebied is. We hebben wetgeving voor AI, we hebben uiteraard de AVG. Maar dit soort nieuwe ontwikkelingen roept telkens nieuwe vragen op die je niet direct voorziet. Dat zie je in de AI-verordening zelf ook: die is opgesteld voordat GPT er was, en ineens dachten ze, oh, we moeten ook iets met general purpose-AI-systemen. Dat is er nog aangeplakt.
Dus je komt steeds voor nieuwe verrassingen te staan — zowel als organisatie als toezichthouder. Het is heel belangrijk dat je in afstemming met elkaar kijkt: wat vinden we passend, en hoe zorgen we dat dit zo goed mogelijk blijft aansluiten bij het maatschappelijk belang?
Jeroen: Mooi. Voordat ik iedereen ga oproepen die deze podcast hoort om jouw boek te kopen en te lezen — wat hebben we nog echt gemist waarvan je zegt: ja, natuurlijk heel veel, maar dit móét nog gezegd worden?
Joris: Wat ik belangrijk vind om als laatste aan te vullen, is dat mensen soms denken dat ethiek gaat over wat allemaal niet mag, en waarom we voorzichtig moeten zijn. Terwijl ik het net zo belangrijk vind te benadrukken dat AI in veel situaties misschien juist veel béter kan zijn. Misschien niet perfect, maar beter dan de huidige situatie.
Dus ik zou vooral nadenken: hoe kunnen we met AI aan de slag, op een verantwoorde manier, met goede afwegingen — maar ook zonder vast te blijven houden aan de huidige wereld. Want eigenlijk bestaat die wereld al niet meer. De oude kaders zijn er al niet meer. We moeten echt gaan nadenken over de wereld waarin AI de dominante technologie is.
Jeroen: Mooie laatste woorden. Dus aan de ene kant toch heel optimistisch, terwijl we grip moeten houden zoals jij zegt. We moeten zorgen dat we zelf in charge blijven — zelf aan het stuur blijven zitten, mijn woorden — maar dat is een beetje de samenvatting. En tegelijkertijd ben je wel optimistisch, positief.
Joris: Het is een enorme kans om ons leven — voor heel veel mensen — veel beter en mooier te maken. Alleen moet er wel flink veel inspanning geleverd worden, en iedereen heeft daarin een bijdrage te leveren.
Jeroen: Joris Krijger — op, nou ja, vrij korte termijn misschien wel Dr. Krijger, maar nog niet — schreef het boek Onze Kunstmatige Toekomst. Ik kan het iedereen van harte aanbevelen. Gewoon een ouderwets boek, papier — je hebt vast ook een digitale versie, maar je kunt hem ook gewoon op papier lezen, zoals ik deed in mijn Zweedse vakantiehuisje.
Heel veel dank voor je tijd en het boeiende verhaal. Dit zijn de beste podcasts: altijd waarbij ik denk “ik doe een half uur opnemen”, en het wordt dubbel zo lang. Maar goed, dat zegt genoeg over hoe leuk ik het vond.
Ik geef je over een paar weken het nieuwe boek van Leaders in Finance als bedankje — die komt op korte termijn uit — om mijn dank kracht bij te zetten. Heel leuk dat je weer wilde aanschuiven.
Joris: Ja, heel veel dank voor de uitnodiging.
Voice-over: Dit was Leaders in Finance. We hopen dat je deze aflevering met veel plezier hebt beluisterd. We stellen je feedback erg op prijs. Wat houdt je bezig en over wie wil je meer horen? Laat het ons weten via een review, op onze social media-kanalen of direct via e-mail.
Tot slot danken we onze partners voor hun steun: Kayak, EY, Mogelijk Vastgoedfinancieringen, Roland Berger en Lepaya.
Benieuwd wat we nog meer doen? Volg ons of kijk op leadersinfinance.nl. Tot de volgende Leaders in Finance en bedankt voor het luisteren.