[0:00]Welkom bij Toekomstschrijver. Een podcast over de grote thema's van deze tijd en hoe we daarover schrijven, lezen en dus ook denken. Vandaag gaan we het hebben over de razendsnelle opkomst van AI. Apps als chat GPT, Claude, Gemini en Copilot zijn van grote invloed op hoe we ons informeren, op wat we lezen en hoe we schrijven. Maar er staan nog veel meer op het spel en daarover ga ik vandaag in gesprek met tech expert Marietje Schaake. Vandaag is ook de dag dat haar pamflet De machtscode verschijnt. En daarin waarschuwt ze ons voor de onzichtbare belangenstrijd achter AI. Als Europarlementariër hield Marietje Schaake zich bijna 10 jaar lang bezig met technologie en geopolitiek. En tegenwoordig doet ze dat als onderzoeker aan de Universiteit van Stanford. Dus als iemand weet hoe we ons moeten verhouden tot de duizelingwekkende opmars van AI, dan is zij het wel. En we willen natuurlijk ook weten of Marietje dit boek helemaal zelf geschreven heeft. Welkom Marietje. Als eh onderzoeker aan de Universiteit van Stanford ben jij dagelijks bezig met de impact van AI op ons leven, op onze samenleving, op onze democratie. Eh en waarom wilde je daar een boek over schrijven? Nou, ik vind het belangrijk dat mensen zien wat de enorme belangen achter AI zijn, want heel veel mensen zijn natuurlijk onder de indruk van hoe snel de technologie zich ontwikkelt, wat voor nieuwe apps, nieuwe versies van apps er allemaal zijn. En dan is het natuurlijk heel verleidelijk om het te gaan gebruiken. Maar om je niet af te vragen wat voor gevolgen zit er eigenlijk aan voor nou ja, het milieu, maar ook voor de geopolitieke belangen. Wie help je eigenlijk door op zo'n platform te gaan zitten? En dat wilde ik in de machtscode graag eh ja, een beetje laten zien, omdat het voor veel mensen niet zo duidelijk is. Je boek heet De Machtscode. Ehm dan denk ik altijd meteen een beetje aan Dan Brown. Het had ook een eh titel van hem kunnen zijn. Ik weet niet of dat een compliment is, maar goed. Het is in elk geval spannend. Ja, zeker. Wat is De Machtscode? Het gaat erom dat AI niet zozeer alleen maar technologie is of een slimme app of een handige oplossing zoals veel mensen het zien, maar dat er heel veel ehm ja, gevolgen, maar ook ehm politieke agenda's achter zitten. Bij de CEO's en investeerders van de bedrijven die de grootste AI producten nu eh op de wereld zetten. Eh en natuurlijk de politiek van Donald Trump die heel erg hecht is met de tech bedrijven, maar ook een agenda heeft, gewoon in officiële beleidsdocumenten staat dat hij absoluut de wereldwijde dominantie wil van Amerikaanse AI, dus eigenlijk America First in de vorm van AI. En omdat wij zo afhankelijk zijn van Amerikaanse technologie in Europa, betekent dat dus ook dat wij heel makkelijk onder druk gezet kunnen worden of door die afhankelijkheid kwetsbaar zijn in elk geval.
[2:51]En dat is een hele onwenselijke situatie, dat moet gewoon echt niet. En toch, terwijl we dat volgens mij weten, hè, het staat ook in het nieuwe regeerakkoord, we moeten meer digitaal soeverein zijn, blijven we toch maar meer AI gebruiken en eh lijkt het alsof we niks hebben geleerd van de tijd van sociale media waar we nu nog steeds de scherven van aan het oprapen zijn. En ja, het moment dat AI eh voor de bij de meeste mensen eigenlijk pas echt ging leven, eh dat was toen eh Open AI chat GPT lanceerde. Dat was in eh 2022. Laten we heel even luisteren naar de eerste reacties. Vind ik wel problematisch. Pure verwondering. Het is echt echt magie. Ja, dit is toch een jankerig stukje proza. dit
[3:37]Nou. Zo. Dit is wel echt een zucht. Ik vind hem wel heftig hoor. De meningen zijn nogal verdeeld over het nieuwe programma Chat GPT, dat kunstmatig teksten verzint over werkelijk elk onderwerp en ze voor je ogen uit typt. Zelf noem je AI eh een populaire, veelbelovende en beangstigende technologie. En het leek me wel interessant om dat eens te ontleden. Eh laten we beginnen met hoe populair is AI eigenlijk? Hoeveel mensen gebruiken het wereldwijd? Oh, dat zijn nu echt miljarden mensen. En eh er zijn natuurlijk een heleboel verschillende type AI. Maar inderdaad, zoals we ook in het fragment hoorde, zijn die chatbots de AI die mensen het meest, nou ja, zien, denk ik, hè, want anders zit het in een auto verstopt of soms in een wasmachine, een telefoon. Maar de directe interactie is vaak via die chatbots. En ehm dat heeft natuurlijk ook enorme gevolgen dat we zoveel taken steeds meer overdragen, het samenvatten van stukken, het schrijven van stukken, het schrijven van software. Eh aan die generatieve kunstmatige intelligentie. En en hoe zit het met de het aantal gebruikers in Nederland? Is dat meer of minder, denk je dan in andere landen? Ja, wat we weten is dat het de snelst groeiende technologie ooit is. En eh ik denk dat het dus om miljarden gebruikers in de wereld gaat en vast ook miljoenen in Nederland. Ehm omdat ja, heel veel mensen toch verleid worden om het te gaan gebruiken. Soms lopen ze ook hard tegen de lamp, maar eh het wordt steeds normaler ook om het te gebruiken. En eh de rol van ons eh van AI in ons leven wordt door heel veel tech bedrijven als eh eigenlijk als onvermijdelijk bestempeld. Ehm in hoeverre stuurt AI ons leven nu al? Nou, zeker. Eh ja, het hangt er een beetje vanaf, dus waar je eh op in gaat zoomen qua dat sturen. Maar laten we bijvoorbeeld eens kijken naar de eh de zoekfunctie van Google. Natuurlijk iets waar heel veel mensen al heel lang gebruik van maken, ook voordat er AI was. Eh en nu geeft Google een soort korte samenvatting bovenaan de pagina, dus zegt niet meer, hé, op deze links kan je klikken als je iets wil weten over, nou ja, de laatste beslissing in de Tweede Kamer ofzo. Eh en zegt zegt eh Google zelf, volgens die samenvatting wat er speelt. En daardoor komen mensen niet meer op de websites van nieuwsmedia of van de Tweede Kamer zelf. En dat heeft grote gevolgen voor het verdienmodel van journalistieke bedrijven of organisaties. Eh maar het heeft natuurlijk ook grote gevolgen voor wat we tot ons nemen aan informatie. Want die samenvattingen kunnen ook gekleurd zijn, kunnen ook sturen. Was een heel interessant voorbeeld voor de Tweede Kamerverkiezingen door de autoriteit persoonsgegevens. Want die had een test gedaan met chatbots en stemadvies. En het was echt opzienbarend wat daaruit bleek, want de meest populaire en in de meest in Nederland gebruikte chatbot stuurde mensen eigenlijk maar naar twee politieke partijen. Of naar de PVV of naar pro wat toen nog geen pro heette, maar partij van de Arbeid GroenLinks. En eh dat is natuurlijk gek als je een een veelheid aan partijen hebt, waarom dat dan steeds zo eh gebeurt. Eh dus dat slaat eigenlijk ons veel diversere politieke systeem, ons landschap, de keuze die kiezers hebben plat tot iets wat meer lijkt op het Amerikaanse systeem, namelijk twee partijen, conservatief en progressief. En de waarschuwing van de autoriteit persoonsgegevens was ook: ja, laat je stemgedrag niet informeren door chatbots. Maar ja, eh mensen doen dat natuurlijk toch, want steeds meer mensen gaan eh wel allerlei informatie opvragen bij chatbots. En dat ja, dat kan van gezondheidsinformatie eh tot nieuwsinformatie of ehm ja, banenadvies hè, hoe moet ik een sollicitatiegesprek voeren of eh informatie over klimaat of cultuur en als dat niet eh betrouwbaar is of als daar zelfs sturing in zit. Vanuit commercieel belang, bijvoorbeeld bepaalde merken voortrekken of vanuit politiek belang, bijvoorbeeld bepaalde politieke stromingen voortrekken. Dan is dat heel moeilijk voor de gemiddelde gebruiker om te zien, maar heeft dat natuurlijk invloed op ons denken en op ons gedrag. Ja, ja, op dat eh ja, dit klinkt best beangstigend. Daar komen we zo nog op te spreken. Die beangstigende die eh kwam kwam wel tussendoor. Ehm maar je noemt het ook een veelbelovende technologie en ehm ja, vertel eens waar jij dan aan denkt. Wat is er veelbelovend? Nou, je kan met AI natuurlijk heel veel eh informatie verwerken, bijvoorbeeld en ook eh innovaties op heel ander gebied faciliteren, zoals het ontwikkelen van nieuwe medicijnen. Eh dus er zit heel veel goeds in eh de manier waarop je informatie kan verwerken. Alleen wat ik ook probeer uit elkaar te halen is niet alleen wat je ermee kan, maar ook wie je ermee helpt. Dus als bijvoorbeeld een groot Amerikaans bedrijf helpt om nieuwe medicijnen te ontwikkelen en daar vervolgens patenten op gaat aanvragen, dan is het natuurlijk heel fijn dat mensen genezen kunnen worden, maar betekent het wel dat er heel veel winsten die eerst naar bijvoorbeeld Europese farmacie bedrijven gingen, nu naar Amerikaanse AI bedrijven gaan. En dat moeten we ook begrijpen. Dus je kan niet alleen maar zeggen oh wat handig of oh wat grappig of eh oh wat efficiënt. Je moet wat mij betreft ook echt naar die belangen daarachter kijken om een soort optelsom te maken van waar komen we nou uiteindelijk op uit? Eh ja, dan zijn we alweer bij het beangstigende stukje aangekomen. Ehm er zijn ook genoeg beangstigende uitspraken van eh de mensen achter AI. Laten we daar even naar luisteren. My worst fears are that we cause significant, we the field, the technology, the industry cause significant harm to the world. I think that could happen in a lot of different ways. It's why we started the company. It's big part of why I'm here today and why we've been here in the past and we've been able to spend some time with you. I think if this technology goes wrong, it can go quite wrong. And we want to be vocal about that, we want to work with the government to prevent that from happening, but we we try to be very clear-eyed about what the downside case is and the work that we have to do to mitigate that. Tonight the urgent warning from a top AI executive, Dario Amodei, the man behind the incredibly popular AI model Claude. That's popular with businesses and coders. His company Anthropic is estimated to be worth nearly 350 billion dollars. But tonight, he's out with a new essay for everyone, warning that future AI tech could post a real danger to civilization as we know it. Writing, I believe we are entering a right of passage, both turbulent and inevitable, which will test who we are as a species. Humanity is about to be handed almost unimaginable power, and it is deeply unclear whether our social, political, and technological systems possess the maturity to wield it. I think, I think AI is one of the biggest threats. So if I was to try and quantify what's coming down the line with the advent of AGI, I think it's going to be the most one of the most momentous periods in human history, probably something more like the advent of fire or electricity. One way maybe we can quantify that is, it's I think it's going to be something like 10 times the impact of the industrial revolution, but happening at 10 times the speed, probably unfolding in a matter of a decade, rather than a century. So really this is an enormous amount of change going to come. And it's it's still to be written how we can make that beneficial for for the whole world. Ja, grote uitspraken in allerlei richtingen van mythische proporties. Ehm waarom doen ze dit soort uitspraken, denk je? Nou, ik vond de de uitspraken van Sam Altman interessant, omdat hij eigenlijk zegt dit is levensgevaarlijk en daarom hebben we het bedrijf ook opgericht. Dus wat hij aan de ene kant doet is waarschuwen en ik denk dat hij daarmee ook probeert de verantwoordelijkheid weg te schuiven bij het bedrijf zelf, namelijk te zeggen: we hebben jullie gewaarschuwd hè, dit is wat er kan gebeuren. En op dat moment zei hij ook, dit was een hoorzitting in het Amerikaanse Congres, dat er wetgeving moest komen. Dat was toen zijn pleidooi en daarmee deed hij een enorm charmeoffensief, omdat eerder CEO's, zoals Mark Zuckerberg van Meta bijvoorbeeld, heel erg tegen wetgeving waren en ook echt een enorme confrontatie met die leden van het congres eh had. En Altman wierp zich eigenlijk op als eh ja, een soort vraagbaak van nou hè, we moeten hier samen uitkomen, ik kan jullie wel vertellen hoe deze technologie werkt. En dat werkte ook, want senatoren gingen aan hem vragen: goh, als we AI nou willen reguleren, hoe zou jij dat doen? Nou, dat is dus heel gek, want hij heeft gewoon een belang natuurlijk, en het idee van van toezicht eh en wetgeving is vaak juist onafhankelijk toezicht en niet van eh laten we aan het bedrijf vragen hoe dat eruit moet zien. Er zijn in de hele, nou ja, wereld van AI experts, of het nou wetenschappers zijn of CEO's, heel veel mensen die waarschuwen voor allerlei risico's van AI. Of het nou op korte termijn is, wat we al weten, dat het vaak discrimineert of dat er grote gevolgen zijn voor het milieu of voor banen. Maar ook ja, een soort dramatische risico's van het verlies van controle van mensen over deze systemen. Eh soort existentiële risico's, dus het idee dat AI kan helpen bij het ontwikkelen van chemische wapens die tegen de mensheid kunnen worden ingezet. Heel heftig allemaal. En wat je dus vaak ziet aan CEO's zoals Sam Altman is dat ze aan de ene kant waarschuwen, maar aan de andere kant ook zeggen: kijk, wij gaan het dus wel veilig maken. Eh vertrouw ons maar. En wat mij betreft, en dat staat helemaal los van of ik nou sympathie heb voor de één of de andere CEO, maar is dat dus niet de weg die we moeten gaan, want je kan niet degene die zo'n belang hebben, bedrijfsbelang eh hè, investeerders die naar ze kijken om winst te maken, producten die ze gewoon willen verkopen, ook verantwoordelijk maken voor het toezicht en de veiligheid. Dus ehm ik wil dat we naar een situatie gaan waarin we dit soort uitspraken ook beter onafhankelijk kunnen toetsen, waar ze nou op gebaseerd, kunnen we onder de motorkap kijken. En dat er veel eh sterkere grip komt vanuit democratisch bestuur op dit soort bedrijven en dat je dus niet een soort intern debat hebt tussen CEO's over wat nou het grootste risico is en welk bedrijf het meest hecht aan veiligheid, want dat is de situatie waar we nu in zitten.
[13:54]Het is een soort clubje, echt een heel klein clubje waar heel erg veel macht eh zit en heel weinig toezicht. Er is ook eh veel angst om de boot te missen. AI Fomo noem je dat eh in je boek. Eh kun je dat uitleggen? Ja, dan dan gaan we weer even terug naar de hype. Ehm namelijk hè hoe ongekend eh generatieve AI allemaal is, wat je er allemaal mee kan en eh er is toch echt een soort push, dat merk ik ook als ik met mensen uit het bedrijfsleven spreek of ook bij de overheid of ook bij gewoon mensen die studeren, dat ze echt allemaal denken, oh, ik moet daar iets mee. En als ik dat niet doe, dan gaat mijn concurrent of mijn collega of mijn medestudent misschien harder dan ik en dan missen we dus met z'n allen de boot. En het hele idee van de boot missen is in Europa natuurlijk sowieso gevoelig, want nou ja, er is heel veel zorg over onze concurrentiekracht, ons innovatievermogen. Dus die push raakt eigenlijk ook een open zenuw. Hè, van we moeten niet eh te laat zijn, dus moeten we allemaal maar heel snel.
[14:58]Eh en ja, door zoveel aandacht te hebben voor hoe snel het allemaal moet, duwen eigenlijk vragen over hoe dan. Hè, wat voor wat voor uitruil vinden we acceptabel tussen private belangen en publieke waarde. Eh wat voor nou, veiligheid, maar ook gewoon eerlijkheid, rechtsstatelijke kaders zou je eigenlijk om die AI heen willen, voordat je het allemaal maar snel sneller snelst gaat gebruiken. Dus de race, race tussen Amerika en China, de race tussen die AI bedrijven, de race om maar zo snel mogelijk AI te gaan omarmen, heeft als groot risico dat het ons blind maakt voor eh ja, de de vraagtekens die we ook moeten plaatsen. Ja, en wat is eh het wat is het aan AI dat jou zelf het meest beangstigt? Ehm toch uiteindelijk de combinatie van geopolitieke agenda's en de technologie zelf. Dus de de grote mate van concentratie van macht, zowel bij bedrijven als bij landen, zoals Amerika en China, en de manier waarop regeringen daarmee omgaan. En eh omdat wij in Europa zo afhankelijk zijn van Amerikaanse technologie, heeft dat voor ons ook gevolgen. Het is niet iets wat zich afspeelt in Amerika of in China, maar dat is gewoon ja, wij zijn eigenlijk een onderdeel van het speelbord waarop Amerika, Trump en eh de bedrijven in Silicon Valley willen spelen. En zij willen bepalen wat eh wat daar mag en niet mag. En ik vind dat we daar veel te tolerant voor zijn. Ja, dus zijn we zijn we wel bang genoeg, denk je? Nee, niet voldoende. Kijk, in Amerika is het is het hele verhaal van de regering Trump we gaan derereguleren, dus ook de weinige wetten die eronder Biden waren aangenomen zijn door de papierversnipperaar gehaald. En tegelijkertijd zie je wel hele directe politieke inmenging bij tech bedrijven, tegenover tech bedrijven. Dus het is ook eh reguleren op een andere manier en ook op een expliciet niet democratische manier. Dus gewoonlijk zou je zeggen eh komt er een wetsvoorstel, gaat het Amerikaanse congres dat of voorstellen of amenderen, moet er een meerderheid komen bij eh stemming en moet de president een handtekening onder de wet zetten en wordt die van kracht en dan zijn er toezichthouders eh die daar onafhankelijk toezicht op moeten houden.
[17:02]Dat is eigenlijk een eh nou ja, normaal eh proces. Dat wil Trump allemaal niet, maar hij maakt wel hele radicale ingrepen eh die impact hebben op tech bedrijven. Dus bijvoorbeeld het meest recente voorbeeld is dat van eh Anthropic, het grote AI bedrijf en het ministerie van oorlogsvoering. Die zijn lijnrecht tegenover elkaar komen te staan, omdat het ministerie van oorlogsvoering eigenlijk vond dat Anthropic geen eh restricties aan het toepassen van zijn AI mocht eh mocht eisen. Iets wat wel in het contract staat. En toen overging tot de dramatische maatregel om te zeggen als Anthropic dit niet doet, is het eigenlijk een nationaal veiligheidsrisico, dus gaan we dit verbieden en gaan we ook bedrijven die Anthropic gebruiken, ook verbieden. Van eh het doen van zaken met de Amerikaanse overheid. Dus echt een hele harde klap die vooral leek te gaan om het niet meegaan in wat eh ministerie van oorlogsvoering graag wilde. De rechter heeft nu gezegd dat het onrechtmatig is, maar het idee dat dit soort maatregelen worden getroffen zien we ook op andere gebieden. Er is een een decreet van president Trump uitgegaan tegen een cybersecurity bedrijf, omdat daar iemand werkte waar die nog een appeltje mee te schillen had. Dus hij schroomt niet om heel sterk in te grijpen, maar het gaat dus niet via die democratische weg en dat is ook problematisch, want het laat dus zien, dat zien we op allerlei manieren, denk aan Ice, de grensbeveiligingstroepen die overal in Amerika nu worden ingezet met hele harde hand ingrijpen, ongedocumenteerde migranten opsporen, maar ook AI inzetten om demonstranten in de gaten te houden, om ongedocumenteerde mensen op te sporen.
[18:41]Dus het idee dat er eh een oprekking is van de macht die een president toch al heeft en eh dat hij, dat Trump die wil inzetten voor zijn eigen politieke gewin, ook naar eigen goedkeuren. Dus eigenlijk een soort, nou ja, ad hoc eh manier van zijn macht te laten gelden, maakt dat wij in Europa ook nog weer kwetsbaarder zijn door die afhankelijkheid, omdat hij ook tegenover ons in Europa op elk moment zo'n soort nou ja, hoe moet je het noemen, knuppel kan eh kan pakken en kan denken: hup, daar ga ik eens even een klap mee uitdelen. En eh en hoe moet Europa daar dan op reageren? Nou, het ging net over wetgeving en die wordt natuurlijk aangevallen onder andere door J.D. Vance, wat we hoorden in zijn speech in Parijs. Maar we moeten ons niet blindstaren op wetgeving. Ik denk dat dat een beetje de uitdaging is die Europa heeft. Het is heel lang eh over wetgeving gegaan. Ik denk ook dat het belangrijk is. Ik bedoel eh, wettelijke kaders zijn er vaak om mensen te beschermen, om eh excessen te voorkomen, om het algemeen belang te beschermen. Goede zijn goede redenen voor. Maar we moeten concluderen dat het niet genoeg is geweest voor Europa, dat we eh niet voldoende eigen alternatieven hebben. En met eigen bedoel ik die binnen ons eigen rechtsgebied vallen, want op het moment dat het niet zo is, kan de Amerikaanse overheid al die macht die het heeft, ook inzetten om via die bedrijven eh ja, ons gedrag te beïnvloeden. En dat heeft economische consequenties, maar hij heeft ook veiligheidsconsequenties en democratisch consequenties. En ik denk dat dat heel onwenselijk is, dus dat het enige alternatief daarvoor is dat we zelf succesvollere, grotere eh AI bedrijven hebben, waardoor we keuze hebben en veel meer kunnen sturen, bijvoorbeeld ook als overheden om Europese bedrijven te gaan eh te gaan gebruiken als als eh ja, contract om ervoor te zorgen dat we dus minder eh in de greep zijn van eh de politiek van Trump. Ja. Je hebt zelf natuurlijk ook eh in het Europees Parlement gezeten 10 jaar lang. En waren dit soort zorgen er toen ook al? Nee, eigenlijk niet. Toen ging het nog heel erg over wat je met wetgeving kon bereiken, omdat het toen echt ondenkbaar leek, leek, eh dat Amerika zich zo tegen Europa zou keren, want terwijl we het hierover hebben, is er een programma van 100 miljoen dollar aangekondigd om hier via denktanks eh allerlei extreemrechtse nationalistische ideeën te gaan steunen.
[21:39]Om dus de softpower die Amerika altijd had, echt aan te wenden tegen de EU. Eh tegen laten we zeggen waar de meeste politieke partijen in het midden zich bevinden, dus voor een soort maga in Europa het gaan kweken en dat nou is er natuurlijk al, maar omdat nog groter te gaan maken. En ik denk dat dat voor heel veel mensen en misschien nog steeds onvoorstelbaar leek. Dus de hele aanpak, ik zat daar van 2009 tot 2019, was veel meer laten we kijken hoe we nou eh data kunnen beschermen, hoe we cybersecurity goed kunnen regelen, hoe we ervoor kunnen zorgen dat ehm eh dat sociale media bedrijven zich verantwoordelijk opstellen. Dus allemaal ook hele legitieme doelen. Maar ik denk dat we veel te weinig hebben gezien hoeveel macht erachter deze ontwikkelingen schuil ging, dus veel te veel hebben gekeken naar kansen, naar eh nou ja, de de interessante gadgets, eh de de verwonderlijke mogelijkheden, in plaats van ja, wat wat zijn nou de consequenties in een minder gunstig geval? Hoe kunnen deze technologieën instrumenten van eh keiharde machtspelletjes worden en wat betekent dat voor ons? Dat was toen gewoon ja, niet echt aan de hand. Er is wel een Europese AI wet. Hoe kijk je daarnaar? Ehm ja, die die wordt nu nog geïmplementeerd, dus die is nog niet helemaal van kracht, dus het is moeilijk om te kijken of bijvoorbeeld de intenties eh gehaald zijn. Maar het idee is dat er eh verschillende risico's zijn voor mensen in hun gebruik van AI. Eh bijvoorbeeld stel dat het gebruikt wordt om je CV te scannen, dan kan het invloed hebben of je op of je een baan krijgt ja of nee of of je wordt aangenomen aan een universiteit of op een school. Ehm en in allerlei gevallen zijn daar eh een soort labels aangehangen van laag risico tot heel hoog risico en zelfs onacceptabel risico. En eh verwacht de Europese Commissie dat eh bedrijven maatregelen nemen om die risico's af te dekken. Ik denk dat dat op zich prima is. Eh ik denk dat het niet alles ehm aanpakt wat betreft AI, ehm maar dat het gewoon een een prima stap is om te nemen, omdat nou ja, als je gelooft en dat zeggen dus de meeste AI experts, dat er risico uitgaat van deze technologie, dan is het ook heel legitiem om dat risico in te dammen. Je zegt eh of je schrijft eigenlijk in je nieuwe boek dat er een nieuw leiderschap nodig is. Eh zie je dat terug in de plannen van het nieuwe kabinet? Nou, kijk, er staan hele goede dingen in het regeerakkoord, dus dat is al meer dan we lange tijd hebben gehad. Maar het gaat er ook om in hoeverre dat wordt uitgedragen en dat het ook gezien wordt als een actief thema. Niet alleen omdat het moet, omdat de geopolitiek ons dwingt om na te denken over de situatie waarin we zitten in Europa, om verder te denken dan de economische belangen, dus echt naar die rechtsstatelijke, maatschappelijke, politieke belangen te kijken, naar de veiligheid te kijken, maar ook omdat het gewoon een kans is voor Nederland. Kijk, ik wil ook niet dat dit alleen maar een soort levertranaan verhaal is, waarbij je helemaal tegen tegen heug en meug eh die soevereiniteit gaat optuigen. We moeten ook echt zien hoe zeer dit een kans is om technologie op een veel passendere manier te ontwikkelen, om ons eh continent een economische boost te geven. Eh en om dus ook vrijer te zijn in nu en in de toekomst. En dat dat is echt ja, het is een soort fundering van onze vrije samenleving. Als we als we alleen maar afhankelijk zijn van of voor een heel groot deel afhankelijk zijn van buitenlandse bedrijven, dan zal dat op allerlei manieren gevolgen hebben en eh ja, dat dat moet je niet willen en eh om mensen eh mee te krijgen in wat je wel moet doen, is het ook heel belangrijk dat je ziet dat hier heel veel mogelijkheden in zitten. We hebben hier in Nederland goede universiteiten, we zijn rijk, we hebben gewoon geld om te investeren in onze eigen bedrijven. Er zijn mensen die ook heel graag keuze willen hebben. Dus er kan heel veel. Er gebeurt gelukkig ook wel wat. Op het moment dat we praten is er net een initiatief aangekondigd van KPN met zeven bedrijven samen die een eigen cloud gaan bouwen. Nou, fantastisch, dit zijn concurrenten. In hun dagelijkse bedrijfsactiviteiten, maar ze hebben gewoon begrepen als we dit samen gaan doen, dan eh voegen we iets toe wat waar Nederland behoefte aan heeft. En we kunnen dit, dus we kunnen ook over onze eigen schaduw heen stappen en iets samen gaan doen. Nou, dit vind ik een heel goed voorbeeld van er zitten kansen in ook om gewoon geld te verdienen. Het is niet alleen maar liefdadigheid. En eh ik hoop dat behalve dat je kan verwijzen naar pagina zus zus en zo van het regeerakkoord, dat we eigenlijk alle ministers en ook de premier gaan horen met enthousiasme over wat we hier moeten en kunnen op het gebied van technologie en AI. Laten we eh ook even inzoomen op boeken. Ja. Ehm de taalmodellen die veel mensen nu gebruiken, die eh zijn getraind met boeken. Daar is niet voor betaald. Er is ook geen toestemming voor gevraagd. Ehm en die angst die ik trouwens ook terug in in in Nederland bij de Nederlandse auteursbond, en eh deel jij die angst? Nee, zelf ben ik daar ben ik daar ik schrijf is niet mijn eh hoofd mode. Dus ik heb daar zelf niet angst over ervaren, maar ik denk wel dat dit gebeurt. En ik ik hoop ook dat we beter nadenken, niet alleen maar over dus weer oh wat handig, wat kunnen we er allemaal mee, maar wat voor wereld krijgen we nou als alles door AI wordt gemaakt eh veel minder originaliteit, veel meer een soort gemiddelde van van alles aan informatie. Ehm ja, ik bedoel ik snap die angst van die schrijvers, zeker. Ja, ik denk dat dat een terechte angst is. Net als van journalisten en kunstenaars, dat ze gewoon zien dat hun werk, wat toch al niet heel goed betaalde en toch al moeilijk bestaan is voor veel mensen, dat het nog veel moeilijker wordt. Ik bedoel, zodra chat GPT eh stond op Stanford, gingen mensen in plaats van designers voor rapporten eh gewoon plaatjes opvragen. En ja, die mensen hebben dus eigenlijk onmiddellijk al minder werk. En dat vertaalt zich nu naar een heleboel andere beroepen. Bijvoorbeeld ook naar starters eh van die net uit de universiteit komen. Dus ik denk dat we ons ook moeten realiseren dat we pas aan het begin staan van deze golf van impact op kunst en cultuur, op creatie, op banen. Eh en dat het dus ook heel belangrijk is om daar vanuit maatschappelijk perspectief, het publieke belang een soort blik op kunnen vormen. Dat we ook met scenario's gaan werken, stel dat heel veel mensen dit gebruiken, wat gebeurt er dan voor henzelf, voor de arbeidsmarkt, voor de veiligheid, voor eh nou ja, sociale contacten eh noem eens wat. Ik bedoel in in Japan eh gaat het geboortecijfer omlaag, omdat mensen continu op hun scherm zitten te kijken. Je hoort al verhalen van mensen die het heel spannend vinden om op een date te gaan, omdat ze dan niet iets kunnen opzoeken wat ze terug moeten zeggen, maar gewoon echt ja, moeten praten met een ander mens. In plaats van dat ze dat moeten opzoeken van ja, wat moet ik hiervan vinden dan van deze flirt. Ja, dus dat het eh zelf denkend vermogen rap eh achteruit gaat. Ja, en ook een bepaalde vorm van gewoon identiteit en zelfvertrouwen. Gewoon wie ben jij dan precies als je alles uit een bot laat halen? Dan ben je misschien super geestig, maar heb je zelf nog nooit een grap bedacht. Ja, ik weet niet, ik vind dat vind dat niet een eh een leuk scenario. En tegelijkertijd kan er van alles natuurlijk met AI, maar moeten we wel heel goed nadenken van ja, wanneer voegt het waarde toe en wanneer niet en voor wie wel en voor wie niet. En dat dat soort afwegingen zou wat mij betreft veel meer in publiek debat moeten gebeuren met politiek, democratische kaders dan eh iedereen eh blijft het allemaal maar gebruiken en dan gaan we over 10, 20 jaar of over 5 jaar ineens schokken zien in bepaalde gebieden waarvan we misschien dan denken: oh, hoe kan het dat we daar niet over hebben nagedacht.
[29:08]Ja, we zitten in een heel groot experiment. Ehm ik hoorde Rutger Bregman onlangs vertellen dat hij dus bij het schrijven van zijn eh BBC Read lectures eh gretig gebruik heeft gemaakt van Claude. Het was ook omdat het eh een Engelse tekst moest zijn. Ehm en laten we even luisteren naar zijn poging om het eh taboe te doorbreken. Hoeveel Rutger zit hier eigenlijk nog in eh Rutger? Dat is een goede vraag. Oh, voor mij en voor jou eh. Nou, het is het schrijfproces zelf is echt wel fundamenteel veranderd door AI. Dus als ik normaliter dit verzoek had gekregen van de BBC, had ik op die korte termijn moeten zeggen van eh ik weet niet of dat gaat lukken, want eh ik schrijf niet, ik ben niet een native speaker in het Engels. Dus het is sowieso al voor vertaling gebruikte ik de hele tijd AI. Maar ja, vertaling is ook een heel creatief beroep. Weet je wel, dus daar zit al een hele laag in. Ehm en inderdaad van die die ik ga zo zeggen. De metafoor die ik in mijn hoofd heb is de metafoor van een chef in een restaurant. Kijk, als jij ehm eh in een gewone bistro zit, dan moet de chef ook nog veel aan het werk, weet je wel. Die moet uitjes choppen en zo en die moet een beetje nou ja, de aardappels schillen, maar op een gegeven moment de echte toprestaurant eh noem er eens eentje. Eh waar waar ga je graag eten in Amsterdam? Weet je, gewoon in Old, hè, wij hebben dat allemaal niet. Zo zo is het ook niet toch niet over. Eh Herman eh hoe heet hij? Herman nog wat, die altijd aan het schreeuwen is tegen mensen. Ja, ik moet altijd aan hem denken. Dat is eh Dus dan ben jij tegen Claude. Wat doe je als topchef? Je bent twee dingen aan het doen de hele tijd. Je bent aan het schreeuwen tegen je personeel. Doe dit, doe dat. Ik wil dit. Ik wil dat. En je bent de hele tijd aan het proeven, de hele tijd vind ik dit lekker, vind ik dit lekker, vind ik dit lekker. Dat is een ontzettend creatief proces. Alleen het is wel echt een ander creatief proces dan als je echt daadwerkelijk in de keuken staat. En ik denk dat schrijven steeds meer dat wordt, alleen mijn hypothese is dat veel mensen dit nog een beetje ongemakkelijk vinden om daarover te praten. Heb jij zelf AI gebruikt bij het schrijven van je boek? Nou, af en toe om gewone dingen natuurlijk te testen, want ik moet ook over AI schrijven. Dus eh dat zeker en ik heb ook wel eens grote stukken laten samenvatten, gewoon om te kijken van zit hier überhaupt iets in ergens waar ik wat mee moet in plaats van 100 pagina's eh eh doorlezen, maar ik weet niet of dat voor dit boek denk meer voor gewoon het proberen te consumeren van heel veel informatie. Dus ja, zeker en ik probeer ook bij te houden wat ze wel en niet kunnen. Ik bedoel, ik schrijf over Deep Ziek wat ik eh nooit zelf gebruik. Maar ehm eh waarin ik dus vraag eh wie is de Dalai Lama? Eh de de leider van de van de Tibetanen, en eh dan zie je dus dat Deep Ziek gaat antwoorden en dan opeens stopt. Eh en zegt van nou ja, nee, dit is niet iets waar ik het over kan hebben als chatbot. Laten we het over iets anders hebben. Kijk, dat zijn ervaringen die moet je echt opdoen om te snappen dat dit echt gebeurt. Tenminste, ik vond het zelfs terwijl ik het voor mijn ogen zag gebeuren een hele onwerkelijke ervaring. Dus eh ik vind ook dat ik dat eh als onderdeel van mijn onderzoek moet zien en snappen. Alleen ehm ja, ik vind het interessant dat ehm eh Rutger er zoveel aan gehad heeft, omdat ik denk dat hij eigenlijk een hele goede denker en schrijver is. Dus ik ben dan benieuwd moet ik misschien een keer met hem over hebben waar die meerwaarde voor hem dan in lag.
[32:29]Kijk, ehm transparant erover zijn is denk ik goed, maar kritischer over zijn ook. En ehm eh ik kijk heel erg naar de gevolgen voor de democratie, de machtsverhoudingen die schuiven. En ik denk dat er in principe voldoende aandacht is voor wat het voor mensen oplevert, dus dat ze zelf kunnen denken van ik vind het handig of niet handig. Weet je wel, eh de Oscars krijgen een label van deze film is zonder AI gemaakt of niet.
[33:05]Zeg maar de voorkant, zou je kunnen zeggen, dus de toepassingen eh daar is best veel discussie over en het zou goed zijn als dat inderdaad transparant is, geen taboe.
[33:55]Ehm maar de gevolgen en de machtsverhoudingen daar vind ik dat we veel te weinig naar kijken. En ja, dat is dan een beetje wat ik als mijn eh opdracht zie, dus het is ook echt wel een beetje een andere invalshoek. Ja. Wil jij de lezer en in dit geval de luisteraar ook een opdracht meegeven? Ja, zie de macht achter AI. Eh en ehm wees er niet al te naïef over wat er hier op het spel staat. Dus denk niet alleen oh wat geinig, wat handig, ik heb een Sinterklaasgedicht eruit getoverd en eh hele goede reistip over waar ik eh eh weet je, waar ik volgende zomer voor zoveel geld eh met zoveel temperatuur op zoveel afstand heen kan. Dat is allemaal natuurlijk eh fijn en prima. Alleen je helpt daarbij vaak, want wij zijn nog steeds massaal afhankelijk van buitenlandse bedrijven. Eh de economieën van andere landen die ons niet welgezind zijn. Wij worden gewoon aangevallen in Europa voor onze manier van leven, voor de vrijheden die we hier hebben. En AI is daar een heel belangrijk instrument in en ik vind dat je dat niet los van elkaar kan zien. Net als dat mensen inmiddels bijvoorbeeld vliegen en milieuschade niet meer goed los van elkaar kunnen zien, moeten wij bij AI denk ik ook de consequenties goed begrijpen. Nou, verwacht ik niet dat mensen massaal gaan stoppen met AI, maar verwacht ik wel dat politiek eh en leiderschap en een beter publiek debat bloot gaan leggen wat die uitruilen zijn. En als wij na een democratisch proces op precies dezelfde plek uitkomen waar we nu zijn, namelijk eh hè, het gaat allemaal gebruiken en kijk naar de economische kansen, dan kan ik daar beter mee leven dan wanneer er helemaal geen publiek en democratisch debat is geweest waarin er geen mandaat is voor dit soort handelen. Eh dat vind ik eigenlijk, ja, eh ook principieel een probleem. Als er zoveel macht is zonder tegenmacht en nou, mijn doel met dit boek is om daar een eh een draai aan te geven. En wat is je tweede boek? Oh ja, het tweede boek. Eh ook een heel heftig boek, eigenlijk, maar toch eentje waar ik ook de laatste tijd heel veel aan denk. Ehm The World of Yesterday van Stefan Zweig, waar ik ook afgelopen weekend weer aan moest denken, want ik las het hele goede afscheidsstuk van eh Lemja Harui uit eh NRC. Zij gaat weg als parlementair ehm verslaggever of politiek verslaggever. Ik denk dat we haar heel erg zullen missen.
[36:27]Maar ze had echt een een knal van een afscheidsstuk geschreven over hoe sluipenderwijs eh radicaal rechtsgedachtegoed normaal is geworden in de Nederlandse politiek. En in zekere zin is dat dus wat Stefan Zweig ook beschrijft. Eh zij het op een andere manier. Hij schrijft heel erg over het leven en in de laatste dagen van het Habsburgse rijk in Wenen. Waarin cultuur eh hoogtij vierde en nou ja, dichters en eh acteurs waren eigenlijk hè, eh de meest eh aantrekkelijke beroemde mensen in de samenleving. Het ging allemaal heel erg goed. Eh de de elite en de intellectuele hadden diepgaande discussies en ehm je ziet eigenlijk steeds meer het contrast tussen nou ja, wat hij ervaart ook als Joodse man qua groei van intolerantie, maar ook hoe plotseling toch de fijne eh verlichte samenleving omslaat naar oorlog. Eh hij hij ja, kijkt eigenlijk terug op hoe dat allemaal is gegaan.
[37:32]En nou ja, ik heb zelf ook heel erg een gevoel van onbehagen en ehm ehm onvrijheid in de zin dat dat gedachtegoed natuurlijk opkomt, dat de geopolitiek dramatisch verandert, dat Europa onder enorme druk staat. En dat tegelijkertijd eh de restaurants vol zitten en je gewoon als je je ogen dicht doet, kan denken dat er tussen aanhalingstekens niks aan de hand is. En ik heb zelf vind moeilijk dat er niet meer aandacht is ook in de politiek, ook in de media voor eh hoe spannend het eigenlijk is. Eh omdat ik denk dat mensen dan ook minder snel bereid zijn om te doen wat nodig is. Bijvoorbeeld dat er ook iets van ons gevraagd wordt als bevolking om defensie uitgaven, maar hopelijk ook digitale soevereiniteits uitgaven te dragen, omdat de dreiging gewoon groot is. En eh als daar niet over wordt gesproken, eh was laatst ook een goede column van ehm Gustav Bessems over in de volkskrant.
[38:45]Het idee dat we dus een soort schijnveiligheid ervaren als we het maar over het aantal woningen wat gebouwd moet worden hebben of over eh de kosten van de zorg, allemaal hele belangrijke thema's, maar niet het enige wat speelt.
[39:03]Dus ja, dat dat sluimerende gevoel van verharding, verrechtsing, eh gevaarlijke politiek en geopolitiek, dat voel ik heel erg en dat vond ik dus door Zwaag, maar ook door Lemja Harui heel goed beschreven.
[39:27]Nee, heb je ook nog iets luchtigers in de aanbieding? Ja, nou echt luchtig is het niet, maar het is het is nee, zeker niet. Eh maar wel een boek wat echt heel erg onder mijn huid ging zitten. Ik heb het een paar jaar geleden gelezen van ehm Lucas Rijneveld, De Avond is Ongemak. Omdat dat echt zo'n boek was wat wat gewoon echt in je buik ging zitten, weet je wel. En dat vind ik zo knap als een schrijver dat kan, dat je gewoon zo'n gevoel helemaal krijgt van het lot van een kind in zo'n heel moeilijk gezin. En ja, ik had daar echt heel veel bewondering voor en eh ik vond het ook ehm ja, heel origineel in hoe het was geschreven, dus ik dacht dat was ook een boek wat me, nou ja, dus tot vandaag zeker is bijgebleven. Dan rest mij nog één vraag. Welke drie boeken hebben jou het meest aan het denken gezet en waarom? Ja, ik vond het echt zo'n moeilijke vraag, omdat eh heel veel boeken me aan het denken hebben gezet. Eh en ik hoop ook dat veel mensen nog veel blijven schrijven. Ehm maar waar ik op uit kwam, was eh één van de boeken die ik recent heb gelezen is eh Empire of AI, dat gaat over Open AI van Karen Hao. Een ehm relatief jonge journaliste die echt nou, een dijk van een boek heeft geschreven over Open AI. Eh zij volgt het bedrijf al heel lang, eh ook als journalist, maar het is gewoon heel mooi om te zien hoe dichtbij ze is gekomen bij mensen, want zij is op enig moment ook drie dagen eh in het bedrijf geweest, kon naar met iedereen praten. Dat zou natuurlijk nu nooit meer eh gelukt zijn.
[41:16]Maar ze legt echt heel erg bloot hoe nou ja, prioriteiten zijn gaan schuiven, hoe ook die concurrentiestrijd, die enorme investeringen, toch de vlucht die Open AI heeft gekregen voor allerlei nou ja, toch eh verwatering van idealen eh zorgde. En ook hoe machtshongerig het bedrijf is geworden, dus het is echt een aanrader om op een heel mooi journalistiek eh journalistieke manier beschreven manier te kijken aan eh hoe zeer gaat het eigenlijk om macht en wat voor machtsgevolgen zitten er aan dit soort enorme bedrijven met zulke eh producten die over de hele wereld worden gebruikt. Maar bijvoorbeeld ook, wat betekent het voor arme mensen die helpen om die data te annoteren, dus te verbeteren voor het gebruik van het trainen van AI of AI modellen bij te spijkeren eigenlijk in bijvoorbeeld Kenia, eh laagbetaalde mensen die hele traumatische dingen de hele dag maar zien.
[42:25]Dus ook de prijs eigenlijk van AI wordt heel goed beschreven in dit boek. Dankjewel Marietje Schaake.
[42:37]Dat was hem. Wil je op de hoogte blijven van mijn zoektocht naar de toekomst van lezen, schrijf je dan in voor mijn nieuwsbrief. De link hiervoor kan je vinden in de shownotes. Mijn naam is Milou Klein Ankworst en je luisterde naar Toekomstschrijver. De volgende keer spreek ik Ragana Indra Hader over haar nieuwe boek Wij zijn hier door jullie, waarin ze een verzwegen, koloniale geschiedenis van Nederland beschrijft. Dankjewel.
