Pharmakon

Wat AI geneest en wat AI vergiftigt, in hetzelfde gebaar

Stel je een ochtend voor in Boven-Egypte, ergens rond het jaar tweeduizend voor Christus. De Nijl staat laag, er scharrelt wat vee op de oever. Op de kalkstenen vloer van het paleis liggen schuine lichtbanen, waar het stof in omhoog dwarrelt. Tussen pilaren met lotussen aan de kapitelen zit Thamus, de oude koning. Hij draagt een dubbele kroon, die eigenlijk iets te zwaar is voor een ochtend waarop een god op bezoek komt. Maar ja, protocol.

Voor hem verschijnt een god. Theuth, die ene met de kop van een ibis. Uitvinder van getallen en sterrenkunde. Hij heeft iets meegebracht, iets waarvan hij denkt dat het een supermooi cadeau is. Hij knikt naar de rol papyrus die zijn assistent heeft neergelegd.

“Dit, o koning,” zegt Theuth, “is een pharmakon voor het geheugen en voor de wijsheid.”

Een pharmakon; Een geneesmiddel. Theuth is duidelijk van plan een vijfsterrenreview te oogsten deze ochtend.

Thamus kijkt naar de papyrus. Thamus denkt na. En dan zegt Thamus iets wat Theuth niet ziet aankomen. Hij zegt: “dit is geen geneesmiddel. Dit is een vergif. Want wie op letters vertrouwt, houdt op met onthouden. Wie leest, weet niet meer uit zichzelf. Het lijkt wijsheid, maar het is de schijn van wijsheid.”

Natuurlijk is dit niet echt gebeurd. Het is een verhaal uit het oude Griekenland. Plato schrijft het op in de ‘Phaedrus’, ergens rond 370 voor Christus. Hij laat Socrates het vertellen aan een jongeman, onder een plataan, aan de oever van de rivier Ilissos (bij Athene, tegenwoordig grotendeels overkapt). Het is warm die middag. Socrates schrijft zelf niet. Plato schrijft wel, en wat Plato opschrijft is een verhaal van Socrates over een koning die het schrift afwijst. Een mondeling overgedragen, geschreven pleidooi tegen het schrift. Dat is de grap, en het is geen grap. Meta ironie zeg maar. Rare jongens, die Grieken.

Het woord pharmakon betekent in het Grieks tegelijk geneesmiddel én vergif. Niet het een of het ander. Niet afhankelijk van de dosis of iets anders. Het is allebei tegelijk, in hetzelfde ding.

Fast forward vierentwintig eeuwen en we landen in Parijs, 1972. De Franse filosoof Jacques Derrida buigt zich over hetzelfde verhaal en schrijft er een essay over: ‘La pharmacie de Platon’. Hij betoogt dat Plato het woord niet kan oplossen. Je kunt niet zeggen: schrift is geneesmiddel. Je kunt ook niet zeggen: schrift is vergif. Het is beide. De taal zelf laat je er niet tussen kiezen. Derrida noemt dat ‘onbelisbaarheid’: Je krijgt het geneesmiddel en het vergif in één handeling binnen. Altijd.

Ik moest hieraan denken tijdens een intervisiebijeenkomst, ongeveer een jaar geleden.

Inholland in Diemen, systeemplafond, afstudeerscripties, een dinsdagmiddag waarop niemand echt dinsdagmiddag wil hebben. Zes studenten aan een tafel, een thermoskan met lauwe koffie, en een schaaltje huismerk koekjes van een bekende supermarkt, dat iedereen keurig negeerde. Ergens aan de muur hing een licht verkleurde poster met een boom erop en het woord “groei” in een lettertype dat niemand meer gebruikt. De radiator tikte.

Ik was tweede lezer voor deze groep studenten, wat op papier betekent dat je kijkt of de eerste lezer geen rare dingen heeft gedaan, maar wat voor mij iets anders betekent. Ik ging naar dat soort bijeenkomsten om de student achter de scriptie te zien. Om een zin te horen wat ze eigenlijk écht meemaken in plaats van de goedbedoelde pogingen om ‘zakelijk’ te schrijven. Dat kun je niet doen vanaf papier. Je moet erbij zijn.

Dat deed ik dus. Of, nou ja, dat was het plan.

Halverwege, tussen twee scripties in, zei een jongedame met een blauwe blazer en een waterfles met stickers iets dat niet op de agenda stond tegen haar buurman, mede-afstudeerder.

“Perplexity is gewoon beter dan ChatGPT. Die geeft bronnen. En de teksten zijn beter, je hebt er veel minder werk aan.”

Het klonk zoals je zegt dat Jumbo goedkoper is dan Albert Heijn. Feitelijk. Praktisch. Alsof het de normaalste zaak van de wereld is.

En dat was het ook. Voor haar, en kennelijk voor de anderen. De jongen naast jaar knikte met zo’n “ja-nou-duh”-gezicht. Iemand aan de overkant zei: “Ja maar Claude is weer beter in structuur.” Een derde begon over een tool waarvan ik de naam niet verstond, iets met een hoofdletter halverwege. Binnen een halve minuut zaten ze vrolijk te vergelijken, zoals een timmerman het merk van een boormachine bespreekt. De docent (eerste lezer) liet het even lopen. Ik ook. Ik pakte een iets wat kleffe mini gevulde koek, beet er niet in, en keek naar het tafereel. Wonderlijk, dacht ik.

Wat me nu nog bezighoudt is niet dat ze AI gebruikten. Doen studenten, vrij massaal. Dat weet ik wel, wist ik een jaar geleden ook. Wat me wel trof was hun openheid. De vanzelfsprekendheid. De toon waarop ze het hadden over hún scripties terwijl ze in dezelfde adem de tool noemden die eigenlijk het schrijfwerk deed.

Is dit fraude? Mwah, nee. Ze deden er niet stiekem over. Sterker nog: Ze waren trots op hun keuzes en op het feit dat ze wisten welke tool het best werkte voor welk type tekst. Dat is op zichzelf een vaardigheid. Daar zou een vak over geschreven kunnen worden. (Waarschijnlijk is dat al gebeurd, door Perplexity.)

En in bepaald opzicht heeft die student gelijk. Perplexity geeft bronnen. De teksten zijn beter dan wat een doorsnee student op maandagavond in zijn eentje bij elkaar typt. Dat klinkt als een geweldige oplossing.

Als genezing.

Dat is ook genezing.

Maar wat is er dan vergiftigd?

Een scriptie bestond ooit om iets in beweging te zetten: Je kiest een onderwerp. Je leest. Je schrijft. Tijdens het schrijven merk je dat je niet precies weet wat je denkt. Je gaat dus zoeken. Je leest iets en ziet ineens een patroon of andere zienswijze dat je niet zag of kende. Je denkt: dit was eigenlijk best wel ingewikkeld. Je formuleert iets en voelt dat het niet helemaal klopt. Je herformuleert. Je gooit een hoofdstuk weg. Je begint opnieuw. Frustratie.. maar toch: langzaam komt er iets naar boven borrelen dat er niet was voordat je ging schrijven.

Dat is het proces waar Thamus het over heeft. Het geheugen dat ontstaat in de handeling van het onthouden. De Grieken noemden dat ‘mnēmē’, levend geheugen. Schrift, zei Thamus, geeft je alleen ‘hypomnēsis’; een archief dat je raadpleegt. Het lijkt op geheugen, is het niet.

De scripties van die studenten waren in dit perspectief hypomnēsis. Ze lagen er, klopten. Ze waren raadpleegbaar, alles klopte.

Maar er was iets niét in de studenten gebeurd tussen het kiezen van het onderwerp en het inleveren van de tekst. De beweging die de scriptie ooit veroorzaakte, was geautomatiseerd. Het eindproduct was er. Keurig in orde, misschien wel beter dan ooit. Het proces was weg.

En dit is het punt: AI als pharmakon is niet iets wat soms helpt en soms schaadt. Het helpt en schaadt in dezelfde handeling. Tegelijk. Gewoon door op enter te drukken.

Ik zie het op iedere stage of leerwerkplek die ik bezoek.

De student die dankzij AI zijn leerdoelen scherper krijgt dan hij ooit alleen zou hebben gedaan, is dezelfde student die niet meer weet wat dat leerdoel eigenlijk is. De praktijkopleider die zijn feedback door AI laat formuleren, geeft betere feedback dan ooit tevoren, en doet op precies hetzelfde moment minder aan feedback dan ooit tevoren. Het staat er fraaier. Hij heeft er minder in gestopt.

Elk van deze bewegingen is geneesmiddel en vergif. Niet in verhouding. Niet om af te wegen. Allebei helemaal, in dezelfde handeling.

Dat is lastig denken. Want wij willen kiezen. We willen beleid. We willen een richtlijn die zegt: dit wel, dat niet. Maar het pharmakon laat zich niet zo regelen. Je krijgt het hele ding binnen of je krijgt het niet binnen. Je kunt het geneesmiddel niet zonder het vergif hebben.

Dat was precies waar Thamus bang voor was. Niet dat het schrift zou mislukken, integendeel. Thymus was als de dood dat het zou slagen. Dat het zo goed zou werken dat niemand meer zou merken wat er wegviel.

De Grieken hadden nog zo’n verhaal over een geschenk dat werkte. Prometheus stal het vuur van de goden en gaf het aan de mensen. Warmte, gebakken vlees, smederijen, uiteindelijk de stoommachine en de culminatie van culinair vernuft; frietjes uit de airfryer. Een geneesmiddel voor de kou, zou Theuth hebben gezegd. En hij zou gelijk hebben gehad. Wij kwamen er als mensheid de winter mee door. Maar dezelfde goden die het vuur bewaakten, lieten Prometheus vastketenen aan een rots. Niet omdat het geschenk mislukt was. Omdat het geslaagd was, en omdat de mensen niet meer zonder konden, en ook niet meer wisten wat het was om zonder te zijn.

In het onderwijs ontstonden eerder pharmakon. Toen er formulieren kwamen om het het leren op de stageplek zichtbaar te maken, modellen die doen alsof leren een lineair proces was. Allemaal geneesmiddelen voor iets wat ontregeld raakte, de onzichtbare, eigenlijk onmeetbare waarde van wat een student op de werkvloer leert tussen de regels door. Die wens tot beheersing is niet fout. Het is heel menselijk en het werkt ook. Het is geweldig dat we in Nederland een stevige centrale norm hebben wat je als, ik noem maar iets, automonteur moet weten en kunnen om een diploma te krijgen. Of aan welke eisen je moet voldoen als je met stagiairs wilt werken. Maar ondertussen verschoof de aandacht van wat er gebeurde naar wat er werd opgeschreven. Wat niet op papier staat, bestaat bureaucratisch gezien niet.

Nu komt AI om de hoek. Het formulier dat ooit bedoeld was ter ondersteuning van reflectie en ontwikkeling, wordt in vier seconden gevuld door een machine. Het leerdoel dat eerder een denkbeweging van de student was, wordt door de tool gesuggereerd.

We hebben de vakjes, en we hebben nu ook iets dat de vakjes invult. Het systeem is rond.

Geneesmiddel: tijd terug. Betere formuleringen. Minder papierwerk.

Vergif: de beweging die het papierwerk ooit opriep, valt weg. En bij dat wegvallen valt ook iets anders weg waar we geen woord voor hebben. Iets wat de leerling op woensdagochtend leerde van de begeleider zonder dat iemand het opschreef.

Dat is precies dit wat Derrida in La pharmacie de Platon blootlegt. Het pharmakon is onbeslisbaar, schrijft hij, niet omdat we nog niet goed genoeg hebben nagedacht, maar omdat de zaak zelf niet beslist kan worden. Je zult moeten leven met het feit dat je met hetzelfde gebaar geneest en vergiftigt.

AI dan maar afschaffen op de werkvloer? Te laat, die tijd zijn we voorbij, als hij ooit al bestaan heeft. Het is wel een reden om te stoppen met net doen alsof we tussen voor en tegen kunnen kiezen. Alsof er ergens een richtlijn is die het geneesmiddel behoudt en het vergif uitsluit. Die richtlijn bestaat niet.

Ze kan niet bestaan.

Wat dan wel?

Iedere keer als we AI gebruiken in een stage bestaat er een vraag die we nu eigenlijk te weinig stellen: wat deed de student voordat dit bestond, en welke beweging zat daarin? Die beweging is meestal niet het eindproduct. Die beweging is het verlegen zoeken naar houvast in een onbekende omgeving (het leerbedrijf), spannende dingen moeten doen, het herformuleren van die stomme tekst, het moment waarop je even vastzit en dan, na uren, soms dagen hoofdbrekens verder komt, vaak ineens; meestal op een onverwachte plek.

Dat is waar het leren gebeurt, dit is hoe leren werkt.

Dat is ook precies wat AI overneemt zonder erom te zijn gevraagd.

Je kunt AI dus gebruiken. Maar dan wel met het besef dat je een beweging uit handen geeft, en dat je die beweging ergens anders moet terughalen als je wilt dat er nog geleerd wordt.

Dat is niet te fixen met nieuwe beleidsregels. Dat is een gewoonte. En het draait om oordeelsvermogen dat je per situatie inzet. Phronesis, zouden we ooit gezegd hebben.

Terug naar Boven-Egypte. De lichtbanen zijn verschoven, het stof dwarrelt nog steeds een beetje doelloos rond de pilaren. Thamus heeft zijn oordeel geveld. Theuth staat er met zijn rol papyrus, waarschijnlijk een beetje bedremmeld.

De stilte in die tempelhal is een stilte die vier millennia later in een kamer in Parijs werd opgeschreven door Derrida. En die stilte zat vorig jaar ook in een vergaderzaaltje van Inholland in Diemen, waar zes studenten, een docent en een tweede lezer over tools praatten alsof het over koffiesmaakjes ging.

Er was geen drama. Er werd geen regel geschonden, eigenlijk gebeurde het allemaal terloops.

Intussen werd wel iets vervangen, zonder dat iemand het echt opmerkte.

Thamus zou gezegd hebben met een priemende vinger: daar. Dáár zit het. Niet in de handeling, maar in de stilte eromheen.

De basisvraag is dus niet of we het pharmakon binnenlaten. Dat hebben we allang gedaan.

De vraag is of we nog weten wat erbij wegvalt.

Over deze vraag schreef ik een whitepaper, voor bestuurders en leidinggevenden die zich hetzelfde afvragen. Versterken of vervangen. Het pharmakon-vraagstuk in de stagepraktijk. Een denkkader van vijfentwintig pagina’s, met de Verschuivingsdriehoek en drie lagen waar de verandering zich nu al voltrekt: in de selectie van stagiairs, in de begeleiding op de werkvloer, en in het werk zelf. Gratis te downloaden, zonder e-mailadres, vrij te delen.*\

Derrida, J. (1972). La dissémination. Éditions du Seuil.

Derrida, J. (1981). Dissemination (B. Johnson, Trans.). University of Chicago Press. origineel 1972.

Hesiod. (1914). Hesiod, the Homeric hymns and Homerica (H. G. Evelyn-White, Trans.). Harvard University Press. 'gepubliceerd' ca. 700 BC

Kasneci, E., et al. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 103, Artikel 102274. https://doi.org/10.1016/j.lindif.2023.102274

Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000386693

Mollick, E. R., & Mollick, L. (2023). Assigning AI: Seven approaches for students, with prompts. SSRN. https://doi.org/10.2139/ssrn.4475995

Plato. (1995). Phaedrus (A. Nehamas & P. Woodruff, Trans.). Hackett Publishing Company. Origineel werk 'gepubliceerd'  ca. 370 BCE.