In gesprek met Tanja Jadnanansing op Radio mArt – over Mens blijven systemen

Een minuut voor de uitzending vraagt Etienne, de technicus van Radio MART, welk nummer ik wil horen. Het eerste dat in me opkomt is Let’s Stay Together van Al Green. Niet alleen omdat ik fan ben. Het nummer is geschreven vanuit verliefdheid, maar ik hoor ook een oproep aan de samenleving in: laten we elkaar niet kwijtraken. Met die regel begin ik het gesprek met Tanja Jadnanansing over Mens blijven tussen systemen, mijn pleidooi voor menswaardig onderwijs in het AI-tijdperk. En met die regel wil ik ook dit stuk beginnen, want de vraag die mij blijft bezighouden is eenvoudig en onrustbarend tegelijk: wat gebeurt er met de vorming van een kind, wanneer het systeem waarin het opgroeit niet meer is gebouwd op een relatie, maar op een gemiddelde?

Het systeem bepaalt, niet jij

Voor luisteraars die nooit met een taalmodel hebben gesproken, leg ik uit wat AI eigenlijk is: een systeem dat altijd vriendelijk klinkt, altijd een antwoord geeft, maar zelf bepaalt welk antwoord dat is. In het onderwijs is dat geen onschuldig technisch detail. Ik kom in scholen vol mensen met een groot hart voor het kind, maar ik zie ook systemen die niet vanzelf bijdragen aan gelijke kansen. Een kind in Amsterdam Zuidoost moet evenveel kans krijgen als een kind in Amsterdam-Zuid. Zodra het om de vorming van kinderen gaat, is elk hulpmiddel dat dingen voor je oplost zonder dat je weet hoe en waarom, een risico — niet omdat het te slim is, maar omdat het de leerling de gelegenheid ontneemt om zelf, tastend en wel, tot een antwoord te komen.

Onderwijs kan de grote gelijkmaker zijn — de plek waar afkomst er even niet toe doet en aanleg wél. Maar onderwijs kan diezelfde ongelijkheid net zo goed bevestigen, en zelfs vergroten, wanneer het systeem waarin een kind wordt beoordeeld zelf al scheef staat. Op welke data wordt een kind eigenlijk gerangschikt en geselecteerd? Welke aannames liggen daaronder, wie heeft die gemaakt, en op basis van wiens geschiedenis? Dat zijn geen vragen meer die alleen aan de leraar te stellen zijn. Steeds meer van die rangschikking en selectie verschuift naar systemen die niemand in de klas heeft ontworpen — en waarover niemand in de klas nog volledige regie heeft.

Jouw kind is niet het getal 73

Het meest aansprekende moment van het gesprek is een experiment dat ik de luisteraars laat doen. Vraag ChatGPT om een willekeurig getal tussen 1 en 100, zeg ik, en je krijgt vrijwel altijd 73. Live getest in de studio, en het klopt meteen. Mijn punt: een taalmodel is een spiegel van het verleden. Het geeft niet het toevallige antwoord, maar het antwoord dat het vaakst voorkomt. Diezelfde logica laat zich zien aan het rivierraadsel met de boer, de wolf, het schaap en de kool. ChatGPT blijft de oplossing met een boot herhalen, ook wanneer ik die boot uit de vraag weghaal. Het systeem herkent een patroon, geen situatie. Het ziet niet wat er werkelijk gevraagd wordt — het ziet wat er meestal gevraagd wordt.

Ik trek de lijn door naar de klas: jouw kind is niet 73. Het gemiddelde waarop systemen gebouwd zijn, is zelden neutraal. Het weerspiegelt een wit, mannelijk, hoogopgeleid perspectief, terwijl de vroege selectie in het Nederlandse onderwijs — de Cito-toets, de knip tussen mavo, havo en vwo — al een ongelijkheid in zich draagt die AI eerder versterkt dan oplost. Een leerling die niet in het gemiddelde past, wordt door zo’n systeem niet gezien als uitzonderlijk, maar als afwijking. En een kind dat zich voortdurend als afwijking ervaart, leert iets over zichzelf dat niet waar is.

Bovendeks en onderdeks

Voor de morele lading van mijn boek grijp ik terug naar Anton de Kom. In Wij slaven van Suriname beschrijft hij, naar ik meen op pagina 31 of 32, een schip dat over de oceaan vaart met bolle zeilen en zingende matrozen — precies het beeld dat ik zelf op de basisschool heb meegekregen. Op diezelfde pagina daalt hij af, onder het dek, waar tot slaaf gemaakte mensen in ketenen liggen, weggerukt uit de plek waar hun huis stond. Twee perspectieven op hetzelfde schip.

Diezelfde dubbelheid zie ik in technologie. Grote techbedrijven beloven gemak en gratis diensten, bovendeks, terwijl onderdeks data wordt verzameld en macht wordt opgebouwd. Wie alleen het bovendek beschrijft, vertelt geen leugen, maar wel een half verhaal. Ik blijf naar beide kanten kijken, en dat vraag ik ook van mijn lezers — en, zou ik er nu aan toevoegen, van iedereen die voor de klas staat en een nieuw digitaal hulpmiddel krijgt aangereikt met de belofte dat het tijd bespaart.

Diezelfde gelaagdheid gebruik ik voor het Frankenstein-verhaal. Niet het schepsel is het monster, betoog ik, maar de wetenschapper die het in de wereld zet en vervolgens de verantwoordelijkheid voor liefde en opvoeding laat liggen. Een directe parallel met hoe wij als samenleving technologie de wereld in brengen, zonder ons echt te bekommeren om wat het doet met een kind dat er middenin opgroeit.

Telefoons, schoolfeesten en de speeltuin

Tijdens het gesprek noem ik de metro vol mensen op hun telefoon, en een filmpje van een puber die niet durft te dansen op een schoolfeest omdat ze gefilmd wordt. Tanja brengt zelf de speeltuin in: ouders op een bankje die niet naar hun spelende kinderen kijken, terwijl zij als oma juist geobsedeerd toekijkt bij haar kleinzoon. Algoritmes — van social media tot datingapps — zijn bewust ontworpen om aandacht vast te houden, niet om te voldoen. Sinds scholen telefoons verbieden, zien we kinderen weer spelen en praten met elkaar. Een kleine vorm van weerstand die laat zien dat het anders kan.

Geen brassa van een algoritme

Tegen het einde brengt Tanja een lokaal woord in: de brassa, de omhelzing waarmee Amsterdam Zuidoost elkaar begroet. Die kan AI niet geven, zeg ik, en ik illustreer dat met een kind dat alles al weet over het heelal en zich verveelt bij een leesopdracht. Een adaptief AI-systeem registreert alleen dat de opdracht niet is gemaakt, en concludeert: fout. Ik zie verveling, geen falen. Dat onderscheid — tussen meten en zien — is precies waar de docent niet te vervangen is door het systeem. Het is ook waar onderwijs ophoudt slechts kwalificatie te zijn en weer gaat over wat Biesta de vorming van een subject noemt: een kind dat niet alleen iets leert kennen, maar leert wie het zelf is, in relatie tot een ander die het ziet.

Het sluit aan bij het Caribische adagium dat Tanja inbrengt: it takes a village to raise a child. Ik vertaal dat naar de kernboodschap van mijn boek. Problemen als dakloosheid, ongelijke kansen, of het weren van een AZC in de eigen straat, worden te makkelijk individuele kwesties in plaats van gezamenlijke verantwoordelijkheid. Algoritmes versterken die versplintering, door iedereen in zijn eigen bubbel te plaatsen, met zijn eigen spiegel, zijn eigen 73. Mens blijven tussen systemen betekent voor mij precies dat: het samen blijven doen. Niet ieder voor zich, maar met elkaar — de ouder die niet op zijn telefoon kijkt, maar naar zijn spelende kind, de leraar die ziet dat het kind zich verveelt en uitgedaagd wil worden.

Ik sluit het gesprek af met Bob Marley’s So Much Trouble in the World. Ondanks alles zit er, denk ik, heel veel liefde onder. Misschien is dat ook de enige plek waar je met opvoeding kunt beginnen: niet bij het systeem, en niet bij het gemiddelde, maar bij de liefde die overblijft wanneer je werkelijk kijkt naar het kind dat voor je staat.

Mijn muziek in de aflevering:

Hierboven de aflevering die begint bij waar de uitzending begint. De originele uitzending vind je hier: https://www.salto.nl/programma/radio-mart/7H6EYMYtocK42Q6qWmMGG4/

Radio mArt: De Kleurrijke Stem van Amsterdam Zuidoost
https://radiomart.nl/