Rond 1900 trok Wilhelm von Osten door Duitsland met zijn paard Kluger Hans. Hij had – zonder het te weten – het paard getraind om te reageren op zijn gezichtsuitdrukking. Wenkbrauwen iets omhoog en Hans begon te kloppen met zijn hoef, wenkbrauwen omlaag en Hans stopte weer. Wilhelm was ervan overtuigd dat hij het paard rekenen had geleerd. Vele mensen, inclusief wetenschappers, konden lange tijd niet vast stellen hoe Hans kon optellen, aftrekken, delen, vermenigvuldigen – en zelfs kon lezen, want soms werd de opgave alleen getoond. Totdat er in een wat uitvoeriger onderzoek eens geprobeerd werd of Hans het ook kon als Wilhelm het antwoord zelf niet wist. Hans bleef doen wat hij geleerd had, maar Wilhelm faalde uiteraard.
Computers zijn het tegenovergestelde van Hans, ze kunnen vooral heel goed rekenen. Het gebruik van computers is de afgelopen 80 jaar exponentieel toegenomen, net als de rekenkracht en opslagcapaciteit. Maar het principe is niet veranderd. Je geeft het een set instructies en het gaat rekenen. Die instructies zijn gebaseerd op (propositie)logica of verzamelingenleer. Het komt op het volgende neer: je doet twee of meer beweringen en vervolgens trek je een conclusie gebaseerd op de beweringen. Bijvoorbeeld: Alle mensen zijn sterfelijk, Socrates is een mens, dus Socrates is sterfelijk. Of de beweringen, die leiden tot de conclusie, waar zijn speelt in de logica geen rol. Dan kun je zoiets krijgen als: Alle mensen die een formulier voor kinderopvangtoeslag verkeerd invullen zijn fraudeur, Karin heeft een datum verkeerd ingevuld, dus Karin is fraudeur. De redenering is solide. Computer says, yes! Maar de beweringen reduceren de realiteit tot een farce.
Recentelijk hadden we een gesprek met een vriendin, Ingrid, die een hondendagopvang heeft. Een vrouw die haar helpt zei op een gegeven moment dat twee honden die ochtend hadden gevochten. Ingrid keek verbaasd, want die twee honden kunnen het goed met elkaar vinden. Ze vroeg wat ze dan precies hadden gedaan, “Nou, ze hapten naar elkaar en waren aan het grommen”, was het antwoord. “Maar dan kunnen ze net zo goed aan het spelen zijn”, reageerde onze vriendin. Als je een oordeel moet vellen op basis van de conclusies van een ander dan is jouw oordeel net zo vooringenomen als dat van die ander. Je kunt alleen tot een eigen oordeel komen als je eigen waarnemingen hebt.
Een Artificieel Neuraal Netwerk (ANN) is de motor van een artificiële intelligentie (AI). Je kunt zo’n ANN ontwerpen en bouwen, zoals ik deed, maar dat was ruim 25 jaar geleden. Dankzij de enorm toegenomen rekenkracht en de schier onuitputtelijke hoeveelheid data die je kunt benaderen op het internet kun je nu ook iets bouwen waarmee je een ANN genereert. ChatGPT is een AI met een ANN dat getraind is op data van het internet. Het is niet ontworpen, het is ontstaan door de analyse van een duizelingwekkende hoeveelheid tekst. Die analyse komt neer op het in kaart brengen van patronen. Als de woorden ‘kat’ en ‘huisdier’ in teksten vaak dicht bij elkaar staan dan resulteert dat in een verband tussen die twee woorden dat sterker is (meer punten scoort) dan bijvoorbeeld een verband tussen de woorden ‘kat’ en ‘zaag’. Het kan ook zijn dat ‘zaag’ een sterk verband heeft met ‘zingende’ en die twee samen weer met ‘kat’ via ‘kattengejank’. Zo zijn alle woorden wel op de een of andere manier met elkaar verbonden, maar die verbinding kan uiterst complex zijn. De analyse van al die tekst leidt tot een netwerk van miljarden of zelfs biljoenen parameters die onderling verbonden zijn, vandaar de naam Large Language Model (LLM). Daarmee is het niet klaar. In de volgende fase wordt het model getraind door eindeloos ‘raad het volgende woord’ te spelen. Telkens als het fout is tweakt het mechanisme de parameters van het algoritme een beetje. Daarna volgt er een fase van duizenden uren van menselijke training waarbij ook die feedback weer tot aanpassingen leidt. Uiteindelijk heb je een algoritme waar aan de voorkant een vraag ingaat en aan de achterkant een antwoord uitkomt. Wat er tussenin gebeurt weet men niet. Wat niet betekent dat je het niet kunt weten, maar dat je het eigenlijk niet wilt weten, omdat het een enorme klus is om uit te zoeken en niets oplevert voor de doelstellingen van AI bouwers.
AI had niet kunnen leren wat het paard Kluger Hans leerde. Het heeft geen zintuigen, er is geen geluid, geen beeld, geen gevoel, geen onrust, blijdschap, liefde, angst, voldoening, schaamte, niets. Het is een dood mechanisme, een causaal netwerk dat wordt ontwikkeld aan de hand van een voortdurende stroom van getallen. Het past zichzelf niet aan, er is geen zichzelf. De vragen die mensen stellen worden niet begrepen, er vinden alleen maar berekeningen plaats. Natuurlijk ontstaat er enorme complexiteit, dat is inherent aan exponentiële toename van het aantal parameters en mogelijke waarden. Het verschil tussen een geëvolueerd wezen dat in wisselwerking is met de realiteit en een mechanisch algoritme is zo kolossaal dat het triest is dat het überhaupt een issue is.
We leven in onze huizen afgesloten van de realiteit, we communiceren via systemen, doen de gordijnen dicht door op een knopje te drukken. Geven geen sleutel aan de buren, maar installeren een videobel en een slimme thermostaat. Eten en spullen bestellen we online. We accepteren dat er voor alles een regel is en dat als we in de problemen zijn de overheid ons moet redden, terwijl die overheid zichzelf achter systemen verschanst: Digital First. We kijken naar praatprogramma’s waarin verschijnselen behandeld worden alsof ze uit de lucht komen vallen. Politici reageren op gebeurtenissen alsof er geen verleden en toekomst is. Voor alle crises van de afgelopen en de huidige tijd – de toeslagenaffaire, Groningen, stikstof, het klimaat, de oorlogen in Oekraïne en Gaza – geldt dat we net zo goed bij ChatGPT te rade hadden kunnen gaan. Nergens wordt de context meegenomen, nergens worden oordelen en interventies daadwerkelijk beïnvloed door het leed dat er wordt geleden en de ontstaansgeschiedenis van problemen.
We geven steeds meer betekenis als ChatGPT. We lijden massaal aan betekenisvernauwing, onze eigen intelligentie is artificieel geworden. De dreiging is niet dat AI slimmer wordt dan mensen, de dreiging is dat mensen dommer worden dan AI.
Rick Dekker
