Waarom AI zal blijven hallucineren

Wij zijn opgevoed met een computer die altijd de waarheid spreekt.
Een formule in Excel klopt altijd. Dat komt doordat de computers zijn opgebouwd uit relationele databases: vakjes die altijd op dezelfde plek staan. Je vraagt om de uitkomst in vakje B12 en je krijgt vakje B12.

AI chatbots werken heel anders.

Een taalmodel heeft geen vakjes. Het voorspelt op basis van patronen waarop het is getraind. Het voorspelt zijn antwoord op woorden die vaak bij elkaar liggen (in een ruimte met honderden tot duizenden dimensies, vectoren). En dus niet: welk antwoord staat er opgeslagen. Maar: welk antwoord ligt hier het meest voor de hand? Welke woorden zwermen in deze samenstelling het vaakst dicht bij elkaar? Net zoals Google alvast een vraag voor je aanvult als je begint met typen.

Bekijk dit plaatje. Kan jij voorspellen welk welk woord er links moet staan?

En weet je waarom hij liever gokt dan "ik weet het niet" zegt? Als je het antwoord niet weet en je gokt, heb je soms geluk. Laat je het leeg, dan scoor je sowieso nul. En modellen worden getraind op hoeveel ze goed hebben, dus gokken blijft lonen.

Als je dat begrijpt, snap je meteen waarom sommige antwoorden niet kloppen. Waarom hij zelfs een bronvermelding verzint die er precies uitziet zoals een bronvermelding eruit hoort te zien. Waarom hij bij een simpele optelling de mist in kan gaan en bij een ingewikkeld betoog glansrijk slaagt.

(en natuurlijk verzinnen ze truucjes of maken ze speciale 'appjes' binnen de AI om beter te kunnen rekenen, maar een gezonde scepsis over het antwoord dat je krijgt kan nooit kwaad)

Wil je het zelf zien? Vraag hem iets over een onderwerp waar jij toevallig alles van weet. Jezelf, bijvoorbeeld. Of je vak, je dorp, je vereniging. Je ziet dan precies hoe hij zeker klinkt, maar het toch niet echt volledig blijkt te weten.

Hashtags: #promptdojo #AIfluency