Waarom AI soms plechtig klinkende onzin verkoopt

Binnenkort houd ik een praatje voor onze kerkenraad over AI. Supergoed dat ze dit aan willen gaan (en ja, ook superdapper dat ik dit gewoon doe 😂).

Ik zocht een voorbeeld om te laten zien dat AI geen papegaai is die zinnen letterlijk uit een database herhaalt, maar creatief is. Daarom stelde ik een vraag waarvan ik aannam dat er in de databases/online geen pasklaar antwoord op te vinden is: "Waarom draagt een ambtsdrager een zwarte mitella?" (Een van de mannen draagt die namelijk na een ongeluk.)

Het antwoord dat ik kreeg was heel plechtig. Volgens ChatGPT komt de zwarte mitella uit de protestantse traditie, vooral binnen de gereformeerde gezindte. Ze zou aansluiten bij de academische toga en bij de gewoonte om ambtsdragers sober en herkenbaar te kleden. Zo'n kledingstuk zou helpen om de grens te bewaken tussen persoon en roeping, juist in een tijd waarin alles persoonlijk en expressief moet zijn.

Dit is nu typisch een gevalletje van wat we 'hallucineren' noemen: als AI goed klinkende onzin verkoopt.

Vanochtend stond die term in het nieuws als woord van het jaar, omdat hij sinds de komst van AI een nieuwe betekenis heeft gekregen.

Die hallucinaties van AI hebben weinig te maken met de hallucinaties van mensen. AI begrijpt niets echt, maar is eigenlijk alleen een grote rekenmachine die met woorden en waarschijnlijkheden werkt.

In dit geval berekende het systeem dat woorden als ambtsdrager, zwart, kleding, gereformeerd, soberheid en roeping vaak samen voorkomen. Die mitella zou daar dan ook wel bij passen. Je zou dus kunnen zeggen dat AI hier een rekenfoutje maakte.

Meestal zijn de antwoorden correct, maar het is goed om te beseffen dat hallucinaties bij AI horen; ze houden je scherp op de waarheid. (Die scherpte hebben we bij mensen trouwens ook nodig.)

En mocht je die mitella zondag toch op grote schaal terugzien, laat het me dan even weten. Dan heb ik me vergist.