RefGPT: dé oplossing?

Gisteren verscheen in het RD een artikel over RefGPT, een alternatief waar ik eerder al kennis mee maakte. Omdat de makers en ik dezelfde zorg delen, kwamen we met elkaar in contact. Daarnaast heb ik meermaals de vraag gekregen wat ik van het initiatief vind. Hier een korte recap.

Allereerst vind ik het prijzenswaardig dat er áctie is: een plan, een idee. En als ik iets níet wil, is het dat polarisatie ervoor zorgt dat die trein weer tot stilstand komt. Tegelijkertijd zie ik wel kanttekeningen die wat mij betreft in het artikel van gisteren, door een gebrek aan journalistiek doorvragen, onderbelicht zijn gebleven.

1. Er wordt gesteld dat RefGPT "vrijwel niet hallucineert". Dit is technisch niet hard te maken, omdat de aard van elke AI is dat deze rekent met waarschijnlijkheden (probabilistisch). Ook met RAG-systemen, Azure als cloudplatform, bronverwijzing en filters blijft hallucineren mogelijk.
2. De claim dat RefGPT 100 procent reformatorisch verantwoord is, is theologisch en inhoudelijk te absoluut. Samenvatten en selecteren is altijd interpretatie, en dé 'refo' bestaat niet. Je kunt bijvoorbeeld verschillend denken over een tekst als Galaten 6:4.
3. Ook de uitspraak dat RefGPT een volwaardig alternatief is voor ChatGPT klopt niet helemaal. RefGPT is bewust beperkt en functioneert als een schil om een bestaand taalmodel. Zo kan het bijvoorbeeld geen afbeeldingen genereren.

Er zijn meer kanttekeningen te maken, bijvoorbeeld rond auteursrechten van lesmethoden. Mijn belangrijkste bezwaar is echter dat AI inmiddels diep is ingeburgerd, zeker bij leerlingen in het VO. Ongeveer 90% van die leerlingen gebruikt AI al (bron: scholieren.com), en vooralsnog is er geen reden om aan te nemen dat dit bij reformatorische jongeren anders ligt. De vraag is dan of een alternatief als RefGPT voldoende ruimte zal innemen. Is investeren in kritische, Bijbelbewuste AI-geletterdheid niet grondiger en passender, ook in het licht van de AI Act?

Tot slot: wat mij betreft zijn er zeker mogelijkheden voor RefGPT, maar wel beperkter dan in het artikel wordt gepresenteerd. Ik zie bijvoorbeeld kansen als oefentool in het basisonderwijs, en dan uitsluitend binnen de schoolcontext.