Een nieuwe RCT naar AI in het onderwijs: AI-tutoring verslaat actief leren, of toch niet?

Onderzoekers van Harvard voerden een randomized controled trial uit met 194 studenten om te onderzoeken of een AI-tutor studenten beter kan laten leren dan actief leren in de klas. De resultaten toonden aan dat wanneer studenten werkten met een AI-tutor zij significant hogere scores behaalden op de posttests, terwijl ze er minder tijd besteedden aan studeren dan wanneer ze actief leerden in de klas. Daarnaast gaven studenten aan zich meer betrokken en gemotiveerd te voelen. De AI-tutor was in deze studie specifiek ontworpen volgens bewezen didactische principes, zoals stapsgewijze begeleiding, directe feedback en hield rekening met cognitive load. Maar wat betekenen deze resultaten nu precies? En hoe werd de studie precies opgezet?

In deze studie ondergingen studenten beide condities, de AI-tutor én de actieve les,  maar dan in twee opeenvolgende weken. Dit zogenoemde crossover-design zorgt ervoor dat elke student beide condities. Voor en na elke les maakten de studenten toetsen in om de leerwinst te meten. Hoewel beide groepen dezelfde leerstof kregen aangeboden, zat het verschil 'm in de uitvoering: de AI-tutor bood individuele, stapsgewijze begeleiding met directe feedback, terwijl de actieve les draaide om samenwerking aan opdrachten in een klassikale setting. Maar wat zegt dit nu eigenlijk over de echte verschillen tussen deze twee onderwijsvormen?

De resultaten uit deze studie zijn duidelijk: wanneer studenten met de AI-tutor werkten, behaalden ze significant hogere scores op de posttests dan wanneer ze actief leerden in de klas. Met een effectgrootte variërend van 0.73 tot 1.3 standaarddeviaties, laat de studie zien dat de AI-tutor niet alleen beter presteerde dan actief leren, maar dit ook deed in beduidend minder tijd. Ruim 70% van de studenten voltooide de les in minder dan een uur, terwijl de actieve les een vaste 60 minuten in beslag nam. Ook op het gebied van betrokkenheid en motivatie scoorden hoger wanneer ze werkten met de AI-tutor. 

Resultaten van de studie voor posttest scores.

Deze studie is indrukwekkend op papier, maar er zitten toch een paar haken en ogen aan. Ten eerste:Wat wordt er nu precies vergeleken in deze studie? Een zelfstandige, individuele leeromgeving  met stapsgewijze begeleiding, directe feedback en adaptief tempo met een klassikale setting waarin samenwerking en opdrachten centraal staan. Met andere woorden: de auteurs vergelijken tutoring-achtige instructie (een methode waarvan al decennialang bekend is dat ze effectief is) met een klassieke versie van actief leren. Kun je dan zeggen dat AI beter werkt? Of had je dan AI-tutoring moeten vergelijken met tutoring van een docent of een oudere student? Of met een Intelligent Tutoring System?

Ten tweede: het novelty effect. Studenten waren meer betrokken en gemotiveerd. Maar dit was wellicht omdat ze met een nieuwe, hippe tool werkten. Maar hoe lang blijft dat effect bestaan? Zonder herhaalde blootstelling of langdurig gebruik weten we niet of die motivatie en betrokkenheid blijven bestaan als de nieuwigheid eraf is. 

Ten derde: tijdsbesparing betekent niet automatisch dieper leren. Studenten leerden meer in minder tijd, maar dat zegt niets over of ze de stof echt begrepen of alleen maar snel oppikten. De toetsen die de studenten maakten richtten zich volgens de auteurs op "the understanding, applying, and analyzing levels of Bloom’s Taxonomy". Mogelijk matchte dit minder goed met de opzet van de opzet en opdrachten in de actief leren-lessen, die mogelijk beter aansluiten bij de hogere niveau's van de taxonomie.

Kortom: AI is geen magie. Het werkt alleen wanneer het goed ontworpen is. Als je dezelfde principes (stapsgewijze begeleiding, directe feedback, adaptief tempo) in de klas of in een face-to-face situatie toepast, zou het resultaat vergelijkbaar kunnen zijn. En dan is er nog iets wat de auteurs helemaal vergeten te noemen: de prijs van veel directe feedback die de AI-tutor je kan geven. Het is al lang bekend uit de literatuur over Intelligent Tutoring Systems (ITS) dat directe feedback efficiënt kan zijn, maar dat het studenten ook kan belemmeren in het zelf ontdekken en corrigeren van hun eigen fouten. Schooler en Anderson waarschuwden hier in de jaren '90 al voor. Studenten die direct feedback krijgen, leren misschien sneller, maar ze leren óók minder zelfstandig. Ze leren bijvoorbeeld minder goed zelf fouten ontdekken en deze fouten corrigeren.

AI helpt leerlingen meer wanneer ze ook zelf iets doen, zoals notities maken

Er wordt momenteel over weinig onderwerpen in het onderwijs zo veel gesproken als over GenAI. Aan de ene kant zijn er mensen die zien dat GenAI het leerproces kan versterken: leerlingen kunnen sneller uitleg krijgen, vragen stellen en complexe teksten laten verduidelijken. Aan de andere kant groeit ook de zorg dat leerlingen met GenAI juist minder zelf nadenken en dat dit mogelijk nadelige gevolgen heeft. In de cursus Maatschappelijke vraagstukken: De rol van onderwijstechnologie van onze master Onderwijswetenschappen onderzochten we met studenten ook dit spanningsveld.

Ook een recente studie van Kreijkes en collega’s (2026) onderzoekt precies dit spanningsveld: wat gebeurt er wanneer leerlingen een large language model (LLM) gebruiken tijdens het lezen van een tekst? Helpt dat hen om beter te begrijpen en te onthouden wat ze lezen, of werkt een klassiekere strategie, zoals aantekeningen maken, eigenlijk beter?

De resultaten zijn interessant, en tegelijkertijd ook een beetje ontnuchterend.

Wat onderzochten ze?

De onderzoekers wilden weten wat er gebeurt wanneer leerlingen een large language model (LLM) gebruiken tijdens het lezen van een tekst. Concreet keken ze naar drie manieren van werken:

1. Aantekeningen maken tijdens het lezen
2. Een LLM gebruiken om vragen te stellen over de tekst
3. Een combinatie van LLM gebruiken én notities maken

Daarbij onderzochten ze drie zaken:

• tekstbegrip
• retentie van de inhoud van de tekst na enkele dagen
• betrokkenheid van leerlingen

Aan de studie namen 344 leerlingen van ongeveer 14-15 jaar uit zeven middelbare scholen in Engeland deel. De leerlingen bestudeerden twee historische teksten en werden drie dagen later getest op hun begrip en retentie.

GenAI gebruiken om te leren? Zelf nadenken blijft belangrijk

De resultaten laten een duidelijk patroon zien. Leerlingen die aantekeningen maakten, scoorden het best op zowel begrip als retentie. Leerlingen die alleen een LLM gebruikten scoorden het laagst. De groep die zowel een LLM gebruikte als aantekeningen maakte zat daar tussenin: zij deden het beter dan de LLM-groep, maar het verschil was minder groot dan met de groep die alleen aantekeningen maakte. Met andere woorden: GenAI bovenop een klassieke leerstrategie lijkt wel te helpen ten opzichte van GenAI alleen, maar het maakt de strategie van aantekeningen maken op zichzelf niet beter.

Betekent dit dat GenAI niet werkt?

Nee. Integendeel.

De studie suggereert dat combinaties van strategieën interessant kunnen zijn. LLM’s kunnen bijvoorbeeld helpen om extra vragen te stellen, verbanden te verkennen en nieuwsgierigheid te stimuleren. In de dataset zagen de onderzoekers bijvoorbeeld leerlingen die tijdens een tekst over apartheid plots vroegen naar het levensverhaal van Nelson Mandela, of tijdens een tekst over de Cubacrisis naar de angst voor communisme. Dat zijn vragen die verder gaan dan de oorspronkelijke tekst en mogelijk bijdragen aan dieper begrip of duiden op interesse die werd opgewekt bij de leerlingen.

Wat ook opviel: Veel van prompts die de leerlingen schreven waren gericht op het verkrijgen van aanvullende informatie of dieper begrip. Leerlingen stelden daarnaast vraag verduidelijkingsvragen ("Wat is een sanctie?") of vroegen de LLM vaak om informatie te conderseren. Opvallend was ook dat in slechts zes prompts bleek dat leerlingen de betrouwbaarheid van de output van de LLM betwijfelden. Een klein deel van de prompts was niet gerelateerd aan de leertaak ("Vertel me over Harry Potter"). 

Opvallend was ook dat wanneer de onderzoekers keken naar de overlap tussen de output die studenten genereerden met behulp van de LLM en de inhoud van hun notities, ze moesten constateren dat deze overlap behoorlijk groot was. Bij bijna 1/5 van de leerlingen bevatten de aantekeningen vrijwel alleen letterlijke kopieën van de LLM-output. Dit suggereert dat leerlingen in de LLM+aantekeningen conditie minder zelf aantekeningen maakten, wat mogelijk de effectiviteit ervan vermindert.

Overzicht van de verschillende prompts die leerlingen gebruikten.

Nog een interessant detail: Leerlingen dachten zelf vaak dat het LLM hen beter hielp dan notities maken. Dat staat haaks op hun daadwerkelijke leerresultaten.

Dat is overigens geen nieuw fenomeen. Onderzoek naar leren laat al langer zien dat leerlingen niet altijd goed kunnen inschatten wat hen werkelijk helpt om te leren.

Wat betekent dit voor onderwijs?

Misschien vooral dit: AI kan een nuttig hulpmiddel zijn, maar het vervangt geen cognitieve inspanning van leerlingen zelf. Strategieën zoals: aantekeningen maken, samenvatten, uitleggen in eigen woorden, blijven krachtige manieren om kennis op te bouwen.

En misschien is dat wel de belangrijkste les uit dit onderzoek: GenAI kan leren ondersteunen, maar leren zelf blijft inspanning vragen.

Of zoals een oud onderwijsprincipe het samenvat: als leren te gemakkelijk voelt, is het vaak minder effectief.

Het abstract

Students' rapid uptake of Generative Artificial Intelligence tools, particularly large language models (LLMs), raises urgent questions about their effects on learning. We compared the impact of LLM use to that of traditional note-taking, or a combination of both, on secondary school students' reading comprehension and retention. We conducted a pre-registered, randomised controlled experiment with within- and between-participant design elements in schools in England. 405 students, aged 14–15 years, studied two text passages and completed comprehension and retention tests three days later. Quantitative results demonstrated that both note-taking alone and combined with LLM use had significant positive effects on retention and comprehension compared to using the LLM alone. Yet, most students preferred using the LLM over note-taking, and perceived it as more helpful. Qualitative results revealed that many students valued the LLM for making complex material more accessible and reducing cognitive load, while they appreciated note-taking for promoting deeper engagement and aiding memory. Additionally, we identified “archetypes” of prompting behaviour, offering insights into the different ways students interacted with the LLM. Overall, our findings suggest that, while note-taking promotes cognitive engagement and long-term comprehension and retention, LLMs may facilitate initial understanding and student interest. The study reveals the continued importance of traditional learning activities, the benefits of combining LLM use with traditional learning over using LLMs alone, and the AI skills that students need to maximise those benefits.

Een terugblik op 2023 en tot in 2024!

Het jaar is bijna voorbij en daarmee is dit ook de laatste blogpost op ons blog. We wensen iedereen fijne feestdagen en een mooi 2024.

Maar ook op dit blog mag een jaaroverzicht niet ontbreken, dus hier zijn de 10 meest gelezen blogposts van het afgelopen jaar.

1. De meest populaire post beschreef de zorgwekkende resultaten van het PISA onderzoek: Teleurstellende resultaten PISA 2023: Gaat de volgende studiereis naar Ierland?
2. Jullie waren ook benieuwd hoe je meerkeuzevragen effectiever maakt voor retrieval practice: Deze simpele truc maakt meerkeuzevragen effectiever voor retrieval practice
3. 2023 was ook het jaar van AI: Is feedback van ChatGPT op geschreven teksten beter dan feedback van leerkrachten?
4. Jullie waren erg benieuwd naar onze voorspelling voor de PISA resultaten: Pakjesavond? PISA-dag!
5. We deden in 2023 ook een voorspelling voor de uitkomsten van het PIRLS onderzoek: Begrijpend lezen over begrijpend lezen: PIRLS komt eraan!
6. We publiceerden een blogreeks over activerend onderwijs: Activerend onderwijs 2: Acht manieren om actief leren te stimuleren
7. En ook deze post over activerend onderwijs was populair: Activerend onderwijs 1: Maak het constructief en interactief
8. En onze laatste voorspelling ging over De Staat van het Onderwijs: Vooruitkijken naar De Staat van het Onderwijs 2023
9. Ook deze post over AI in het onderwijs werd veel gelezen: Het gevaar van AI: Gaan studenten er te veel op leunen in plaats van ervan te leren?
10. Hoe effectief is Montessori-onderwijs? Meta-analyse toont positieve effecten van Montessori onderwijs

Bing maakte deze kerstkaart.

Het gevaar van AI: Gaan studenten er te veel op leunen in plaats van ervan te leren?

AI-ondersteunde leertechnologieën, zoals ChatGPT en writing assistants, worden meer ingezet in het onderwijs en bieden verschillende voordelen, zoals gepersonaliseerde feedback en adaptieve instructie. Maar hoe beïnvloeden deze technologieën de agency van studenten, hun vermogen om hun eigen leerervaringen vorm te geven en verantwoorde beslissingen te nemen? Een recente studie van Darvishi et al. (2023) onderzocht deze vraag in de context van peer feedback.

Aan hun onderzoek deden 1625 studenten in 10 cursussen mee die werkten met een adaptief onderwijssysteem dat AI gebruikt om de kwaliteit van peer feedback te controleren en te verbeteren. De eerste vier weken kregen alle studenten AI-prompts die verbeteringen in hun feedback voorstelden als deze te kort of te algemeen was of leek op hun eerdere opmerkingen. De volgende vier weken werden de studenten willekeurig ingedeeld in een van de volgende vier groepen: een controlegroep die AI-prompts bleef ontvangen, een groep die geen prompts ontving, een groep die checklists voor zelfcontrole ontving in plaats van AI-prompts, en een groep die zowel AI-prompts als checklists voor zelfcontrole ontving.

De resultaten van het onderzoek toonden aan dat studenten eerder vertrouwden op, dan leerden van AI-hulp. Toen AI-prompts werden verwijderd, nam de kwaliteit van de feedback van studenten aanzienlijk af, wat erop wijst dat ze niet de vaardigheden of gewoonten ontwikkelden om zelfstandig effectieve feedback te geven. Checklists voor zelfcontrole, konden het gat dat was ontstaan door AI-hulp gedeeltelijk opvullen, maar waren niet zo effectief als AI-prompts. Bovendien resulteerde de combinatie van AI-prompts en zelfcontrolerende checklists niet in een betere kwaliteit feedback dan AI-prompts alleen.

Het onderzoek roept belangrijke vragen op over de impact van kunstmatige intelligentie op de agency van studenten. Hoewel AI studenten op verschillende manieren kan ondersteunen, kan het ook hun ontwikkeling van agency en zelfregulatievaardigheden beperken.

Het abstract

AI-powered learning technologies are increasingly being used to automate and scaffold learning activities (e.g., personalised reminders for completing tasks, automated real-time feedback for improving writing, or recommendations for when and what to study). While the prevailing view is that these technologies generally have a positive effect on student learning, their impact on students’ agency and ability to self-regulate their learning is under-explored. Do students learn from the regular, detailed and personalised feedback provided by AI systems, and will they continue to exhibit similar behaviour in the absence of assistance? Or do they instead continue to rely on AI assistance without learning from it? To contribute to filling this research gap, we conducted a randomised controlled experiment that explored the impact of AI assistance on student agency in the context of peer feedback. With 1625 students across 10 courses, an experiment was conducted using peer review. During the initial four-week period, students were guided by AI features that utilised techniques such as rule-based suggestion detection, semantic similarity, and comparison with previous comments made by the reviewer to enhance their submissions if the feedback provided was deemed insufficiently detailed or general in nature. Over the following four weeks, students were divided into four different groups: control (AI) received prompts, (NR) received no prompts, (SR) received self-monitoring checklists in place of AI prompts, and (SAI) had access to both AI prompts and self-monitoring checklists. Results of the experiment suggest that students tended to rely on rather than learn from AI assistance. If AI assistance was removed, self-regulated strategies could help in filling in the gap but were not as effective as AI assistance. Results also showed that hybrid human-AI approaches that complement AI assistance with self-regulated strategies (SAI) were not more effective than AI assistance on its own. We conclude by discussing the broader benefits, challenges and implications of relying on AI assistance in relation to student agency in a world where we learn, live and work with AI.

Is feedback van ChatGPT op geschreven teksten beter dan feedback van leerkrachten?

Mark Warschauer, hoogleraar aan University of California, Irvine, deelde vandaag een pre-print van een interessante studie waarin feedback werd gegeven door een getrainde leerkracht of door ChatGPT op teksten die door leerlingen waren geschreven. 

Dit is de prompt die de onderzoekers gebruikten voor ChatGPT: “Pretend you are a secondary school teacher. Provide 2-3 pieces of specific, actionable feedback on each of the following essays...that highlight what the student has done well and what they could improve on. Use a friendly and encouraging tone. If needed, provide examples of how the student could improve the essay.”

Hun studie laat zien dat feedback van de getrainde leerkrachten op vier van de vijf door de onderzoekers gebruikte kwaliteitscriteria beter scoort dan de feedback van ChatGPT. Warschauer en zijn team concluderen ook dat de verschillen in kwaliteit van de feedback opvallend klein zijn.

Warschauer en zijn collega’s concluderen op basis van hun bevindingen dat ChatGPT (nog) geen vervanging is voor feedback van een leerkracht, maar dat leerlingen ChatGPT zouden kunnen gebruiken als aanvulling op feedback van een leerkracht.

Het abstract:

Offering students formative feedback on drafts of their writing is an effective way to facilitate writing development. This study examined the ability of generative AI (i.e., ChatGPT) to provide formative feedback on students’ compositions. We compared the quality of human and AI feedback by scoring the feedback each provided on secondary student essays (n=200) on five measures of feedback quality: the degree to which feedback (a) was criteria-based, (b) provided clear directions for improvement, (c) was accurate, (d) prioritized essential features, and (e) used a supportive tone. We examined whether ChatGPT and human evaluators provided feedback that differed in quality for native English speakers and English learners and for compositions that differed in overall quality. Results showed that human raters were better at providing high-quality feedback to students in all categories other than criteria-based. Considering the ease of generating feedback through ChatGPT and its overall quality, practical differences between humans and ChatGPT were not substantial. Feedback did not vary by language status for humans or AI, but AI and humans showed differences in feedback based on essay quality. Implications for generative AI as an educational tool are discussed.