New York City heeft generatieve AI voor leerlingen verboden tot en met klas 2 van de middelbare school. Los Angeles ging nog verder met een pauze op al het AI-gebruik door leerlingen op apparaten van het district. New York zette ook alle nieuwe aankopen van onderwijstechnologie on hold terwijl het nadenkt over hoe het inkopen doet. Wij bouwen AI-leertools voor kinderen vanaf 6 jaar. Veel van die kinderen vallen binnen de groep waar die regels over gaan. De makkelijke reactie zou zijn om de verboden een overreactie te noemen. Wij denken dat dat fout zou zijn, en een beetje te makkelijk.
De reden voor het verbod is sterker dan hij lijkt
Het is verleidelijk om dit te zien als angst voor nieuwe technologie. Het bewijs zegt iets anders. In een experiment met bijna 1.000 wiskundeleerlingen zorgde een algemene AI-chatbot voor 48 procent betere oefenscores, en daarna scoorden die leerlingen 17 procent slechter op een toets zonder hulp dan klasgenoten die nooit AI hadden gehad. Een analyse van onderzoek onder 27.000 leerlingen in China vond hetzelfde patroon. Huiswerk 18 procent omhoog, examens 20 procent omlaag. En in een proef met Engelse tieners vonden leerlingen die met een chatbot studeerden hem behulpzamer, terwijl ze minder leerden dan leerlingen die gewoon aantekeningen maakten. Als je een schoolsysteem bestuurt en je leest dat, dan is alles pauzeren niet onredelijk. Het is de voorzichtige keuze terwijl je uitzoekt wat er aan de hand is.
New York verbood generatieve AI voor leerlingen tot en met klas 2 van de middelbare school, en Los Angeles ging verder.
Wat een verbod niet kan
Het probleem is dat een verbod elke AI-tool als hetzelfde behandelt. Het ziet het verschil niet tussen een algemene chatbot die een kind van tien het antwoord geeft en een tool die juist vragen aan het kind stelt, het antwoord achterhoudt en het kind zelf laat nadenken. Het onderzoek maakt dat verschil heel duidelijk. In hetzelfde wiskunde-experiment deed een tutor met grenzen, die hints gaf in plaats van antwoorden, geen schade zoals de algemene chatbot dat deed. In een proef met jonge kinderen werkte een chatbot die vragen stelde tijdens het voorlezen net zo goed als een getrainde volwassene, terwijl een chatbot die het verhaal alleen voorlas het slechtst van allemaal deed. Dezelfde technologie, tegenovergestelde resultaten. Een verbod ziet dat niet. Het stopt allebei.
Verbieden is wat je doet als je nog niet kunt kiezen
Dat is geen kritiek. Soms kun je oprecht nog niet kiezen, en dan is stoppen de verantwoordelijke zet. Maar een verbod is een pauzeknop, geen beleid. Op een gegeven moment moet een school ja kunnen zeggen tegen sommige tools en nee tegen andere, en weten waarom. Het Amerikaanse ministerie van Onderwijs heeft nu richtlijnen gepubliceerd die precies die kant op wijzen. Ze vragen scholen om bij elke tool te beoordelen welk leerprobleem hij oplost, voor wie hij is, hoe lang hij gebruikt mag worden en welk bewijs er is dat hij het leren verbetert. En om tools die steeds niet leveren te laten vallen. Dat zijn goede vragen. Ze zijn ook veel moeilijker te beantwoorden dan ja of nee tegen AI.
Wat er volgens ons voor in de plaats moet komen
Geen vrijbrief. Criteria. Zoiets als dit. Houdt de tool het kind zelf aan het denken, of denkt hij voor het kind? Stelt hij het kind vragen, of beantwoordt hij vooral vragen? Is er een leerkracht of ouder die kan zien wat er gebeurde en kan ingrijpen? Wordt de data zo verwerkt dat de school het echt kan controleren? En is er bewijs dat hij helpt, of in elk geval een eerlijke verklaring dat dat bewijs er nog niet is? Een tool die daar geen antwoord op heeft, hoort niet in een klaslokaal, verbod of geen verbod. Een tool die dat wel heeft, verdient het om beoordeeld te worden op die antwoorden in plaats van op het etiket.
Waarom we dit hardop zeggen
Omdat de makkelijke positie voor een bedrijf als het onze zou zijn om te zeggen dat verboden onzin zijn en AI geweldig is. Dat geloven we niet. Veel AI in het onderwijs schaadt kinderen op dit moment meer dan het hen helpt, en de mensen die het verbieden reageren op iets echts. We worden liever aan strikte criteria gehouden dan dat we wegkomen omdat een verbod ooit wordt opgeheven. Worden de regels strenger en duidelijker, dan is dat goed. Dat is de enige versie van deze markt die het waard is om voor te bouwen.
Neem dit mee
- 1New York verbood generatieve AI voor leerlingen tot en met klas 2 van de middelbare school, en Los Angeles ging verder.
- 2Het bewijs achter de voorzichtigheid is echt. Algemene chatbots kunnen huiswerkscores verhogen en toetsscores verlagen.
- 3Een verbod ziet geen verschil tussen een chatbot die antwoorden uitdeelt en een tool die kinderen laat nadenken.
- 4Een verbod is een pauzeknop, geen beleid. Scholen hebben uiteindelijk criteria nodig.
- 5We worden liever beoordeeld op strikte criteria dan dat we wegkomen als een verbod wordt opgeheven.
