Are Bøe Pedersen, førsteamanuensis ved NLA, publiserte en kronikk i Forskersonen som problematiserer bruken av KI som hjelpemiddel i skolen.
I norske videregående skoler brukes KI-verktøy som "elevassistenter", inkludert den GPT-drevne assistenten fra Norsk Digital Læringsarena (NDLA). Disse verktøyene er ment å hjelpe elever med å oppsummere informasjon og forklare vanskelige begreper. Men ifølge Pedersen kan slike språkmodeller ofte «hallusinere», det vil si dikte opp feilaktig informasjon, fordi de velger svar basert på sannsynlighetsberegning heller enn faktasjekking.
Bruken av kunstig intelligens i skolen kan føre til økte forskjeller mellom elever, ettersom de med sterk fagkunnskap vil kunne avsløre feilinformasjon, mens andre kan bli villedet. Elever med god fagkunnskap vil ofte raskt forstå at slike KI-verktøy er upålitelige og dermed velge dem bort Pedersen argumenterer for at KI-assistenter fort kan bli et forstyrrende mellomledd, heller enn et effektivt læringsverktøy. Dermed blir verktøyene mest brukt av elever som kanskje ikke har forutsetningene for å vurdere informasjonens kvalitet – noe som kan forsterke forskjellene i klasserommet.