AI kan vara en välsignelse för överbelastade lärare och hjälpa till med uppgifter från att skapa frågesporter till att ge feedback.
Enligt AQA, en av Storbritanniens ledande examensmyndigheter, kräver dock tekniken en strikt mänsklig övervakning.
Organisationen delade nyligen med sig av sina resultat till den brittiska regeringen för att bidra till en bredare Konsultation om användningen av AI inom utbildningssektorn.
AQA-forskare genomförde tester med olika AI-verktyg, såsom ChatGPT, GPT4, LLaMA och Alpaca, i ett urval av vetenskapliga artiklar.
"Om AI kan minska arbetsbelastningen genom att hjälpa till med lektionsplanering och betygsättning kommer de smartaste personerna att vara mer benägna att bli lärare och stanna kvar i jobbet", säger Alex Scharaschkin, AQA:s verkställande direktör för forskning och innovation inom bedömning.
Försöken visade att AI kunde underlätta skapandet av anpassade frågesporter om specifika ämnen, automatiskt betygsätta studenternas svar, ge omedelbar feedback ochsammanfattningar av läroplaner.
AI:s fördelar inom utbildning är obestridliga, men det inser även studenterna, och utbildningsinstitutioner har blivit centrum för en bitter debatt om huruvida, hur och när AI ska integreras i sektorn.
AI:s inverkan på utbildning debatteras flitigt
AI:s roll i utbildningen är fortfarande i sin linda och det går inte att bortse från farhågorna om dess begränsningar och risker.
Om studenterna förlitar sig på AI kan de inte bara få en enkel väg till toppbetyg - det kan också påverka själva grunden för mänsklig kunskap.
I stället för att kunskapen sprids genom många olika trossystem och sociokulturella perspektiv, kan den bli starkt centraliserad och i huvudsak kontrolleras av en begränsad mängd utbildningsdata.
Lärare kämpar också med att hantera risken med AI-genererat innehåll, eftersom chatbots redan är utmärkta på att undvika AI-detektorer.
Som grädde på moset blir användningen av AI-detektorer alltmer kontroversiell, så till den grad att det innebär en större risk att använda dem än att inte göra det - eftersom risken för falska positiva resultat är så höga.
Dessutom visar forskning att AI-modeller redan är intar sina egna produkterDetta skapar en "återkopplingsloop", vilket innebär att begränsad ny information förs in i systemet.
AQA varnade i en rapport senaste blogginlägget"Det finns en risk att AI-systemen helt enkelt vidmakthåller populära myter, eftersom de inte har något verkligt sammanhang att utgå från utöver 'det som det pratas mycket om på internet'." Detta är en träffande observation, eftersom stora språkmodeller (LLM) som ChatGPT är beroende av aktuellt internetinnehåll för att fungera.
På temat AI-relaterad partiskhet skriver AQA: "När det gäller partiskhet kan ett AI-system behandla vissa grupper av människor mer fördelaktigt eller diskriminera dem, baserat på egenskaper som kön, etnicitet eller religiös övertygelse." Nya bevis indikerar att chatbottar har politisk partiskhet utöver dessa andra former av partiskhet.
Och hur är det med barn som växer upp mitt i stormen av generativ AI?
World Economic Forum (WEF) presenterade nyligen framhävd en tydlig brist på policy kring AI:s interaktion med barn, särskilt när appar som Snapchat lägger till chatbottar i sina tjänster.
Just nu är AI:s roll inom utbildning en riktig huvudkratare med många frågor och få svar.
