FN ba torsdag om strenge regler for bruk av AI-verktøy som den virale chatboten ChatGPT i klasserom, inkludert å begrense bruken til eldre barn.

I en ny veiledning for regjeringer har UNESCO, FNs utdanningsorgan, advart om at regjeringer ikke er klare til å ta opp etiske spørsmål knyttet til distribusjon av kunstig intelligens-programmer «generative» i skolen.

Det Paris-baserte organet sa at det å stole på slike programmer i stedet for menneskelige lærere kan påvirke et barns følelsesmessige velvære og gjøre dem sårbare for manipulasjon.

«Generativ kunstig intelligens kan være en enorm mulighet for menneskelig utvikling, men det kan også forårsake skade og fordommer,» sa UNESCOs Audrey Azoulay.

«Det kan ikke innlemmes i utdanning uten offentlig engasjement og uten nødvendige sikkerhetstiltak og reguleringer fra myndigheter.»

Generative AI-programmer brøt frem i rampelyset sent i fjor, med ChatGPT som demonstrerte sin evne til å generere essays, dikt og samtaler fra de korteste spørsmålene.

Dette har skapt frykt for plagiering og juks på skoler og universiteter.
Men investorer har strømmet penger inn i dette området og utviklere har målrettet utdanning som et potensielt lukrativt marked.

UNESCOs retningslinjer indikerer at AI-verktøy har potensial til å hjelpe barn med spesielle behov, til å opptre som en motstander i «sokratiske dialoger» eller som forskningsassistent.

Men disse verktøyene ville bare være trygge og effektive hvis lærere, elever og forskere bidro til utformingen deres og hvis myndigheter regulerte bruken av dem.
Veiledningen gikk ikke så langt som å anbefale en minstealder for skolebarn, men påpekte at ChatGPT hadde en lavere aldersgrense på 13 år.

«Mange kommentatorer anser denne terskelen for å være for ung og har argumentert for lovgivning for å heve alderen til 16,» heter det i retningslinjene.