Inteligența Artificială Generalistă: Un Riscul Major pentru Educația Sensibilă
Utilizarea inteligenței artificiale (AI) generice de către profesori pentru pregătirea lecțiilor prezintă riscuri semnificative de dezinformare, în special în disciplinele sensibile precum istoria sau religia. Avertismentul vine din partea Andreei Nistor, membru în conducerea Edit AI, education changemaker și policy maker. Aceasta subliniază necesitatea trecerii la soluții AI specializate, dezvoltate în mod specific pentru educație, pentru a contracara aceste amenințări.
Pericolul „Hallucinațiilor” AI în Sălile de Clasă
Motoarele generaliste de AI, utilizate pentru structurarea lecțiilor, sintetizarea informațiilor sau redactarea conținutului, accesează o gamă largă de informații de pe internet. Acesta este un aspect critic, deoarece acuratețea și controlul informațiilor predate elevilor devin incerte. Într-un sistem educațional ce se bazează pe programe școlare clare și rigurozitate factuală, posibilitatea de „halucinații” și dezinformare reprezintă o vulnerabilitate reală.
„A folosi soluții generaliste de inteligență artificială ca să-ți pregătești lecțiile în calitate de profesor nu e lucru ideal. Motoarele generaliste de inteligență artificială îşi iau orice informație de pe net”, a explicat Andreea Nistor în cadrul emisiunii ZF Live, realizată cu sprijinul Orange Business.
Problema devine și mai acută în cazul disciplinelor unde informația trebuie validată din punct de vedere istoric sau științific, iar contextul este crucial pentru o înțelegere corectă. Profesorii care pregătesc lecții despre teme sensibile riscă să preia informații incomplete sau chiar incorecte din surse nefiltrate.
Soluții specializate, cheia pentru un viitor educațional sigur
„Eu sunt astăzi o profesoară de istorie și aș vrea să predau mâine ceva legat de pogrom sau ce s-a întâmplat cu evreii sau cu romii în România sau orice alte informații factuale sau lucruri legate de religie și de orice alt subiect. Șansa ca eu să găsesc informații corecte și complete pe internetul larg, de unde motoarele astea îşi iau informație, e foarte mică atunci când vorbim despre profesori și despre învățare”, a continuat Andreea Nistor.
Direcția globală se schimbă, sistemele de educație și furnizorii de tehnologie orientându-se spre dezvoltarea de instrumente AI specializate pentru profesori. Acestea vor fi integrate în platforme educaționale controlate și bazate pe conținut verificat, adaptat curriculumului școlar.
„Majoritatea ţărilor lumii au început să introducă soluţii de inteligenţă artificială special destinate profesorilor, pentru ca ei să poată să le folosească zi de zi la clasă”, a adăugat Andreea Nistor.
Riscul dezinformării obligă școlile să caute instrumente sigure și valide, iar companiile de tehnologie să dezvolte platforme AI controlate și adaptate programei școlare.
