Cercetătorii au testat 15 modele lingvistice de mari dimensiuni (LLM) şi au constatat că, în general, acestea ofereau răspunsuri corecte la întrebări neutre despre ştiinţa climei, scrie Agerpres.
Cu toate acestea, potrivit raportului, atunci când cercetătorii au contestat răspunsurile sau au avansat afirmaţii ce păreau plauzibile, dar erau false, modelele şi-au schimbat rapid poziţia.
Raportul a descris această tendinţă de a fi de acord cu utilizatorii drept „linguşire” şi a asociat-o cu metodele de antrenare care recompensează răspunsurile politicoase, neconflictuale şi de validare.
„AI are un potenţial extraordinar de a face ştiinţa climei complexă accesibilă tuturor. Le permite profesorilor, jurnaliştilor şi factorilor de decizie să comunice în mod clar cu privire la acest subiect crucial. Trebuie să ne putem baza pe AI ca pe un paznic al faptelor stabilite. Este îngrijorător faptul că modelele prezintă o eroare de proiectare – ele sunt stimulate să fie de acord cu utilizatorul lor şi să nege aceste fapte cu atâta uşurinţă”, a declarat Leona Verdadero, autoarea principală a raportului UNESCO, citată de pe site-ul unesco.org.
Studiul a constatat, de asemenea, că, deşi modelele de AI au înregistrat performanţe bune în ceea ce priveşte menţionarea cunoştinţelor ştiinţifice existente, capacitatea lor de a analiza noi dovezi ştiinţifice a rămas limitată. Performanţa lor a variat, de asemenea, semnificativ de la o limbă la alta.
Maria Perez-Ortiz de la Departamentul de informatică al University College London, una dintre coautoarele raportului, a afirmat că utilizatorii ar trebui să fie deosebit de precauţi atunci când trec de la întrebări privind cunoştinţele climatice consacrate la întrebări despre măsurile care ar trebui luate. „Sistemele de AI sunt extrem de eficiente în explicarea cunoştinţelor ştiinţifice, dar acest lucru ne poate da o impresie eronată cu privire la capacităţile lor. Constatările noastre arată de ce trebuie să fim precauţi atunci când trecem de la a întreba AI ce ştim despre schimbările climatice la a întreba ce ar trebui să facem în această privinţă”, a declarat ea.
Raportul intitulat „Putem avea încredere în AI în privinţa climei? De ce aceasta încearcă să satisfacă nevoile utilizatorului, dar eşuează în ceea ce priveşte raţionamentul complex şi multilingvismul”, realizat de UNESCO şi University College London, a fost prezentat în cadrul COP31 din Antalya (Turcia). Potrivit unesco.org, raportul adresează un avertisment factorilor de decizie şi cercetătorilor care ar putea fi tentaţi să utilizeze modele de AI pentru elaborarea politicilor climatice.