Inteligenţa artificială generativă a devenit un risc emergent pentru organizaţii – sondaj

Potrivit analiştilor Gartner, disponibilitatea pe scară largă a inteligenţei artificiale (IA) generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit în al doilea trimestru al anului 2023 o preocupare de prim rang pentru directori.

„Inteligenţa artificială generativă a fost al doilea cel mai frecvent risc identificat în cadrul sondajului nostru din al doilea trimestru, apărând pentru prima dată în top 10. Acest lucru reflectă atât creşterea rapidă a gradului de conştientizare a publicului şi utilizarea instrumentelor IA generative, cât şi amploarea potenţialelor cazuri de utilizare şi, prin urmare, riscurile potenţiale pe care le generează aceste instrumente”, a explicat Ran Xu, director de cercetare în cadrul Gartner Risk & Audit Practice.

În luna mai 2023, compania a chestionat 249 de directori seniori responsabili pentru gestionarea riscurilor din organizaţii pentru a oferi liderilor o viziune comparativă a 20 de riscuri emergente. Rapoartele Quarterly Emerging Risk Reports includ informaţii detaliate despre impactul posibil, intervalul de timp, nivelul de atenţie şi oportunităţile percepute pentru aceste riscuri.

Viabilitatea terţilor a fost principalul risc care a apărut rapid pe care organizaţiile îl monitorizează cel mai îndeaproape în sondajul din trimestrul 2 al acestui an. Incertitudinea planificării financiare a fost al treilea risc, urmat de riscul de concentrare în cloud. Tensiunile comerciale din China au completat lista primelor cinci riscuri care au fost împărţite între problemele simptomatice ale volatilităţii macroeconomice şi geopolitice generale actuale şi preocupările legate de tehnologie.

Gartner a identificat anterior şase riscuri ale IA generative şi patru domenii de reglementare a IA care sunt relevante pentru funcţiile care dau încredere. În ceea ce priveşte gestionarea riscului organizaţiei, potrivit experţilor trebuie abordate trei aspecte principale: proprietatea intelectuală, confidenţialitatea datelor şi securitatea cibernetică.

„Informaţiile introduse într-un instrument de IA generativă pot deveni parte a setului său de instruire, ceea ce înseamnă că informaţiile sensibile sau confidenţiale ar putea ajunge în rezultate pentru alţi utilizatori. Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfârşi prin a încălca din neatenţie drepturile de proprietate intelectuală ale altora care le-au folosit”, a detaliat Xu.

Potrivit sursei citate, este important să fie educată conducerea organizaţiei cu privire la necesitatea prudenţei şi a transparenţei în ceea ce priveşte utilizarea unor astfel de instrumente, astfel încât riscurile de proprietate intelectuală să poată fi gestionate în mod corespunzător, atât în ceea ce priveşte introducerea de date, cât şi rezultatul obţinut prin instrumentele de IA generativă.

Gartner, Inc. este o companie americană de consultanţă şi cercetare în IT, ce oferă o perspectivă obiectivă şi utilă pentru directori şi echipele lor.