Val de sinucideri printre adolescenţii din SUA care formaseră relaţii intime fictive cu chatboţii AI. California reglementează în premieră inteligenţa artificială

Sfidând presiunile Casei Albe, care se opune reglementării AI, guvernatorul democrat a semnat luni o serie de legi care impun, printre altele, verificarea vârstei, mesaje de avertizare regulate şi protocoale de prevenire a sinuciderilor, scrie Agerpres.

„Am văzut câteva exemple cu adevărat oribile şi tragice de tineri care au căzut victime ale tehnologiilor slab reglementate, aşa că nu vom sta deoparte în timp ce companiile operează fără limite sau responsabilitate”, a transmis Gavin Newson printr-un comunicat după promulgarea pachetului legislativ.

Unul dintre textele de lege cheie, SB243, se referă la reglementarea chatboţilor care pot acţiona ca însoţitori sau confidenţi, cum ar fi cei dezvoltaţi de platforme precum Replika sau Character.AI.

Aceasta din urmă a fost una dintre primele date în judecată de părinţii unui băiat american de 14 ani, Sewell, care s-a sinucis în 2024 după ce a format o relaţie romantică cu un chatbot inspirat din seria „Game of Thrones”, suspectat că i-ar fi întărit gândurile suicidare.

„Putem continua să fim lideri în domeniul inteligenţei artificiale (…), dar trebuie să acţionăm responsabil, protejându-ne copiii pe parcurs”, a adăugat guvernatorul Californiei, stat american unde se află Silicon Valley şi principalii giganţi ai dezvoltării de modele de inteligenţă artificială, precum OpenAI (ChatGPT), Google (Gemini) şi xAI (Grok).

Pe lângă verificarea vârstei, această lege impune trimiterea regulată de mesaje pentru a le reaminti utilizatorilor că interacţionează cu o maşină (la fiecare trei ore pentru minori). Aceasta impune companiilor să prevadă detectarea gândurilor suicidare, să furnizeze acces la programe de prevenire şi să raporteze statistici autorităţilor.

„Industria tehnologică este încurajată să capteze şi să menţină atenţia tinerilor în detrimentul relaţiilor lor din lumea reală”, a argumentat senatorul californian Steve Padilla, iniţiatorul proiectului de lege, în timpul dezbaterii.

„Tehnologiile emergente, precum chatboţii şi reţelele sociale, pot inspira, educa şi conecta oamenii, dar, fără protecţii reale, ele pot exploata, induce în eroare şi pune în pericol copiii noştri”, a justificat guvernatorul.

În Statele Unite, nu există reguli naţionale care să limiteze riscurile asociate cu inteligenţa artificială, iar Casa Albă încearcă să împiedice statele să îşi creeze propriile reglementări.