Şeful Anthropic cere încetinirea dezvoltării AI şi propune un plan în trei etape; Sam Altman şi Elon Musk susţin iniţiativa

Amodei a prezentat sâmbătă un plan în trei etape despre care spune că ar putea reduce ritmul dezvoltării fără a sacrifica avantajul comercial al companiilor sau poziţia Statelor Unite în cursa globală pentru AI. „Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-şi alinia şi proteja modelele”, a explicat el.

Prima etapă, pe care Anthropic s-a angajat deja să o aplice, presupune ca evaluatori independenţi să primească un nivel de acces similar angajaţilor companiei pentru a verifica măsurile de siguranţă şi a raporta incidentele. A doua etapă presupune coordonarea principalelor companii AI din ţările democratice pentru stabilirea unor standarde comune, iar a treia ar necesita acorduri între guvernele democratice şi cele autoritare.

Apelul vine după demisia cercetătorului Anthropic Jacob Coxon, care a acuzat Anthropic şi OpenAI că „se joacă cu vieţile noastre” şi a afirmat că unii dintre oamenii care dezvoltă AI cred că tehnologia ar putea provoca dispariţia omenirii până la sfârşitul deceniului. Amodei susţine că asemenea riscuri trebuie luate acum mult mai în serios decât în 2023, când modelele erau mult mai puţin capabile să acţioneze în lumea reală.

Iniţiativa a primit rapid sprijinul lui Sam Altman, CEO-ul OpenAI, care a declarat că încetinirea dezvoltării celor mai avansate capacităţi AI a devenit un subiect central al discuţiilor din companie. Altman a susţinut şi ideea evaluatorilor independenţi cu acces extins şi a anunţat că OpenAI va adopta o măsură similară.

Şi Elon Musk a susţinut public propunerea, afirmând simplu că „Dario are dreptate”. Amodei consideră că şi numai un an sau doi câştigaţi înainte ca modelele AI să atingă niveluri critice de capacitate ar putea oferi cercetătorilor timpul necesar pentru a îmbunătăţi alinierea şi a reduce semnificativ riscul ca dezvoltarea tehnologiei să scape de sub control.