Meta nu vrea să pună frână la inteligenţa artificială. Mark Zuckerberg respinge apelurile de încetinire a dezvoltării AI

„Oamenii nu vor dori să folosească agenţi care nu sunt aliniaţi propriilor interese şi care nu fac ceea ce le cer. Prin urmare, laboratoarele au un puternic stimulent natural să facă în aşa fel încât să-şi alinieze mai mult modelele” în faţa cerinţelor, a scris Zuckerberg pe reţeaua de socializare X.

Conceptul de „aliniere” se referă la eforturile de a face modelele de IA să se comporte aşa cum doresc oamenii. „Orice laborator care nu se concentrează pe aliniere va rămâne în urmă”, anticipează şeful companiei Meta, scrie Agerpres.

Îngrijorările din jurul IA au crescut în ultimele săptămâni, după mai multe incidente de securitate şi a unei noi capacităţi a modelelor de IA de a se perfecţiona singure, fără intervenţie umană.

Dezbaterea are la ora actuală în vedere şi capacitatea sectorului de se auto-reglementa. Societăţi precum OpenAI, Anthropic şi Google studiază crearea unui organism comun de elaborare a unor standarde.

Mai mulţi reprezentanţi influenţi din sector, conduşi de directorul general al Anthropic, Dario Amodei, pledează pentru o încetinire a dezvoltării IA.
În schimb, Zuckerberg consideră că ameninţarea cu acţiuni legale obligă deja laboratoarele să acţioneze în mod responsabil. El dă ca exemplu în acest sens decizia Meta de a amâna cu mai multe luni lansarea sistemului său Muse AI, prevăzut cu agenţi personalizaţi, pentru a-şi consolida mai întâi măsurile de securitate şi siguranţă.

De asemenea, Mark Zuckerberg s-a pronunţat în favoarea evaluărilor independente ale sistemelor de IA, subliniind că Meta Superintelligence Labs, divizia de Inteligenţă Artificială a companiei Meta, foloseşte deja experţi externi.

El a cerut crearea unui „ecosistem mai vast şi mai diversificat de evaluatori” pe ansamblul sectorului, o critică voalată la adresa Anthropic, companie căreia unii îi reproşează că favorizează evaluatorii cu care menţine legături strânse.

Compania Meta, care anul acesta va investi până la 145 de miliarde de dolari în infrastructura sa de IA, se pronunţă împotriva oricărei reglementări susceptibile să încetinească dezvoltarea domeniului. Nicio regulă nu ar trebui să întârzie lansarea modelelor americane, „nici măcar cu o lună”, a indicat deja fondatorul său la începutul lunii august.

Opinia lui Mark Zuckerberg a fost salutată de mai multe personalităţi din Silicon Valley apropiate Casei Albe, care contestă la rândul lor creşterea atenţionărilor privind pericolele potenţiale pe care le implică Inteligenţa Artificială şi apelurile de încetinire a dezvoltării acesteia.

OpenAI, Anthropic şi Google lucrează la crearea unui organism care să supravegheze riscurile asociate de inteligența artificială

OpenAI, Anthropic şi Google DeepMind lucrează la crearea unui organism care să supravegheze riscurile asociate inteligenţei artificiale (AI), a declarat marţi OpenAI pentru AFP, pe fondul solicitărilor tot mai insistente pentru un control mai bun asupra potenţialelor efecte negative ale acestei tehnologii, scrie Agerpres.

Şi Chris Lehane, directorul de politici globale al producătorului ChatGPT, a afirmat, citat de Bloomberg News şi Reuters, că OpenAI colaborează cu rivalii Anthropic şi Google DeepMind, compania deţinută de Alphabet, în domeniul siguranţei inteligenţei artificiale.

Ideea a pornit de la o propunere a lui Demis Hassabis, CEO al Google DeepMind înainte de a deveni preşedintele acesteia la începutul lunii august, care a sugerat înfiinţarea unei entităţi similare cu Autoritatea de reglementare a industriei financiare din SUA (FINRA). FINRA a fost înfiinţată în baza legislaţiei federale şi funcţionează sub supravegherea autorităţii de reglementare a pieţei din SUA, SEC.

De câteva luni, principalii actori din domeniul AI solicită guvernului american să reglementeze sectorul şi să supravegheze siguranţa AI.

La începutul lunii august, administraţia Trump a implementat un proces de evaluare a noilor modele de AI, însă participarea este voluntară, iar mecanismul specific nu a fost dezvăluit.

În urma apelului lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, de a încetini dezvoltarea AI, preşedintele american Donald Trump şi mai mulţi membri ai partidului de guvernământ şi-au reiterat dorinţa de a nu frâna acest sector, invocând oficial temerile că astfel de măsuri ar conferi un avantaj competitiv Chinei.

Înfiinţarea unui organism propriu de supraveghere de către industrie ar necesita, probabil, adoptarea unei legislaţii, în special pentru a evita acuzaţiile de înţelegere sau de încălcare a normelor antitrust în cadrul industriei AI.

Într-un mesaj publicat online la jumătatea lunii iulie, Demis Hassabis a propus o structură finanţată de companiile din sector, cu un consiliu format din experţi independenţi şi reprezentanţi ai ecosistemului open-source. Odată ce organizaţia ar deveni funcţională, principalele companii de AI ar fi obligate să îşi supună noile modele unei evaluări – punând un accent deosebit pe siguranţă – înainte de a le lansa pe piaţă.

Potrivit lui Demis Hassabis, acest nou organism ar putea de asemenea să coordoneze o încetinire a dezvoltării AI, în cazul în care înţelegerea riscurilor nu ar ţine pasul cu progresele inteligenţei artificiale.