OpenAI, Anthropic şi Google lucrează la crearea unui organism care să supravegheze riscurile asociate de inteligența artificială

Şi Chris Lehane, directorul de politici globale al producătorului ChatGPT, a afirmat, citat de Bloomberg News şi Reuters, că OpenAI colaborează cu rivalii Anthropic şi Google DeepMind, compania deţinută de Alphabet, în domeniul siguranţei inteligenţei artificiale.

Ideea a pornit de la o propunere a lui Demis Hassabis, CEO al Google DeepMind înainte de a deveni preşedintele acesteia la începutul lunii august, care a sugerat înfiinţarea unei entităţi similare cu Autoritatea de reglementare a industriei financiare din SUA (FINRA). FINRA a fost înfiinţată în baza legislaţiei federale şi funcţionează sub supravegherea autorităţii de reglementare a pieţei din SUA, SEC.

De câteva luni, principalii actori din domeniul AI solicită guvernului american să reglementeze sectorul şi să supravegheze siguranţa AI.

La începutul lunii august, administraţia Trump a implementat un proces de evaluare a noilor modele de AI, însă participarea este voluntară, iar mecanismul specific nu a fost dezvăluit.

În urma apelului lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, de a încetini dezvoltarea AI, preşedintele american Donald Trump şi mai mulţi membri ai partidului de guvernământ şi-au reiterat dorinţa de a nu frâna acest sector, invocând oficial temerile că astfel de măsuri ar conferi un avantaj competitiv Chinei.

Înfiinţarea unui organism propriu de supraveghere de către industrie ar necesita, probabil, adoptarea unei legislaţii, în special pentru a evita acuzaţiile de înţelegere sau de încălcare a normelor antitrust în cadrul industriei AI.

Într-un mesaj publicat online la jumătatea lunii iulie, Demis Hassabis a propus o structură finanţată de companiile din sector, cu un consiliu format din experţi independenţi şi reprezentanţi ai ecosistemului open-source. Odată ce organizaţia ar deveni funcţională, principalele companii de AI ar fi obligate să îşi supună noile modele unei evaluări – punând un accent deosebit pe siguranţă – înainte de a le lansa pe piaţă.

Potrivit lui Demis Hassabis, acest nou organism ar putea de asemenea să coordoneze o încetinire a dezvoltării AI, în cazul în care înţelegerea riscurilor nu ar ţine pasul cu progresele inteligenţei artificiale.