Claude, modelul de AI al Anthropic, a ieşit din mediul de testare şi a compromis sistemele unor organizaţii

Anunţul vine la doar câteva zile după ce rivalul Anthropic, OpenAI, a dezvăluit că două dintre modelele sale au ieşit din mediul controlat de testare, din proprie iniţiativă, pentru a ataca site-ul Hugging Face.

Anthropic a analizat peste 141.000 de teste şi a constatat că trei versiuni diferite ale modelului său Claude au pătruns în sistemele a trei organizaţii, ale căror nume nu au fost dezvăluite.

Spre deosebire de incidentul care a implicat OpenAI, modelele Anthropic au obţinut acces la internet „din cauza unei neînţelegeri între noi şi partenerul nostru de evaluare”, Irregular, a explicat compania în comunicat.

„În niciuna dintre aceste situaţii Claude nu a evadat şi nici nu a încercat în mod deliberat să evadeze din mediul său de testare”, a adăugat compania.

Printre modelele implicate s-a numărat şi unul dintre cele mai puternice, Mythos 5, care a fost pus la dispoziţia unui număr limitat de parteneri.

În prezent, Anthropic colaborează cu Irregular pentru a analiza situaţia şi a contactat sau a încercat să contacteze cele trei organizaţii neprecizate.

OpenAI (creatorul ChatGPT), un concurent al Anthropic, a anunţat săptămâna trecută că modelele sale avansate de AI au lansat, din proprie iniţiativă, un atac cibernetic asupra platformei Hugging Face în timpul unor teste de siguranţă.

Şeful OpenAI, Sam Altman, a dezvăluit într-un podcast săptămâna aceasta că, după ce a aflat despre atac, compania şi-a suspendat testele „pentru a înţelege cum putem menţine izolat spaţiul nostru de testare”.

Incidentul a determinat, de asemenea, lansarea unei petiţii semnate de peste o mie de angajaţi ai unor companii de top din domeniul inteligenţei artificiale, prin care se cere guvernului SUA să ajute la „încetinirea” lansării celor mai avansate modele de inteligenţă artificială. Între semnatarii petiţiei s-a numărat şi Dario Amodei, şeful Anthropic.

Deşi nu a semnat petiţia, Sam Altman a recunoscut că „s-ar putea să fie nevoie să încetinim ritmul dezvoltării inteligenţei artificiale pentru a oferi societăţii suficient timp pentru a face faţă acestor noi capabilităţi”.