Programul de inteligență artificială Mythos, dezvltat de Anthropic, a descoperit vulnerabilități în sistemele informatice foarte sensibile ale Guvernului SUA

Anthropic a colaborat cu serviciile de informaţii americane pentru teste cu Mythos în cadrul Proiectului Glasswing, un program secret pentru identificarea şi eliminarea breşelor în software-uri vitale înainte de a putea fi exploatate de atacatori.

Senatorul Mark Warner din Virginia a declarat luna aceasta în cadrul unei audieri parlamentare că şeful Ageniei Naţionale de Securitate (NSA, National Security Agency) Joshua Rudd l-a informat că Mythos „a penetrat în aproape toate sistemele noastre secrete nu în săptămâni, ci în ore”.

AP citează sub rezerva anonimatului un oficial american care a declarat că deşi Mythos a detectat unele vulnerabilităţi în numai câteva ore nu înseamnă că modelul le-ar fi putut şi exploata atât de rapid.

Casa Albă şi Anthropic nu au răspuns imediat solicitărilor Reuters de a comenta, iar Departamentul Apărării a redirecţionat întrebările către NSA.

Relaţiile Anthropic cu Guvernul de la Washington au avut momente tensionate. Compania, care se pregăteşte de listarea la bursă, a refuzat să permită forţelor armate americane utilizarea modelelor sale de inteligenţă artificială pentru supraveghere pe teritoriul SUA şi pentru sisteme de armament complet autonome, iar ca urmare SUA au inclus Anthropic pe o listă neagră în domeniul securităţii. Luna aceasta, Guvernul Statelor Unite a interzis exportul celor mai recente modele ale inteligenţelor artificiale Mythos şi Fable, dezvoltat tot de Anthropic, către orice ţări sau cetăţeni străini, din motive de securitate naţionale. În consecinţă, potrivit ziarului New York Times, NSA a rămas fără acces la Mythos.

Anthropic a declarat încă din aprilie că modelele sale de AI de vârf Mythos au capacităţi fără precedent de detectare a breşelor în software. Serviciile de securitate din Regatul Unit, SUA, Australia, Canada şi Noua Zeelandă, alianţa în domeniul informaţiilor secrete cunoscută ca Five Eyes, au avertizat, conform unei ştiri difuzate marţi de AFP, că inteligenţa artificială progresează atât de rapid, încât pirateria informatică asistată de AI ar putea depăşi în câteva luni orice bariere de securitate. Serviciile secrete au cerut insistent guvernelor de la Londra, Washington, Canberra, Ottawa şi Wellington şi companiilor din ţările lor să se pregătească rapid pentru evoluţia AI.

Foto: Dario Amodei, fondatorul Anthropic