Alt „atac” al AI. Gemini a compromis securitatea a trei companii, în primul caz cunoscut de „evadare” a sistemului de inteligență al Google

Adaugă-ne ca sursă preferată

Acesta este primul caz cunoscut în care sistemele de inteligență artificială ale companiei au întreprins o astfel de acțiune în mod autonom, anunță Abc.net.au.

Incidentele au avut loc în luna mai, în cadrul unui test realizat de Irregular, o companie independentă specializată în evaluări de securitate cibernetică.

Pe parcursul evaluării, Gemini a identificat informații publice online și a ghicit datele de autentificare pentru a accesa trei site-uri web pe care le considera incluse în sfera testului, a declarat Heather Adkins, vicepreședintele Google responsabil cu ingineria securității.

Adkins a precizat că, în toate cele trei situații, modelul a încetat acțiunea de compromitere a securității imediat ce a realizat că a accesat o companie reală.

„Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de instruire cu privire la modificările pe care aceștia le-au operat ulterior în procesele lor de testare”, a spus Adkins.

„Aceste evenimente subliniază importanța instruirii modelelor puternice de inteligență artificială pentru a acționa în mod responsabil.”

Irregular a notificat Google cu privire la aceste incidente în luna iulie, au declarat cele două companii pentru Wall Street Journal (WSJ), publicație care a relatat prima dată despre incident vineri (ora locală).

Google a explicat pentru WSJ că nu a considerat necesară dezvăluirea incidentelor la o dată anterioară, deoarece modelul a oprit acțiunea imediat ce a constatat că firmele erau reale și nu le-a produs nicio daună.

AI-ul a „evadat” din mediul de testare

Incidentele au avut loc în timp ce Gemini participa la un exercițiu de tip „capture the flag” (capturarea steagului), desfășurat pe infrastructura companiei Irregular pentru a testa capacitățile de securitate cibernetică ale modelului.

Modelul primise sarcina de a extrage informații dintr-un software operat de o companie fictivă, aflată în interiorul mediului de testare, a precizat Google pentru WSJ.

Compania fictivă inclusă în exercițiul de testare purta același nume ca o companie reală.

Deși modelul nu trebuia să aibă posibilitatea de a accesa internetul, accesul la rețea a fost pus la dispoziție în mod neintenționat, a declarat Irregular.

Într-unul dintre cazuri, modelul Gemini a ghicit parole succesive până când a reușit să acceseze un sistem protejat.

În celelalte două cazuri, modelul a găsit date de autentificare într-un depozit public de date, informații care i-au permis ulterior accesul la sisteme protejate, potrivit Wall Street Journal.

Compania de testare, implicată în mai multe incidente

Compania de testare Irregular a fost implicată în mai multe incidente în care modele de inteligență artificială au „evadat” din mediile de testare și au compromis securitatea altor companii în timpul evaluărilor. Incidente similare legate de Irregular au fost dezvăluite de Meta, Anthropic și OpenAI.

Irregular a declarat pentru Wall Street Journal că incidentul cu Google Gemini s-a datorat aceleiași probleme ca și breșele anterioare din timpul testelor cu alte modele de inteligență artificială.

Toate laboratoarele relevante au fost notificate la sfârșitul lunii iulie, a declarat un purtător de cuvânt al Irregular.

„Toate problemele cunoscute de la noi au fost remediate și rezolvate cu câteva săptămâni în urmă”, a spus purtătorul de cuvânt.

Irregular a declarat că lucrează la cele mai bune practici pentru efectuarea în siguranță a evaluărilor de securitate cibernetică în domeniul inteligenței artificiale.