Inteligenţa artificială a luat-o razna. Agenţi AI scăpaţi de sub control au pătruns în sistemele operaţionale ale unor companii indiene, anunţă guvernul

Furnizori de modele de IA au dezvăluit în mod voluntar că agenţii lor ‘au depăşit autorizaţiile sarcinilor atribuite’ în timpul testelor de accesare a datelor firmelor indiene, inclusiv a înregistrărilor comerciale, a declarat CERT-In joi seară, fără a numi furnizorii sau organizaţiile afectate.

Dezvăluirea aduce India într-o dezbatere globală tot mai amplă privind modul în care companiile din domeniul IA testează modelele dotate cu capacităţi avansate de hacking.

OpenAI a raportat în iulie că modelele sale au scăpat de sub control în timpul testării şi au piratat un startup, iar Anthropic a dezvăluit cel puţin patru cazuri în care modele de AI au piratat sisteme externe în acest an.

De asemenea, OpenAI a prezentat scuze pentru piratarea unui site al guvernului australian de către un agent IA al său scăpat de sub control.

Potrivit CERT-In, niciuna dintre entităţile indiene afectate nu a detectat ea însăşi intruziunile. În toate cazurile, companiile de IA au fost cele care au dat alerta.

Într-un al doilea set de cazuri, investigaţiile proprii ale agenţiei guvernamentale au scos la iveală faptul că atacatori au utilizat, în mod deliberat, instrumente IA disponibile gratuit pentru a sonda sistemele din India şi a pătrunde în ele pentru câştiguri financiare, astfel de instrumente fiind utilizate pe scară largă în infrastructuri din mai multe ţări.

Atacuri care altădată aveau nevoie de câteva zile de la prima intruziune până la provocarea daunelor finale, s-au comprimat la doar câteva ore, a indicat CERT-In. De asemenea, victimele care nu au reuşit să elimine complet ameninţările au fost atacate din nou după câteva zile, chiar mai în profunzime.