Atacurile de phishing cu AI reprezintă peste 80% din activitatea globală de inginerie socială observată

„Miliarde de oameni şi dispozitive sunt conectate, serviciile cloud susţin viaţa de zi cu zi, iar „script kiddies” de odinioară au evoluat în organizaţii infracţionale cibernetice sofisticate, care oferă malware-as-a-service (MaaS) oricui este dispus să plătească. În prezent, atacatorii vizează întregul ecosistem digital – de la endpointuri şi workload-uri în cloud până la dispozitive IoT şi infrastructuri critice. În plus, un nou element perturbă peisajul ameninţărilor, şi anume inteligenţa artificială. Acest instrument puternic schimbă perspectiva asupra a ce înseamnă să rămâi cu adevărat rezilient cibernetic. Rapoartele din presă au arătat că agenţii AI demonstrează un nivel ridicat de inteligenţă la testele pentru identificarea vulnerabilităţilor din produse software. Potrivit informaţiilor publicate citate de Agerpres, Mythos de la Anthropic a identificat nu mai puţin de 271 de vulnerabilităţi doar în aplicaţia de browser Firefox şi peste 23.000 de alte vulnerabilităţi în mai mult de 1.000 de proiecte open-source. Şi este doar un sigur instrument”, a subliniat expertul în securitate cibernetică al eset, Mark Szabo, într-un articol de specialitate, publicat recent pe blogul din România al producătorului de soluţii antivirus.

Potrivit sursei citate, la începutul anului 2024, Microsoft şi OpenAI au raportat că „nu observaseră încă tehnici de atac bazate pe AI noi sau unice” şi au descris AI-ul, în mare parte, ca pe un accelerator de productivitate pentru atacatori.

„Dar, surpriză! Doar doi ani mai târziu, cercetătorii în securitate de la Google au raportat ceea ce ar putea fi primul exploit de tip zero-day dezvoltat cu ajutorul AI, iar ESET Research a descoperit PromptLock, primul ransomware bazat pe AI, precum şi PromptSpy, un malware pentru Android care utilizează abuziv GenAI în procesul său de execuţie. Aşadar, aşa cum se întâmplă adesea, presupunerile din tech expiră peste noapte. (…) Mesajele-capcană create manual sunt de domeniul trecutului. AI a accelerat considerabil realizarea materialelor de phishing, în mai multe limbi, extinzând astfel raza lor de acţiune la nivel global. Unele rapoarte arată că atacurile de phishing cu AI reprezintă peste 80% din activitatea globală de inginerie socială observată. IBM afirmă că AI a făcut phishingul atât de eficient, încât acum este nevoie de doar cinci minute pentru a crea un email, faţă de cele 16 ore necesare iniţial”, notează specialistul.

Analiza de specialitate include şi un raport al Gartner, conform căruia până la 62% dintre organizaţii s-au confruntat cu un atac de tip deepfake – folosind conţinut media sintetic, generat sau manipulat cu ajutorul AI pentru a părea real.

De asemenea, constatările IBM arătau că 97% dintre companiile care au raportat un incident de securitate asociat AI nu dispuneau de controale adecvate pentru accesul la AI, iar 63% nu aveau politici de guvernanţă în domeniu.

„Democratizarea AI a pus capabilităţi puternice la îndemâna tuturor, de la utilizatori din mediul de business la pasionaţi, studenţi şi aşa-numiţii „vibe coders”, care dezvoltă aplicaţii cu puţină pregătire în domeniul securităţii sau al dezvoltării software. Deşi tocmai accesibilitatea reprezintă unul dintre cele mai mari avantaje ale AI, generează în acelaşi timp un decalaj de competenţe: oamenii pot implementa acum fluxuri de lucru bazate pe AI – precum capabilităţi AI agentice printr-un instrument precum OpenClaw – şi pot conecta modelele la date sensibile sau chiar dezvolta instrumente pe zona de producţie, cu mult înainte de a înţelege pe deplin implicaţiile de securitate, confidenţialitate şi guvernanţă. De multe ori, adminii IT nu ştiu ce instrumente AI sunt utilizate, ce date sunt încărcate, dacă rezultatele generate sunt sigure sau dacă elementele AI introduse în fluxurile de lucru pot fi de încredere”, explică Szabo.

Datele centralizate de Eset relevă, totodată, că dintr-un total de 900.000 de aptitudini analizate ale AI, 25.000 erau suspecte, iar peste 3.000 erau în mod clar maliţioase. Practic, cele din urmă pot extrage date, pot descărca şi executa programe malware, pot ignora instrucţiunile utilizatorului, pot modifica subtil comportamentul unui agent în timp sau chiar pot modifica skill-ul în sine.

Eset a fost fondată în anul 1992 în Bratislava (Slovacia) şi se situează în topul companiilor care oferă servicii de detecţie şi analiză a conţinutul malware, fiind prezentă în peste 180 de ţări.