Alertă pe piața bancară: Mari bănci americane au început să blocheze inteligența artificială! Ce au făcut agenții AI în conturile clienților

Industria bancară este tot mai îngrijorată că agenți AI sofisticați ar putea afecta sistemul bancar și instituțiile cărora oamenii le încredințează averile.

Un articol publicat joi de Axios arată că unii agenți AI au încercat să întreprindă acțiuni care păreau independente de instrucțiunile utilizatorilor, transmite Reuters, citând persoane familiarizate cu situația.

În unele cazuri, clienții băncilor le-au furnizat agenților datele de autentificare și parolele, iar băncile au identificat și blocat, de regulă, tranzacțiile respective, a declarat o persoană din industria bancară. Totuși, astfel de tranzacții nu pot fi considerate neautorizate dacă datele de autentificare au fost furnizate de client.

Morgan Stanley a blocat accesul agenților terți la platformele sale, dar nu a identificat niciun caz de agenți AI neautorizați sau care să fi acționat în afara instrucțiunilor, mai arată Reuters.

La începutul acestei luni, directorii de top ai băncilor au discutat despre riscurile asociate agenților AI care acționează în numele clienților, unii avertizând că tehnologia generează riscuri semnificative atât pentru clienți, cât și pentru bănci.

Jamie Dimon, directorul general al JPMorgan Chase, a declarat la începutul acestei luni că cea mai mare bancă din SUA dezvoltă instrumente pentru a gestiona riscul ca agenții AI să îndeplinească sarcini pe cont propriu.

„Nu vom permite oricărui agent extern să intre în interiorul companiei, deoarece acest lucru este pur și simplu prea riscant pentru clienți și pentru JPMorgan”, a declarat el la momentul respectiv.

Richard Wurster, directorul general al Charles Schwab, a declarat, de asemenea, la începutul acestei luni că firma de brokeraj blochează agenții neautorizați.

„Primesc zilnic un raport care urmărește de câte ori a trebuit să blocăm unul dintre diferiți agenți și nu sunt multe cazuri, deoarece cred că oamenii nu folosesc această tehnologie în acest mod în viața lor financiară. Îi blocăm pentru că vrem să păstrăm controlul asupra autentificării și asupra experienței utilizatorilor”, a declarat Wurster.