Gigantul AI Anthropic avertizează că inteligenţa artificială ar putea reprezenta ”riscuri existenţiale pentru umanitate”

Adaugă-ne ca sursă preferată

Compania, dezvoltatoarea modelelor Claude, afirmă în document că sistemele sale ar putea încerca să ”reziste opririi”, să ascundă sau să manipuleze informaţii şi să manifeste comportamente „asemănătoare şantajului”, scrie NEWS.ro.

”Dezvoltarea de către noi a unor modele, platforme şi aplicaţii extrem de avansate şi extinderea cazurilor de utilizare ar putea creşte şi mai mult riscul ca modelele noastre să provoace prejudicii”, afirmă Anthropic în prospectul analizat de Reuters.

Avertismentele sunt neobişnuit de ample pentru documentaţia unei companii care se pregăteşte să intre pe bursă. Anthropic a dedicat aproximativ 80 dintre cele 261 de pagini ale corpului principal al prospectului prezentării factorilor de risc, aproape dublu faţă de cele 48 de pagini consacrate descrierii afacerii, scrie NEWS.ro.

Prin comparaţie, SpaceX, care deţine xAI, a alocat factorilor de risc aproximativ 38 dintre cele 277 de pagini ale corpului principal al prospectului său.

Anthropic, care s-a poziţionat drept unul dintre laboratoarele de inteligenţă artificială axate în mod special pe siguranţă, susţine că tehnologia ar putea avea un impact asupra societăţii comparabil cu industrializarea şi electricitatea, dar avertizează în acelaşi timp asupra unor efecte ireversibile dacă sistemele avansate nu sunt gestionate corespunzător. Citeşte mai departe pe NEWS.ro.