Prim-viceguvernatorul BNR lansează conceptul care arată cum putem ajunge în „scenariul Terminator”. Leonardo Badea și decalajul lui Azazel în AI

Analiza lui Leonardo Badea, construită în jurul noului concept numit „decalajul lui Azazel” vine într-un moment în care preocuparea față de dezvoltarea AI într-un ritm mult mai alert decât capacitatea de înțelegere și mai ales de supraveghere și control a omului a devenit una dintre marile probleme ale lumii. De altfel, mogulii AI, adică cei mai puternici dezvoltatori ai noilor tehnologii, au ajuns la un acord pentru reducerea masivă a investițiilor și, implicit, a dezvoltării în această zonă, pe fondul pericolului expus mai sus.

Este posibil „scenariul Terminator”? Sigur este doar că șansele ca acesta să fie real sunt acum mai mari decât au fost vreodată. Oficialul BNR, Leonardo Badea, încearcă să evalueze acest risc.  El își începe analiza pornind de la o carte legendară cu conținut religios, anume Cartea lui Enoh. În lucrare se vorbește despee îngerul decăzut Azazel, care dezvăluie omului cunoștințele interzise de Dumnezeu și, în final, creează haos. „Într-un registru mai larg, esența poveștii induce o problemă morală: cum putem folosi o nouă tehnologie pentru a crea o lume mai bună? Faptul că reușim să dezvoltăm instrumente care ne oferă mai multă putere nu înseamnă că avem în mod automat și înțelepciunea necesară în utilizarea lor. Cartea lui Enoh aparține unei lumi ancestrale, dar miturile supraviețuiesc și arată tensiuni umane care reapar în contexte istorice diferite. Contextul introducerii inteligenței artificiale (AI) pe scară largă în viitorul apropiat, precum și al modificărilor inerente evocă similitudini cu problema inițială din acest mit istoric, respectiv cât de pregătită este societatea pentru salturi majore în cunoaștere și cum va reacționa.”, notează Badea.

Mai departe, prim-viceguvernatorul trece la o analiză detaliată în termeni științifici lasând un nou concept, denumit decalajul lui Azazel. „În acest sens, decalajul Azazel poate fi interpretat ca expresia unei asimetrii între viteza cu care societatea dobândește noi capacități tehnologice și viteza cu care reușește să acumuleze cunoașterea, experiența și mecanismele de guvernanță necesare utilizării lor responsabile. Cu alte cuvinte, tehnologia poate avansa mai repede decât capacitatea societății de a învăța să o controleze. „, arată Leonardo Badea.

Întreaga analiză, incluzând fundamentarea și explicitarea decalajului lui Azazel poate fi accesată AICI

Câștiguri uriașe, riscuri catastrofale în zona AI

În concluziile materialului care poate fi urmărit accesând linkul de mai sus, Badea arată că beneficiile evidente aduse de Inteligența Artificială (AI) trebuie completate de mecanisme de supraveghere adecvate și mai ales corelate cu viteza de evoluție a tehnologiei. ”

„Dincolo de diferențele dintre traiectoriile simulate, exercițiul evidențiază o implicație economică mai generală: beneficiile asociate dezvoltării inteligenței artificiale depind nu numai de viteza progresului tehnologic, ci și de capacitatea de adaptare a mecanismelor organizaționale care facilitează utilizarea și supravegherea acestuia. În consecință, o accelerare a investițiilor în AI care nu este însoțită de consolidarea corespunzătoare a structurilor de guvernanță poate conduce la accentuarea unor vulnerabilități, în timp ce dezvoltarea coordonată a celor două categorii de capital poate contribui la diminuarea riscurilor asociate transformării tehnologice. Această interpretare trebuie însă circumscrisă caracterului teoretic al exercițiului: simulările pun în lumină un mecanism economic plauzibil, fără a permite identificarea empirică a unui nivel optim al decalajului Azazel. Astăzi, devine o evidență faptul că utilizarea AI pe scară largă transformă această nouă tehnologie într-o componentă esențială a tuturor infrastructurilor critice. „, arată oficialul BNR.

Întreaga analiză, incluzând fundamentarea și explicitarea decalajului lui Azazel poate fi accesată AICI