Vaticanul atrage atenţia asupra pericolului „controlului social” şi al „manipulării” reprezentat de AI

Într-un document intitulat în latină „Quo Vadis, Humanitas?”‘ („Încotro mergi, omenire?”), Comisia Teologică Internaţională (ITC) afirmă că omenirea trebuie să se confrunte cu „riscuri de neimaginat până acum”, provocate de tehnologie.

„Astăzi, asistăm la o pierdere a simţului istoriei şi la o reducere a experienţei în favoarea clipei trecătoare”, se arată în documentul aprobat de papa Leon al XIV-lea. „Cultura digitală tinde să (…) transforme cultura vie a memoriei şi a speranţei într-o cultură postmodernă a unui prezent închis în sine”, se precizează în text.

Pentru Vatican, AI creează o lume „hiperconectată”, cu o „accelerare tot mai mare a dinamicii economice, politice, sociale şi militare, care riscă să devină incontrolabilă şi, prin urmare, de neguvernat”.

„Într-o astfel de lume, acţiunea umană însăşi devine o materie primă care trebuie analizată şi formatată în funcţie de obiectivele de putere sau de piaţă, care nu sunt întotdeauna transparente. Controlul social creşte, la fel ca şi riscul de manipulare”, se arată în document.

Relaţiile, în special în cadrul familiilor, reprezintă „o barieră împotriva răspândirii unei globalizări omogenizante, care nu ajută întotdeauna la crearea de legături autentice”, precizează Vaticanul.

Papa a emis mai multe avertismente cu privire la riscurile AI generative. La data de 24 ianuarie, el a denunţat „lipsa de transparenţă în crearea algoritmilor” care guvernează funcţionarea diverselor chatboturi. „În spatele acestei enorme forţe invizibile, care ne priveşte pe toţi, există doar câteva companii”, a deplâns el, exprimându-şi temerea faţă de „controlul oligopol al AI”.

La sfârşitul lunii decembrie, el a denunţat, de asemenea, cursa pentru AI în domeniul militar, descriind „delegarea către maşini a deciziilor privind viaţa şi moartea fiinţelor umane” drept o „spirală distructivă”.