Inteligenţă artificială – UE avertizează asupra lipsei de transparenţă şi de reglementare în identificarea biometrică prin intermediul IA

„Identificările inexacte sau părtinitoare pot avea consecinţe grave pentru indivizi, iar posibilitatea de a fi identificaţi îi poate descuraja să participe la demonstraţii, să asiste la întâlniri publice sau să îşi exercite drepturile în public în orice alt mod”, avertizează în raport directoarea FRA, Sirpa Rautio.

Analiza FRA se concentrează asupra modului şi a tehnicilor de identificare, atât faciale, cât şi vocale, care sunt utilizate în şapte ţări ale UE: Germania, Franţa, Grecia, Ungaria, Irlanda, Italia şi Olanda.

FRA apreciază că această tehnologie, care poate fi utilizată pentru identificarea de la distanţă a persoanelor, este un instrument util, de exemplu, în lupta împotriva criminalităţii sau în localizarea persoanelor dispărute.

Potrivit declaraţiilor lui Rautio, mesajul central al acestui raport este că „siguranţa publică şi drepturile fundamentale nu sunt obiective divergente”.

Există însă riscuri şi lacune care trebuie abordate atunci când se aplică aceste tehnologii.

Una dintre principalele concluzii ale raportului este necesitatea unui cadru juridic clar pentru utilizarea acestor tehnologii, a explicat pentru EFE David Reichel, şeful departamentului Date şi Digital de la FRA şi unul dintre autorii raportului.

Potrivit lui Reichel, experţii consultaţi consideră că „legile din statele membre nu sunt suficient de bine conturate pentru a reglementa utilizarea” IA.

Fără un cadru normativ

Unele state membre nu au stabilit deocamdată cadrele normative şi autorităţile de supraveghere necesare şi, deşi există garanţii legale, aplicarea lor este inegală între ţări, ceea ce duce la niveluri variate de protecţie a drepturilor fundamentale.

Regulamentul european privind Inteligenţa Artificială interzice, în general, identificarea biometrică la distanţă, în timp real, în locuri publice, în scopuri poliţieneşti.

Şi chiar cu privire la acest aspect FRA a identificat o altă problemă: lipsa de transparenţă cu privire la tehnicile utilizate şi la modul în care sunt utilizate, notează Reichel, care recunoaşte din nou că uneori există motive pentru această secretomanie, de exemplu, în cazul anumitor operaţiuni ale poliţiei.

Cu toate acestea, expertul FRA subliniază că tocmai transparenţa în utilizarea acestei tehnologii ar creşte şi încrederea publicului, lucru care, în acest moment, nu este perceput ca fiind foarte generalizat.

Libertăţi democratice

Astfel, sondajele efectuate de FRA în rândul cetăţenilor relevă o îngrijorare că legile actuale „nu limitează suficient utilizarea sistemelor de identificare biometrică la distanţă”.

Un procent de 37% dintre respondenţi şi-au exprimat teama că datele colectate ar putea fi utilizate în scopuri neautorizate, iar alţi 29% au considerat că faptul că ştiu că aceste tehnici sunt utilizate i-ar putea descuraja să participe la o demonstraţie, ceea ce FRA numeşte un „efect de descurajare asupra libertăţilor democratice”.

Deşi sondajul a fost limitat în ceea ce priveşte numărul de persoane – circa 1.000 care participau la evenimente sau circulau în spaţii publice – Reichel observă că datele oferă o bună imagine asupra felului în care oamenii percep utilizarea acestor tehnologii.

La realizarea raportului, FRA a discutat cu autorităţile poliţieneşti, furnizorii de tehnologie, autorităţile naţionale pentru protecţia datelor şi birourile Avocatului Poporului, printre alte entităţi.

Potrivit FRA, corelarea datelor dintre informaţiile colectate şi bazele de date sau listele de supraveghere poate încălca dreptul la viaţă privată.

În plus, există riscul ca, dacă sistemele de algoritmi nu sunt bine concepute sau implementate, acestea să ducă la părtinire, discriminare şi potriviri biometrice inexacte, în special atunci când sunt utilizate pentru a identifica femei, minorităţi etnice, copii şi vârstnici.

„Aceste erori pot duce la verificări nejustificate ale poliţiei şi la acuzaţii false”, avertizează FRA.

Din toate aceste motive, FRA solicită ţărilor UE să introducă garanţii specifice şi stricte în legislaţia lor, care să stabilească clar când şi cum poate poliţia să utilizeze aceste tehnologii.

Mai mult, legislaţia fiecărei ţări trebuie să ţină cont de reglementările europene care limitează identificarea biometrică la distanţă la sarcini specifice, cum ar fi căutarea victimelor sau a persoanelor dispărute, prevenirea unei ameninţări la adresa vieţii sau răspunsul la un atac terorist.

În fine, FRA insistă că această tehnologie nu poate fi utilizată, de exemplu, pentru a identifica persoanele care participă la demonstraţii paşnice sau adunări publice.