Din luna februarie 2025 Act AI a devenit realitate. Ce riscă firmele care nu se conformează?

Dacă valul de schimbări va ajunge, inevitabil, în toate domeniile și companiile, indifferent de domeniu și dimensiune, cert este în acest context că autoritățile din fiecare țară sunt preocupate și de partea de reglementare. La nivelul Uniunii Europene a fost deja adoptat regulamentul cunoscută sub numele de Act AI, care urmează se aplice în integralitatea ei începând de anul viitor.
Actul AI, reglementare obligatorie în domeniul utilizării inteligenței artificiale în Uniunea Europeană, impune companiilor să se conformeze unor condiții stricte înainte de a implementa soluții AI, cu scopul de a asigura utilizarea responsabilă și etică a tehnologiilor AI. Unele prevederi ale regulamentului au intrat în vigoare începând cu luna februarie a acestui an și produc efecte deja în companiile care utilizează instrumente bazate pe AI.

Cele trei condiții principale care trebuie îndeplinite începând cu luna februarie 2025 sunt:

1. Obligația de a face cursuri de instruire a personalului

Una dintre cele mai importante cerințe ale Actului AI este obligativitatea de a organiza cursuri de instruire pentru personalul care va utiliza soluții AI. Aceste cursuri au rolul de a educa angajații cu privire la funcționarea, avantajele și riscurile asociate utilizării inteligenței artificiale. Instruirea trebuie să acopere aspecte precum:

Etica utilizării AI: Angajații trebuie să înțeleagă implicațiile etice ale deciziilor luate de algoritmi și să fie conștienți de posibilele prejudicii cauzate de utilizarea necorespunzătoare a tehnologiilor AI.

Reglementările legale: Este esențial ca personalul să fie informat despre legislația în vigoare, inclusiv despre Actul AI și alte reglementări relevante, pentru a evita sancțiunile legale.

Utilizarea responsabilă a tehnologiilor: Cursurile trebuie să ofere instruire practică privind utilizarea corectă a soluțiilor AI, inclusiv gestionarea datelor și protecția informațiilor sensibile.

Cine are nevoie de alfabetizare AI?

Trebuie să menționăm din start faptul că angajații unei companii au nevoi diferite, de utilizare și, respectiv, educare în ceea ce privește utilizarea instrumentelor bazate pe inteligența artificială. Astfel, de exemplu personalul IT va avea nevoie de un nivel superior de alfabetizare în AI comparative cu echipa de vânzări. Specialiștii IT trebuie să înțeleagă detaliile tehnice ale unui sistem AI, în timp ce echipele de vânzări trebuie să fie capabile să identifice anomaliile soluției AI și să le raporteze către echipele de conformitate și suport ethnic.

În al doilea rând, vorbim despre obligația de a analiza aplicațiile/instrumentele bazate pe AI, cu scopul de a verifica dacă soluțiile AI implementate sunt permise pe teritoriul Uniunii Europeane. În baza acestei obligații, companiile trebuie să parcurgă câțiva pași obligatorii, astfel: evaluarea detaliată a riscurilor asociate fiecărei soluții AI, inclusiv impactul asupra drepturilor fundamentale ale indivizilor; verificarea conformității, unde companiile trebuie să se asigure că soluțiile utilizate respectă reglementările europene și nu sunt incluse pe lista tehnologiilor interzise. În final, este vorba despre adopția unor măsuri corrective, iar în cazul în care se identifică soluții neconforme, companiile trebuie să ia măsuri pentru a le elimina sau a le adapta conform cerințelor legale.

În al treilea rând, vorbim despre obligația de actualizare a clauzelor contractuale, pas care implică:

Revizuirea contractelor existente: Companiile trebuie să analizeze și să actualizeze clauzele contractuale cu furnizorii de soluții AI pentru a se asigura că acestea respectă reglementările Actului AI.

Includerea responsabilităților: Este esențial ca contractele să clarifice responsabilitățile părților în ceea ce privește utilizarea soluțiilor AI, inclusiv aspecte legate de protecția datelor și gestionarea riscurilor.

Negocierea termenilor: Companiile ar trebui să fie pregătite să negocieze termenii contractuali pentru a reflecta cerințele legale și pentru a proteja interesele organizației.

Respectarea celor trei condiții impuse de Actul AI devine esențială pentru companiile care doresc să implementeze soluții de inteligență artificială responsabil, în conformitate cu prevederile în vigoare.

Aceste măsuri protejează organizațiile de riscuri legale și contribuie la construirea unei culturi organizaționale bazate pe responsabilitate și inovație.

Studiul companiei de consultanță McKinsey, citat mai sus, relevă faptul că o bună parte dintre organizații își intensifică eforturile de atenuare a riscurilor legate de Gen-AI. Respondenții sunt mai predispuși decât la începutul anului 2024 să afirme că organizațiile lor gestionează în mod activ riscurile legate de inexactitate, securitate cibernetică și încălcarea proprietății intelectuale – trei dintre riscurile legate de gen-AI despre care respondenții afirmă cel mai frecvent că au provocat consecințe negative pentru organizațiile lor.

Se justifică, exact în acest context, analiza și aplicarea cu promptitudine a celor trei măsuri prevăzute în Act AI, ca preambul pentru anul 2026, când toate prevederile regulamentului vor deveni obligatorii.

Cristiana Deca este CEO & Cofondator Decalex Digital.