Pe măsură ce instrumentele AI au devenit tot mai populare și mai accesibile, autoritățile europene au decis că este nevoie de reglementarea inteligenței artificiale.
Ce este Regulamentul privind Inteligența Artificială
Astfel, în 2024, în Uniunea Europeană a intrat în vigoare prima legislație de acest gen din lume, care își propune atât să susțină inovarea pe „Bătrânul continent”, dar și să își protejeze cetățenii de eventualele riscuri și efecte negative ale AI.
Regulamentul privind Inteligența Artificială, al cărui text complet poate fi consultat aici, a intrat în vigoare la data de 1 august 2024. Este important de menționat că cea mai mare parte a legislației se va aplica abia de la 2 august 2026. Totuși, anumite prevederi se vor aplica mai devreme, de la 2 februarie 2025, respectiv 2 august 2025, în timp ce unele se vor aplica mai târziu, de la 2 august 2027.
Regulamentul, ce conține 113 articole și 13 anexe, este prima lege privind inteligența artificială din lume și urmărește să garanteze că sistemele de AI sunt sigure, etice și de încredere, și că sunt dezvoltate și utilizate în mod responsabil, se arată pe site-ul Consiliului Uniunii Europene.
Mai precis, normele stabilite de autoritățile europene le impun anumite obligații furnizorilor și implementatorilor de tehnologii AI și reglementează autorizarea sistemelor de inteligență artificială pe piața unică a UE.
Reglementarea inteligenței artificiale – tipuri de riscuri
Regulamentul abordează riscurile asociate cu utilizarea AI și le clasifică în 4 categorii:
1. Riscuri minime sau inexistente. Majoritatea sistemelor AI nu comportă riscuri, apreciază legiuitorii UE. De exemplu, jocurile sau filtrele antispam bazate pe AI pot fi utilizate fără restricții, ele nefiind reglementate sau afectate de Regulamentul UE privind AI.
2. Riscuri limitate. Sistemele de AI care prezintă doar riscuri limitate, cum ar fi chatboții sau sistemele care generează conținut (AI generativă, precum ChatGPT), fac obiectul unor obligații de transparență. Printre obligații se numără: informarea utilizatorilor cu privire la faptul că respectivul conținut a fost generat de AI, astfel încât aceștia să poată lua decizii în cunoștință de cauză.
Riscurile inteligenței artificiale – cele 4 categorii
3. Riscuri ridicate. Sistemele AI cu grad ridicat de risc, cum ar fi cele utilizate în diagnosticarea bolilor, conducerea autonomă a vehiculelor și identificarea biometrică a persoanelor implicate în activități infracționale sau investigații trebuie să îndeplinească cerințe și obligații stricte pentru a obține acces pe piața UE. Printre obligațiile impuse se numără testarea riguroasă, transparența și supravegherea umană, se mai arată pe site-ul Consiliului UE.
4. Riscuri inacceptabile. Este interzisă utilizarea în UE a sistemelor dotate cu AI care reprezintă o amenințare la adresa siguranței, a drepturilor sau a mijloacelor de subzistență ale oamenilor. Printre acestea se numără manipularea comportamental-cognitivă, activitățile polițienești bazate pe analiza predictivă, recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ, precum și atribuirea unui punctaj social. Se interzice, de asemenea, cu unele excepții limitate, utilizarea sistemelor de identificare biometrică la distanță în timp real, cum ar fi recunoașterea facială de către autoritățile de aplicare a legii în spațiile publice.
Reglementarea inteligenței artificiale – practicile interzise în Uniunea Europeană
Articolul 5 din Regulament enumera care sunt practicile interzise în domeniul AI. Astfel, sunt interzise în UE:
(a) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem AI care utilizează tehnici subliminale ce nu pot fi percepute în mod conștient de o persoană sau tehnici intenționat manipulatoare sau înșelătoare, cu scopul sau efectul de a denatura în mod semnificativ comportamentul unei persoane sau al unui grup de persoane prin împiedicarea apreciabilă a capacității acestora de a lua o decizie în cunoștință de cauză, determinându-le astfel să ia o decizie pe care altfel nu ar fi luat-o, într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective, unei alte persoane sau unui grup de persoane;
(b) introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de AI care exploatează oricare dintre vulnerabilitățile unei persoane fizice sau ale unui anumit grup de persoane asociate vârstei, unei dizabilități sau unei situații sociale sau economice specifice, cu scopul sau efectul de a denatura în mod semnificativ comportamentul persoanei respective sau al unei persoane care aparține grupului respectiv într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective sau unei alte persoane;
(c) introducerea pe piață, punerea în funcțiune sau utilizarea unor sisteme de AI pentru evaluarea sau clasificarea persoanelor fizice sau a grupurilor de persoane pe o anumită perioadă de timp, pe baza comportamentului lor social sau a caracteristicilor personale sau de personalitate cunoscute, deduse sau preconizate, cu un punctaj social care conduce la una dintre următoarele situații sau la ambele:
Reglementarea inteligenței artificiale – practici ilegale în UE
(i) tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane în contexte sociale care nu au legătură cu contextele în care datele au fost generate sau colectate inițial;
(ii) tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane, care este nejustificat sau disproporționat în raport cu comportamentul social al acestora sau cu gravitatea acestuia;
(d) introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unui sistem de AI pentru efectuarea de evaluări ale riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracțiune, exclusiv pe baza creării profilului unei persoane fizice sau pe baza evaluării trăsăturilor și caracteristicilor sale de personalitate; această interdicție nu se aplică sistemelor de AI utilizate pentru a sprijini evaluarea umană a implicării unei persoane într-o activitate infracțională, care se bazează deja pe fapte obiective și verificabile legate direct de o activitate infracțională;
(e) introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de AI care creează sau extind bazele de date de recunoaștere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau de pe înregistrările TVCI;
Reglementarea inteligenței artificiale – exemple de practici interzise în UE
(f) introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de AI pentru a deduce emoțiile unei persoane fizice în sfera locului de muncă și a instituțiilor de învățământ, cu excepția cazurilor în care utilizarea sistemului de AI este destinată a fi instituită sau introdusă pe piață din motive medicale sau de siguranță;
(g) introducerea pe piață sau punerea în funcțiune în acest scop specific sau utilizarea de sisteme de clasificare biometrică care clasifică în mod individual persoanele fizice pe baza datelor lor biometrice pentru a deduce sau a intui rasa, opiniile politice, apartenența la un sindicat, convingerile religioase sau filozofice, viața sexuală sau orientarea sexuală ale persoanelor respective; această interdicție nu se referă la etichetarea sau filtrarea seturilor de date biometrice obținute în mod legal, cum ar fi imaginile, pe baza datelor biometrice sau la clasificarea datelor biometrice în domeniul aplicării legii;
(h) utilizarea sistemelor de identificare biometrică la distanță în timp real în spații accesibile publicului în scopul aplicării legii, cu excepția cazului și în măsura în care o astfel de utilizare este strict necesară pentru unul dintre următoarele obiective:
(i) căutarea în mod specific a anumitor victime ale răpirii, traficului de persoane sau exploatării sexuale a persoanelor, precum și căutarea persoanelor dispărute;
(ii) prevenirea unei amenințări specifice, substanțiale și iminente care vizează viața sau siguranța fizică a persoanelor fizice sau a unei amenințări reale și prezente sau reale și previzibile de atac terorist;
(iii) localizarea sau identificarea unei persoane suspectate de săvârșirea unei infracțiuni, în scopul desfășurării unei investigații penale sau al urmăririi penale sau al executării unor sancțiuni penale pentru infracțiuni, menționate în anexa II și pasibile, în statul membru în cauză, de o pedeapsă privativă de libertate sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin patru ani.
Ce sancțiuni riscă companiile care încalcă legea în domeniul AI
În contextul discuției despre reglementarea inteligenței artificiale trebuie menționat că noua legislație stabilește și sancțiuni pentru încălcarea normelor. Sancțiunile se bazează pe un procent din cifra de afaceri globală a întreprinderii din anul precedent sau pe un cuantum fix, luându-se în considerare valoarea cea mai mare. IMM-urile și întreprinderile nou-înființate primesc amenzi proporționale.
Sancțiunile ce vor fi aplicate la în UE asupra companiilor care încalcă Regulamentul privind inteligența artificială sunt enumarate în Articolul 99 din lege.
Astfel, nerespectarea oricăreia dintre interdicțiile privind practicile în domeniul AI menționate la Articolul 5 face obiectul unor amenzi administrative de până la 35 de milioane de euro sau, în cazul în care autorul infracțiunii este o întreprindere, de până la 7 % din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea.
Reglementarea inteligenței artificiale – sancțiuni prevăzute de lege
Neconformitatea cu oricare dintre următoarele dispoziții referitoare la operatori sau la organismele notificate, altele decât cele prevăzute la Articolul 5, face obiectul unor amenzi administrative de până la 15 milioane de euro sau, în cazul în care autorul infracțiunii este o întreprindere, de până la 3% din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea:
(a) obligațiile furnizorilor în temeiul articolului 16;
(b) obligațiile reprezentanților autorizați în temeiul articolului 22;
(c) obligațiile importatorilor în temeiul articolului 23;
(d) obligațiile distribuitorilor în temeiul articolului 24;
(e) obligațiile implementatorilor în temeiul articolului 26;
(f) cerințele și obligațiile organismelor notificate în temeiul articolului 31, al articolului 33 alineatele (1), (3) și (4) sau al articolului 34;
(g) obligațiile de transparență pentru furnizori și implementatori în temeiul articolului 50.
Furnizarea de informații incorecte, incomplete sau înșelătoare organismelor notificate sau autorităților naționale competente ca răspuns la o cerere face obiectul unor amenzi administrative de până la 7,5 milioane de euro sau, în cazul în care autorul infracțiunii este o întreprindere, de până la 1% din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent, luându-se în considerare valoarea cea mai mare dintre acestea.
Reglementarea inteligenței artificiale – sancțiunile aplicate în UE
În cazul IMM-urilor, inclusiv al întreprinderilor nou-înființate, fiecare amendă menționată la prezentul articol nu depășește procentajele sau cuantumul menționate anterior, luându-se în considerare valoarea cea mai mică dintre acestea.
Atunci când se decide dacă să se impună o amendă administrativă și când se decide cu privire la cuantumul amenzii administrative în fiecare caz în parte, se iau în considerare toate circumstanțele relevante ale situației specifice și, după caz, se acordă atenție următoarelor aspecte:
(a) natura, gravitatea și durata încălcării și a consecințelor acesteia, ținându-se seama de scopul sistemului de AI în cauză, precum și, după caz, de numărul de persoane afectate și de nivelul prejudiciilor suferite de acestea;
(b) dacă alte autorități de supraveghere a pieței au aplicat deja amenzi administrative aceluiași operator pentru aceeași încălcare;
Reglementarea inteligenței artificiale – stabilirea sancțiunilor
(c) dacă alte autorități au aplicat deja amenzi administrative aceluiași operator pentru încălcări ale altor acte din dreptul Uniunii sau de drept intern, în cazul în care astfel de încălcări rezultă din aceeași activitate sau omisiune care constituie o încălcare relevantă a prezentului regulament;
(d) dimensiunile, cifra de afaceri anuală și cota de piață ale operatorului care a săvârșit încălcarea;
(e) orice alt factor agravant sau atenuant aplicabil circumstanțelor cazului, cum ar fi beneficiile financiare dobândite sau pierderile evitate în mod direct sau indirect ca urmare a încălcării;
(f) gradul de cooperare cu autoritățile naționale competente, pentru a remedia încălcarea și a atenua efectele negative posibile ale încălcării;
(g) gradul de responsabilitate al operatorului, ținându-se seama de măsurile tehnice și organizatorice puse în aplicare de acesta;
(h) modul în care încălcarea a fost adusă la cunoștința autorităților naționale competente, în special dacă și, în caz afirmativ, în ce măsură operatorul a notificat încălcarea;
(i) dacă încălcarea a fost comisă cu intenție sau din culpă;
(j) orice măsură luată de operator pentru a atenua dauna suferită de persoanele afectate.
Foto: denflinkegrafiker / pixabay.com / Kyraxys / pixabay.com
Dacă acest articol despre reglementarea inteligenței artificiale vi s-a părut util, v-ar putea interesa și:
Inteligența artificială în avocatură. 10 utilizări și 4 instrumente AI
Inteligența artificială în audit. 4 beneficii și 3 exemple de aplicații
Inteligența artificială în jurnalism. 4 aplicații și instrumente
Aplicații AI pentru investiții la bursă. 4 programe utile
Inteligența artificială în construcții. 8 moduri în care poate fi folosită
Inteligența artificială în bănci. 4 avantaje și 4 aplicații
Inteligența artificială generativă. Ce poate face AI – 5 exemple
Inteligența artificială GPT. Ce este și ce poate face
Ce este inteligența artificială generală. Diferența față de AI-ul actual
Urmărește-ne pe Google News
