Uniunea Europeană reglementează utilizarea abuzivă a inteligenței artificiale de către angajatori, site-uri web și poliție. Comisia Europeană interzice momentan 8 utilizări ale inteligenței artificiale în Europa, inclusiv în România.
Din 2 februarie 2025 a intrat în vigoare primul val de restricții prevăzute de Regulamentul AI Act. Comisia Europeană a enumerat 8 tipuri de sisteme AI, pe care le consideră ca prezentând risc inacceptabil, relatează AFP.
Uniunea Europeană reglementează utilizarea abuzivă a inteligenței artificiale de către angajatori, site-uri web și poliție. Comisia Europeană interzice momentan 8 practici de folosință, printre care recunoaşterea emoţiilor şi clasificarea socială. Legea va fi pe deplin aplicabilă din august 2026. Comisia a aprobat proiectul de orientări, dar nu l-a adoptat încă în mod oficial.
Legislația privind inteligența artificială a fost adoptată anul trecut. Se va aplica în totalitate din 2 august 2026, însă unele practici au fost interzise chiar din această lună.
Camerele dotate cu tehnologii de recunoaştere facială în timp real nu vor mai putea fi folosite pentru a identifica persoane căutate, dacă nu se verifică informaţiile din lumea reală. Excepție fac misiunile de combatere a terorismului. Se interzic și clasificările sociale privind probabilitatea de a comite o fraudă folosind date personale precum culoarea pielii sau comportamentul pe reţele sociale,iar poliția nu mai poate prezice un comportament infracțional doar pe baza datelor biometrice ale persoanelor.
S-a interzis şi extragerea unor fotografii ale feţelor fără discernământ pentru constituirea unor baze de date la scară mare. Angajatorii nu mai pot utiliza camere web și sisteme de recunoaștere vocală pentru a urmări emoțiile angajaților, iar jucăriile care încorporează AI şi interacţionează cu copiii sunt interzise.

Cele 8 utilizări ale inteligenței artificiale interzise în Europa
1. Identificarea în timp real a persoanelor cu camere în locuri publice
UE interzice folosirea camerelor echipate cu tehnologii de recunoaştere facială în timp real pe o stradă comercială în vederea identificării unor persoane căutate. Noţiunea de ”timp real” este crucială în această interdicţie. UE vrea să evite o intervenţie imediată împotriva unei persoane, fără o verificare prealabilă a altor informaţii provenind din lumea reală.
Un organism nu poate să recurgă la o aplicaţie AI cu scopul de a clasifica persoane în funcţie de probabilitatea de a comite o fraudă a ajutoarelor sociale, folosind date personale care nu au nimic de a face cu contextul – de exemplu originea, culoarea pielii sau comportamentul pe reţele de socializare.
Astfel, în vederea evaluării riscului nerambursării unui împrumut bancar, numai datele financiare pot fi luate în calcul.
3. Evaluarea riscului infracțional al unei persoane pe baza datelor biometrice
Poliţia nu poate folosi o AI pentru a prezice riscul comportamentului infracţional al unei persoane, de exemplu probabilitatea de a participa la revolte sau de a comite un atentat, sau numai pe caracteristici persoanle, de exemplu doar trăsăturile feţei, fără să ia în calcul fapte obiective şi verificabile în mod direct legate de acţiunile acesteia.
4. Crearea de baze de date cu fețe ale unor sisteme de recunoaștere facială luând imagini de pe internet
Sunt interzise instrumentele de ”periere” a Internetului şi extragerea unor fotografii ale feţelor fără discernământ cu scopul constituirii unor baze de date la scară mare de miliarde de imagini. Acest lucru ar însemna o supraveghere de stat.
5. Recunoașterea emoțiilor la locul de muncă sau instituții de învățământ
O organizaţie nu poate folosi webcam sau sisteme de recunoaştere vocală cu scopul de a detecta emoţiile angajaţilor săi.
6. Manipularea comportamentului persoanelor ci ajutorul AI
Este interzisă integrarea în designul unei interfeţe a unor sisteme AI înşelătoare sau subliminale cu scopul de a-i împinge pe utilizatori să facă cumpărături.
7. Exploatarea vulnerabilităților legate de vârstă sau dizabilități
O jucărie care încorporează AI şi care este concepută pentru ca să interacţioneze cu copiii este interzisă, dacă este concepută cu scopul de a le păstra atenţia şi de a-i încuraja la provocări riscante, care i-ar putea răni.
8. Deducerea opiniilor politice sau orientării sexuale în funcție de date biometrice
Un sistem care pretinde că poate ghici opiniile politice sau orientarea sexuală a persoanelor pe baza analizei feţei acestora nu va fi autorizat în UE.
Adoptat în 2024, AI Act intră în aplicare treptat, urmând ca regulamentul european privind inteligența artificială să se aplice pe deplin începând din august 2026.
Citiți și: ChatGPT, cel mai bun „prieten”. Elevii români ignoră presa