by Începând cu 2 februarie 2025, Uniunea Europeană a implementat prima etapă de restricții din cadrul regulamentului AI Act, interzicând utilizarea a opt categorii de sisteme AI considerate periculoase pentru drepturile și libertățile cetățenilor. Noile reguli se aplică și în România și marchează un pas important în reglementarea utilizării tehnologiilor bazate pe inteligență artificială.
Ce tipuri de AI sunt interzise?
🔹 1. Supravegherea biometrică în timp real în spații publice
Tehnologiile care permit identificarea facială în timp real cu ajutorul camerelor de supraveghere nu mai pot fi utilizate pentru recunoașterea persoanelor în locuri publice. UE impune această interdicție pentru a preveni intervențiile automate împotriva cetățenilor, fără o analiză temeinică a contextului.
🔹 2. Clasificarea socială pe criterii nejustificate
Este interzisă utilizarea AI pentru clasificarea persoanelor pe baza unor date irelevante pentru context, cum ar fi origine etnică, culoarea pielii sau activitatea pe rețelele sociale. Spre exemplu, o instituție nu poate determina riscul de fraudă în cazul ajutoarelor sociale bazându-se pe astfel de informații.
🔹 3. Predicția comportamentului infracțional bazată exclusiv pe date biometrice
Forțele de ordine nu pot utiliza AI pentru a estima probabilitatea ca o persoană să comită o infracțiune, doar pe baza trăsăturilor faciale sau altor date biometrice, fără dovezi obiective și verificabile.
🔹 4. Crearea bazelor de date cu imagini faciale extrase de pe internet
Este interzisă folosirea AI pentru “perierea” internetului și colectarea fără acord a fotografiilor fețelor în scopul construirii unor baze de date pentru recunoaștere facială.
🔹 5. Analiza emoțiilor la locul de muncă sau în școli
Angajatorii și instituțiile de învățământ nu mai pot utiliza webcam-uri sau sisteme AI de recunoaștere vocală pentru a detecta emoțiile angajaților sau studenților.
🔹 6. Manipularea comportamentală prin AI
Sunt interzise interfețele digitale care integrează tehnici subliminale pentru a determina utilizatorii să cumpere produse sau să ia decizii fără să fie conștienți de influența AI.
🔹 7. Exploatarea vulnerabilităților legate de vârstă sau dizabilități
Jucăriile inteligente sau alte sisteme AI care vizează copiii sau persoanele cu dizabilități nu pot fi programate pentru a le menține atenția sau a-i încuraja să se angajeze în activități riscante.
🔹 8. Deducerea opiniilor politice sau orientării sexuale pe baza datelor biometrice
Orice sistem AI care pretinde că poate ghici convingerile politice sau orientarea sexuală a unei persoane analizând trăsăturile faciale este interzis în Uniunea Europeană.
Regulamentul AI Act: ce urmează?
Adoptat în 2024, AI Act se va aplica treptat, urmând ca toate reglementările să devină obligatorii începând cu august 2026. Această legislație reprezintă unul dintre cele mai stricte cadre de reglementare AI la nivel global, stabilind un echilibru între inovare și protecția drepturilor fundamentale ale cetățenilor europeni.
