După o rundă intensă de negocieri, legislatorii din Bruxelles au ajuns, în urmă cu câteva zile, la un „acord provizoriu” cu privire la propusul Act privind Inteligența Artificială (AI Act) al Uniunii Europene. AI Act al UE este așteptat să fie primul set cuprinzător de reguli pentru guvernarea IA din lume și ar putea servi ca un punct de referință pentru alte regiuni care doresc să adopte legi similare.
Potrivit comunicatului de presă transmis în urmă cu câteva zile, negociatorii au stabilit obligații pentru sistemele generale de inteligență artificială (GPAI) „de impact înalt” care îndeplinesc anumite criterii, cum ar fi evaluări ale riscurilor, teste adversare, rapoarte de incidente și altele. De asemenea, impune transparență acestor sisteme, care include crearea de documentații tehnice și „rezumate detaliate despre conținutul utilizat pentru instruire” – ceva la care companii precum OpenAI, producătoarea ChatGPT, au refuzat să se conformeze până acum.
Un alt element este că cetățenii ar trebui să aibă dreptul de a depune plângeri cu privire la sistemele AI și să primească explicații cu privire la deciziile luate de sistemele „cu risc ridicat” care afectează drepturile acestora.
Comunicatul de presă nu a intrat în detalii despre cum vor funcționa toate acestea sau care sunt criteriile, dar a menționat un cadru pentru amenzi în cazul încălcării regulilor. Acestea variază în funcție de încălcare și mărimea companiei și pot varia de la 35 de milioane de euro sau 7% din veniturile globale, până la 7,5 milioane de euro sau 1,5% din veniturile globale ale companiei.
Există mai multe aplicații în care utilizarea inteligenței artificiale este interzisă, cum ar fi extragerea de imagini faciale din înregistrările de pe camerele de supraveghere video, categorizarea bazată pe „caracteristici sensibile” precum rasă, orientare sexuală, religie sau credințe politice, recunoașterea emoțiilor la locul de muncă sau la școală, sau crearea de sisteme de „punctaj social”. Ultimele două puncte interzise sunt sistemele de IA care „manipulează comportamentul uman pentru a evita liberul arbitru” sau „exploatează vulnerabilitățile oamenilor”. Regulile includ, de asemenea, o listă de măsuri de protecție și excepții pentru utilizarea de către forțele de ordine a sistemelor biometrice, fie în timp real, fie pentru căutarea de dovezi în înregistrări.
Se așteaptă ca un acord final să fie atins înainte de sfârșitul anului. Chiar și atunci, legea probabil nu va intra în vigoare mai devreme de 2025.
Prima variantă a AI Act al Uniunii Europene a fost prezentată în 2021, încercând să facă distincția între ceea ce contează cu adevărat ca fiind inteligență artificială și să sincronizeze regulile de reglementare a tehnologiei AI în statele membre ale UE. Această variantă a fost anterioară introducerii uneltelor de inteligență artificială generativă în schimbare rapidă, precum ChatGPT și Stable Diffusion, generând numeroase revizuiri ale legislației.
Acum, după ce s-a ajuns la un acord provizoriu, vor fi necesare încă mai multe negocieri, inclusiv voturi din partea comitetelor pentru piața internă și libertățile civile ale Parlamentului.
Negocierile privind regulile de reglementare a monitorizării biometrice în timp real (cum ar fi recunoașterea facială) și modelelor de IA generale de bază, cum ar fi ChatGPT de la OpenAI, au fost extrem de divizate. Acestea se pare că au fost încă dezbătute în această săptămână înainte de anunțul de acum câteva zile, ceea ce a dus la întârzierea conferinței de presă care anunța acordul.
Legislatorii UE au încercat să interzică complet utilizarea AI în supravegherea biometrică, însă guvernele au căutat excepții pentru domeniile militar, al forțelor de ordine și securității naționale. Propunerile recente din partea Franței, Germaniei și Italiei de a permite producătorilor de modele AI generative să se autoreglementeze sunt, de asemenea, considerate a fi contribuit la întârzieri.
