Consiliul Europei: sistemele de inteligență artificială trebuie să respecte drepturile fundamentale

Consiliul Europei a adoptat o poziție comună privind Actul privind inteligența artificială pentru a se asigura că sistemele de inteligență artificială (IA) vândute pe piața UE și utilizate în acest teritoriu sunt sigure și respectă legislația existentă privind drepturile omului și valorile UE.

Inteligența Artificială în UE - Imagine realizată de HD Satelit România

Inteligența artificială este importantă pentru viitorul nostru și este necesar un cadru juridic uniform pentru a asigura securitatea juridică. Propunerea promovează investițiile și inovarea în IA și îmbunătățește guvernanța și aplicarea efectivă a legislației existente privind drepturile fundamentale și siguranța. Facilitează dezvoltarea unei piețe unice pentru aplicațiile AI. Inițiativa este în concordanță cu alte planuri de accelerare a investițiilor în inteligența artificială în Europa, inclusiv cu Planul coordonat privind inteligența artificială.

Un sistem AI este un program de calculator care poate învăța și interacționa singur cu lumea. Definiția „AI” din proiectul de text al Consiliului este mai restrânsă decât versiunile anterioare, excluzând în mod special sistemele dezvoltate prin învățarea automată și abordări logice și bazate pe cunoștințe. Unele practici care sunt în general considerate inacceptabile în IA nu sunt permise în acest domeniu. Textul interzice cercetătorilor AI să-și folosească tehnologia pentru a studia comportamentul social și, de asemenea, interzice utilizarea AI pentru a exploata vulnerabilitățile anumitor grupuri de oameni. Textul clarifică motivele pentru care autorităților de aplicare a legii ar trebui să li se permită să utilizeze sisteme de identificare biometrică de la distanță în locuri publice și subliniază că aceste sisteme ar trebui utilizate numai în scopul asigurării conformității cu legea.

Textul clarifica si noțiunea de sistem AI care prezintă un grad ridicat de risc, adăugând încă un nivel de clasificare pentru a se asigura că sistemele AI care prezintă un risc redus pentru drepturile fundamentale sau alte preocupări importante nu sunt incluse.

Cerințele pentru sistemele AI cu risc ridicat

Multe dintre cerințele pentru sistemele AI cu risc ridicat au fost făcute mai fezabile din punct de vedere tehnic și mai puțin împovărătoare pentru părțile interesate. De exemplu, calitatea datelor sau documentația tehnică care ar trebui dezvoltată de întreprinderile mici pentru a demonstra că sistemele lor de IA cu risc ridicat respectă cerințele au fost clarificate.

Acest text urmărește să clarifice diferitele responsabilități pe care diferiți actori le au atunci când vine vorba de utilizarea sistemelor AI. De asemenea, clarifică relația dintre responsabilitățile în temeiul Legii AI și alte legislații relevante, cum ar fi legislația relevantă a Uniunii privind protecția datelor sau legislația sectorială, în legătură cu sectorul serviciilor financiare.

În privința sistemelor IA de uz general

UE a adăugat noi prevederi pentru a ține cont de potențialele pericole ale integrării tehnologiei IA de uz general în alte sisteme cu risc ridicat. Textul notează că aceleași cerințe pentru sistemele de IA cu risc ridicat ar trebui aplicate și sistemelor de IA de uz general, dar specifică modul în care aceste cerințe ar trebui aplicate în legătură cu aceste sisteme, ținând cont de caracteristicile lor specifice și de lanțul valoric aferent; fezabilitatea tehnică și tendințele pieței.

Documentul conține prevederi specifice care guvernează autoritățile de aplicare a legii.

UE a precizat clar că Actul IA nu se aplică sistemelor AI utilizate pentru securitatea națională, apărare sau obiective militare, sau utilizate exclusiv în scopul cercetării și dezvoltării, și nici obligațiilor persoanelor care utilizează IA în scopuri neprofesionale. Noile orientări permit utilizarea sistemelor AI pentru a asigura conformitatea cu legea, ținând cont de nevoile specifice ale autorităților de aplicare a legii. Aceste modificări respectă confidențialitatea datelor sensibile legate de activitățile lor.

Cadrul de conformitate și Comitetul pentru Inteligența Artificială

Pentru a simplifica procesul de conformitate pentru Actul IA, textul conține clarificări și simplificări ale prevederilor privind procedurile de evaluare a conformității. Noile prevederi privind supravegherea pieței fac Actul AI mai eficient și mai ușor de implementat. Textul actualizat întărește, de asemenea, rolul Comitetului AI, asigură implicarea părților interesate în toate aspectele implementării Legii AI și creează un subgrup permanent la care să participe părțile interesate. Sancțiunile pentru încălcarea prevederilor Legii AI sunt mai proporționale pentru întreprinderile mici și startup-uri.

Transparență favorabilă persoanelor afectate

Aceste modificări vor crește transparența în ceea ce privește utilizarea sistemelor de IA cu risc ridicat, cu prevederi specifice care specifică faptul că entitățile publice vor fi, de asemenea, obligate să se înregistreze în baza de date a UE pentru astfel de sisteme. Acest lucru va ajuta la asigurarea faptului că astfel de sisteme sunt utilizate într-un mod responsabil și că orice riscuri prezentate de acestea sunt înțelese în mod corespunzător. A fost subliniată importanța informării indivizilor atunci când emoțiile lor sunt recunoscute de sistemele de recunoaștere a emoțiilor. Textul confirmă că orice persoană fizică sau juridică poate depune o plângere la autoritatea competentă de supraveghere a pieței cu privire la nerespectarea Legii AI și se poate aștepta ca o astfel de plângere să fie tratată într-un mod care să fie în concordanță cu procedurile specifice ale autorității.

Măsuri pentru a sprijini inovarea

A fost schimbat semnificativ modul în care este sprijinită inovarea. Aceste modificări vor contribui la crearea unui cadru juridic mai favorabil inovației și vor ajuta autoritățile de reglementare să învețe din experiență. Testarea sistemelor AI inovatoare ar trebui efectuată și în condiții reale. În plus, au fost adăugate noi prevederi pentru a permite testarea nesupravegheată în lumea reală a sistemelor AI în condiții și garanții specifice. Pentru a reduce sarcina administrativă asupra întreprinderilor mai mici, textul include o listă de acțiuni care trebuie întreprinse pentru a sprijini astfel de operatori și prevede derogări limitate și clar specificate.

Următoarele etape

Adoptarea abordării generale va permite Consiliului să înceapă negocierile cu Parlamentul European de îndată ce acesta din urmă își va adopta propria poziție cu privire la regulamentul propus; aceasta va permite ajungerea la un acord.