EU:s lagstiftare når en överenskommelse över en natt om “globalt först” AI-regler

Efter maratonförhandlingar på nästan tre dagar nådde EU:s lagstiftare i kväll en politisk överenskommelse om ett riskbaserat ramverk för att reglera artificiell intelligens. Filen föreslogs ursprungligen i april 2021, men det tog månader av komplicerade trevägsförhandlingar att nå en överenskommelse. Denna utveckling innebär att en alleuropeisk AI-lag definitivt är på väg.

Vid en triumferande men utmattad presskonferens under de tidiga timmarna fredag ​​kväll/lördag morgon lokal tid, hyllade nyckelrepresentanter för Europaparlamentet, rådet och kommissionen (blockets medlagstiftare) avtalet som en mycket viktig bedrift. close, en historisk och historisk bedrift. respektive.

Ta X till tweeta nyhetenEU-president Ursula von der Leyen, som gjorde antagandet av en AI-lag till en nyckelprioritet i sitt mandat när hon tillträdde i slutet av 2019, hyllade också det politiska avtalet som en “världsnyhet”.

De fullständiga detaljerna om vad man kommit överens om kommer inte att bekräftas helt förrän en slutlig text har sammanställts och offentliggjorts, vilket kan ta några veckor. Men ett pressmeddelande från Europaparlamentet bekräftar att den överenskommelse som nåddes med rådet inkluderar ett fullständigt förbud mot användning av AI för att:

  • biometriska kategoriseringssystem som använder känsliga egenskaper (t.ex. politisk, religiös, filosofisk övertygelse, sexuell läggning, ras);
  • oriktad extrahering av ansiktsbilder från Internet eller CCTV-bilder för att skapa databaser för ansiktsigenkänning;
  • erkännande av känslor på arbetsplatsen och i utbildningsinstitutioner;
  • social poäng baserat på socialt beteende eller personliga egenskaper;
  • AI-system som manipulerar mänskligt beteende för att kringgå deras fria vilja;
  • AI används för att utnyttja människors sårbarheter (på grund av deras ålder, funktionshinder, sociala eller ekonomiska situation).

Användningen av biometrisk fjärridentifieringsteknik på offentliga platser av brottsbekämpande myndigheter har inte helt förbjudits, men parlamentet sa att förhandlare hade kommit överens om en rad snäva skyddsåtgärder och undantag för att begränsa användningen av tekniker som ansiktsigenkänning. . Detta inkluderar kravet på förhandstillstånd från domstol, och med användningar som är begränsade till “strängt definierade” listor över brott.

Retrospektiv (inte realtids) användning av biometrisk fjärridentifiering AI kommer att begränsas till “det selektiva sökandet efter en person som dömts för eller misstänks för att ha begått ett allvarligt brott.” Medan realtidsanvändning av denna påträngande AI-teknik kommer att vara begränsad i tid och plats, och kan endast användas för följande ändamål:

  • selektiv sökning efter offer (kidnappning, människohandel, sexuellt utnyttjande),
  • förebyggande av ett specifikt och aktuellt terroristhot, eller
  • platsen eller identifieringen av en person som misstänks ha begått ett av de specifika brott som nämns i föreskrifterna (till exempel terrorism, människohandel, sexuellt utnyttjande, mord, kidnappning, våldtäkt, väpnat rån, deltagande i en kriminell organisation, miljöbrott).

Det överenskomna paketet innehåller också skyldigheter för AI-system som klassificeras som “hög risk” eftersom de har “betydande potentiell skada på hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen.”

“Ledamöterna lyckades inkludera en obligatorisk bedömning av inverkan på grundläggande rättigheter, bland andra krav, som även gäller för bank- och försäkringssektorerna. “Artificiell intelligens som används för att påverka resultatet av val och väljarbeteende klassas också som hög risk”, skrev parlamentet. “Medborgare kommer att ha rätt att lämna in klagomål om AI-system och få förklaringar om beslut baserade på högrisk-AI-system som påverkar deras rättigheter.”

Det fanns också enighet om ett “två-skikts” barriärsystem som kommer att gälla för “allmänna” AI-system, såsom de så kallade fundamentala modellerna som ligger till grund för den virala uppkomsten av generativa AI-applikationer som ChatGPT.

Som vi tidigare rapporterat innehåller överenskommelsen om grundläggande modeller/allmännyttig AI (GPAI) vissa transparenskrav för vad medlagstiftarna kallade “lågnivå” AI, vilket innebär att modelltillverkare måste förbereda teknisk dokumentation och producera (och publicera) ) detaljerad information. sammanfattningar av innehåll som används för utbildning för att stödja efterlevnad av EU:s upphovsrättslagstiftning.

För “high impact” GPAIs (definierad som den ackumulerade mängden datoranvändning som används för deras träning mätt i flyttalsoperationer är större än 10^25) med så kallad “systemisk risk” finns det strängare skyldigheter.

“Om dessa modeller uppfyller vissa kriterier kommer de att behöva utföra modellbedömningar, bedöma och mildra systemrisker, genomföra negativa tester, rapportera till kommissionen om allvarliga incidenter, säkerställa cybersäkerhet och rapportera om deras energieffektivitet”, skrev parlamentet. “Ledamöterna insisterade också på att, tills harmoniserade EU-standarder publiceras, kan GPAI med systemrisk förlita sig på uppförandekoder för att följa reglerna.”

Kommissionen har arbetat med industrin om en interimspakt om AI i några månader och bekräftade idag att den syftar till att sluta den praktiska luckan tills AI-lagen träder i kraft.

Medan de grundläggande/GPAI-modeller som har kommersialiserats står inför reglering enligt lagen, är forskning och utveckling inte avsedd att falla inom lagens tillämpningsområde, och modeller med öppen källkod kommer att ha lättare regulatoriska krav än modeller med öppen källkod. stängda, enligt dagens uttalanden.

Det överenskomna paketet främjar också regulatoriska sandlådor och verkliga tester som etableras av nationella myndigheter för att hjälpa startups och små och medelstora företag att utveckla och träna AI innan det går ut på marknaden.

Sanktioner för bristande efterlevnad kan resultera i böter som sträcker sig från 35 miljoner euro eller 7 % av den globala omsättningen till 7,5 miljoner euro eller 1,5 % av omsättningen, beroende på företagets överträdelse och storlek.

Den överenskommelse som överenskoms i dag tillåter också ett gradvist ikraftträdande efter att lagen antagits, med sex månader tills regler om förbjudna användningsfall träder i kraft; 12 månader för krav på transparens och styrning; och 24 månader för alla andra krav. Därför kan den fulla kraften av EU:s AI-lag kanske inte märkas förrän 2026.

Carme Artigas, Spaniens utrikesminister för frågor om digital och artificiell intelligens, som ledde rådets förhandlingar om filen medan landet har haft rådets roterande ordförandeskap sedan sommaren, berömde avtalet om den kontroversiella filen som “den största milstolpen i historien.” av digital information i Europa”; både för blockets digitala inre marknad, och också, föreslog han, “för världen.”

“Vi har uppnått världens första internationella reglering för artificiell intelligens”, meddelade han under en presskonferens efter midnatt för att bekräfta den politiska överenskommelsen och tillade: “Vi är mycket stolta.”

Lagen kommer att stödja europeiska utvecklare, startups och framtida uppskalningar genom att ge dem “rättssäkerhet med teknisk säkerhet”, förutspådde han.

Medföredragandena Dragoș Tudorache och Brando Benifei, som talade på Europaparlamentets vägnar, sa att deras mål hade varit att anta lagstiftning om artificiell intelligens som skulle säkerställa att ekosystemet utvecklades med ett “människcentrerat tillvägagångssätt” som respekterade grundläggande rättigheter och europeiska värderingar. . Hans bedömning av resultatet var lika optimistisk och nämnde som viktiga prestationer införandet i den överenskomna texten av ett fullständigt förbud mot användning av AI för förutsägande polisarbete och biometrisk kategorisering.

“Vi tog äntligen rätt väg och försvarade de grundläggande rättigheterna inför behovet av att våra demokratier ska uthärda sådana otroliga förändringar”, sa Benifei. “Vi är de första i världen som har horisontell lagstiftning som har denna riktning när det gäller grundläggande rättigheter, som stödjer utvecklingen av AI på vår kontinent, och som är uppdaterad till gränsen för artificiell intelligens med de mest kraftfulla modellerna. under en tydlig skyldighet. Så jag tror att vi levererade.”

“Vi har alltid blivit tillfrågade om det finns tillräckligt med skydd, om det finns tillräckligt med uppmuntran för innovation i den här texten, och jag kan säga att den balansen finns där”, tillade Tudorache. “Vi har skyddsåtgärder, vi har alla bestämmelser som vi behöver, upprättelsen som vi behöver för att ge våra medborgare förtroende för att interagera med AI, i de produkter och tjänster som de kommer att interagera med från och med nu.

“Nu måste vi använda den här planen för att söka global konvergens eftersom detta är en global utmaning för alla. Och jag tror att med det arbete som vi har gjort, hur svårt det än har varit (och det var svårt, det här var en maratonförhandling på alla sätt, med tanke på alla prejudikat hittills), men jag tror att vi uppnådde det.

EU:s kommissionär för den inre marknaden, Thierry Breton, bidrog också med sina två eurocent, och beskrev avtalet som nåddes strax före midnatt i Brysseltid som “historiskt”. “Det är ett komplett paket. Det är en komplett affär. Och det är därför vi tillbringar så mycket tid, sade han. “Detta innebär att balansera användarsäkerhet och innovation för startups, samtidigt som vi respekterar… våra grundläggande rättigheter och våra europeiska värderingar.”

Även om EU gav sig själv en mycket synlig klapp på axeln i kväll för att ha nått en överenskommelse om “världens första” AI-standarder, är det ännu inte slutet på vägen för blockets lagstiftningsprocess, eftersom det fortfarande finns några formella steg att följa. , bland dem de viktigaste. Den slutliga texten kommer att gå till omröstning i parlamentet och i rådet för antagande. Men med tanke på den stora splittring och oenighet det har funnits om hur (eller till och med om) man ska reglera AI, har de största hindren avvecklats med denna politiska överenskommelse och vägen till att anta EU:s AI-lag under de kommande månaderna verkar klar.

Kommissionen projicerar verkligen förtroende. Enligt Breton inleds arbetet med att implementera avtalet omedelbart med skapandet av ett AI-kontor inom EU:s verkställande organ, som kommer att ha till uppgift att samordna med medlemsstaternas tillsynsorgan som kommer att behöva genomdriva reglerna för AI-bolagen. “Vi kommer att välkomna nya kollegor… många av dem”, sa han. “Vi kommer att arbeta med att förbereda oss från och med imorgon.”

Leave a Reply

Your email address will not be published. Required fields are marked *