Det har gått drygt två år sedan EU-kommissionen presenterade sitt förslag till en ny europeisk AI-förordning. Nu går lagstiftningsprocessen vidare till nästa steg. Under förra veckan blev det klart att både Europeiska rådet och Europaparlamentet har enats om sina respektive förhandlingspositioner – och att de konkreta lagstiftningsförhandlingarna har börjat.
I april 2021 lade EU-kommissionen fram sitt förslag till en ny förordning om artificiell intelligens.
Förordningsförslaget – som kommit att kallas The AI Act – innehåller bland annat nya regulatoriska krav för den som utvecklar och tillhandahåller AI-system förknippade med ”höga risker”, och förbud mot vissa AI-system som anses utgöra ett hot mot människors säkerhet och grundläggande fri- och rättigheter. Det handlar till exempel om användning av AI-system på vissa sätt vid rekrytering, kreditprövning, övervakning och rättstillämpning i domstol.
Rådets position klar: balans mellan individuella rättigheter och innovation
Europeiska rådet – som tillsammans med Europaparlamentet ansvarar för att förhandla och anta nya lagstiftningsakter inom EU – har redan analyserat kommissionens lagförslag.
I december 2022 antog rådet ett ställningstagande till kommissionens förordningsutkast, där man bland annat efterfrågade kompletterande regler om AI-system med generella tillämpningsområden (general purpose AI). Rådet efterfrågade också förtydliganden om att förordningen inte ska gälla för vissa typer av AI – särskilt AI-system som endast används för forskning och utveckling, för nationellt försvars- och säkerhetsarbete och militära ändamål. Dessutom förespråkade rådet en justerad och något snävare definition av AI-system, som utgör ett av förordningens nyckelbegrepp.
Ändringsförslagen, som kommer att utgöra rådets förhandlingsposition i de kommande lagstiftningsförhandlingarna, syftar enligt rådet till att balansera respekten för individuella fri- och rättigheter mot intresset av att ”främja innovation och utnyttjandet av AI-teknologi i Europa”.
Europaparlamentet redo för förhandling – vill se en ”människocentrerad” inriktning
Nu har även Europaparlamentet beslutat om ett gemensamt ställningstagande till kommissionens lagförslag.
Under förra veckan antog parlamentet en resolution med sina egna synpunkter på den kommande lagstiftningen. Vid den presskonferensen som följde på beslutet konstaterade parlamentets företrädare att man framför allt vill arbeta för en ”människocentrerad” inriktning i det fortsatta lagstiftningsarbetet.
Europaparlamentet efterfrågar för sin del att det införs vissa generella principer i förordningen som ska gälla för alla som tillhandahåller AI-system – även sådana som inte klassificeras som ”högrisksystem”. De generella principerna innefattar krav på bland annat transparens, icke-diskriminering och mänsklig övervakning.
Parlamentets förslag går också längre i fråga om reglering av generativa AI-system. Ett exempel på ett sådant system är den omtalade chattroboten ChatGPT, som lanserades av företaget OpenAI i november förra året. Ett av orosmomenten kring generativa AI-system handlar om riskerna för spridning av desinformation genom AI-genererat fejkinnehåll (så kallade deepfakes), vilket i förlängningen kan störa demokratiska processer. Under onsdagens presskonferens sade Brando Benifei, parlamentets särskilde rapportör i lagstiftningsprocessen:
”Det ska vara möjligt att känna igen innehåll som skapats av AI. Deepfakes ska inte förgifta vår demokrati.”
I sista stund enades parlamentet också om att eftersträva ett förtydligat förbud mot AI som används för biometrisk identifiering i realtid på allmänna platser. Parlamentet vill också se förbud mot biometrisk identifiering baserat på känsliga personegenskaper – som etnicitet, kön, religion eller politisk tillhörighet – och förbud mot AI-system som används för att analysera enskilda personers känslolägen på till exempel arbetsplatser och skolor.
Världens första AI-lag – kan bli verklighet redan i år
I samband med Europaparlamentets beslut inleddes också de konkreta lagstiftningsförhandlingarna mellan parlamentet och rådet. En slutlig förordningstext förväntas bli klar någon gång i slutet av 2023, och i vart fall före Europaparlamentsvalen 2024.
Efter antagandet av en slutlig förordningstext kommer det däremot att dröja ytterligare en tid – eventuellt upp till två år – innan AI-förordningen blir fullt ut tillämplig inom EU.
Om lagstiftningsprocessen framskrider som planerat kommer den nya AI-förordningen att bli ”världens första regelverk om säker och transparent AI”, skriver Europaparlamentet i ett pressmeddelande.
Om du har frågor om det nya förordningsförslaget eller vill veta mer om EU-kommissionens arbete med artificiell intelligens är du välkommen att kontakta Esa Kymäläinen, advokat och partner, eller Fredrik Thorslund, biträdande jurist, på TIME DANOWSKY Advokatbyrå.
