I förra veckan rapporterades att EU-kommissionens utkast till en ny förordning om artificiell intelligens – den så kallade AI-förordningen – hade läckt ut i förtid. Kommissionen har nu presenterat sitt officiella förordningsförslag.
Förslaget stämmer väl överens med det utkast som tidigare publicerats på internet. Samtidigt har sanktionsavgifterna skärpts, och förbudet mot urskillningslös massövervakning har avgränsats i det officiella förordningsförslaget.
Efter ett par dagars spekulationer kring det förslagsutkast som i förra veckan läckte ut på internet, publicerade EU-kommissionen under onsdagen sitt officiella förslag till en ny AI-förordning.
Liksom det förhandspublicerade utkastet riktar sig det officiella förslaget mot aktörer som tillhandahåller eller tillämpar AI-system, med undantag för AI-system som regleras i särlagstiftning eller används för militära syften. Ett AI-system definieras i förordningsförslaget som en mjukvara som utvecklats med hjälp av viss teknik – bland annat maskininlärningsteknik eller induktiv programmering – och som, för en given uppsättning mänskligt definierade målsättningar, kan generera innehåll, förutsägelser, rekommendationer eller beslut som påverkar den miljö som systemet interagerar med.
Förordningsförslaget (art 5) uppställer ett generellt förbud mot viss AI-användning. Förbuden tar sikte på AI-system som:
- använder ”subliminala tekniker” för att förvränga en enskilds beteende på ett sätt som sannolikt kan medföra fysisk eller psykisk skada för den enskilde eller någon annan,
- exploaterar svagheter hos grupper av personer, på grund av ålder eller funktionsnedsättning, i syfte att förvränga beteendet bland de grupptillhöriga på ett sätt som sannolikt kan medföra fysisk eller psykisk skada för dem själva eller någon annan,
- tillhandahålls eller används av myndigheter för utvärdering och klassificering av fysiska personers trovärdighet baserat på deras beteende eller karaktäristika, på ett sätt som kan leda till negativ särbehandling av individer eller grupper (så kallad social rankning).
Till skillnad från det förhandspublicerade utkastet innehåller det officiella förslaget inget generellt förbud mot AI som används för ”generell och urskillningslös massövervakning av fysiska personer”. I stället innehåller förordningsförslaget ett förbud mot realtidsanvändning av ”fjärrstyrda, biometriska identifieringssystem på allmänna platser”. Förbudet riktar sig mot brottsbekämpande myndigheter – till exempel polisiär användning av kameraövervakning med ansiktsigenkänning. Av motiven till förordningsförslaget framgår också att förbudet är begränsat till fysiska platser dit allmänheten har tillträde – till exempel lokaltrafik eller köpcentrum. Onlinemiljöer omfattas däremot inte av förbudet. Från det generella förbudet görs dessutom vissa undantag för bland annat riktade sökinsatser mot brottsoffer, försvunna barn och vissa brottsmisstänkta.
Förordningsförslaget innehåller dessutom vissa särskilda krav för AI-system som anses förknippade med ”hög risk”. Som högrisksystem räknas till exempel AI som används vid rekrytering, antagning till utbildningar, betygsättning av studenter, kreditprövningar, bevisprövning under brottsutredningar, asylprövning i migrationsärenden och rättstillämpning i domstol. Bland annat föreslås att sådana system ska tränas och testas på grundval av ”relevanta, representativa, felfria och kompletta” indata, att systemet ska möjliggöra för automatisk ”loggning” av systemanvändningen, att systemets funktionssätt ska vara transparent, och att systemet ska kunna granskas och kontrolleras av människor.
Transparenskrav uppställs även för AI-system som inte anses förknippade med ”hög risk”. Enligt förslaget (art 52) ska den som tillhandahåller ett AI-system utvecklat för att interagera med människor informera de enskilda användarna om att interaktionen sker med ett AI-system, såvida det inte tydligt framgår av omständigheterna. Användare av AI-system som genererar manipulerade bilder, ljud eller videos som efterliknar existerande människor, platser eller händelser – ibland kallat ”deep fakes” – ska lämna uppgift om att alstret är artificiellt eller manipulerat. Användare av AI-system som tillämpar ”emotionell igenkänning” eller ”biometrisk klassificering” ska upplysa enskilda om att de exponeras för systemet.
Transparenskraven gäller inte vid lagenlig användning av AI-system som syftar till att upptäcka, förebygga, utreda eller lagföra brott. De särskilda transparenskraven vid användningen av ”deep fakes” gäller inte heller då användningen är nödvändig för utövandet av yttrandefriheten eller de konstnärliga och vetenskapliga friheterna.
I likhet med det läckta förordningsutkastet innehåller kommissionens officiella version ett förslag på omsättningsbaserade sanktionsavgifter för företag som bryter mot vissa av förordningens regler – däribland de generella förbuden i artikel 5.
Men till skillnad från utkastet har sanktionstaket höjts – från 4 till 6 procent av det berörda företagets globala årsomsättning, eller högst 30 000 000 euro.
Kommissionens förslag kommer att behandlas vidare av Europaparlamentet och Europeiska rådet inom ramen för EU:s ordinarie lagstiftningsprocess. Om förslaget antas blir det direkt tillämpligt i EU:s medlemsstater.
Kommissionens förordningsförslag och ytterligare information kring lagstiftningsinitiativet finns tillgängligt här.
Om du har frågor om det nya förordningsförslaget eller vill veta mer om EU-kommissionens arbete med artificiell intelligens är du välkommen att kontakta advokaterna Esa Kymäläinen och Jonas Forzelius på TIME DANOWSKY Advokatbyrå.
