Läckt förordningsutkast visar EU-kommissionens planer på nytt AI-regelverk

Ett förslag till ny EU-lagstiftning kring användningen av artificiell intelligens (AI) väntades offentliggöras senare under veckan. Men nu har EU-kommissionens förordningsutkast läckt ut i förtid.

I kommissionens utkast förespråkas bland annat ett förbud mot AI-system som används för urskillningslös massövervakning och social rankning, reglering av AI-genererade ”deepfakes”, och omsättningsbaserade sanktionsavgifter för tillhandahållare som bryter mot reglerna.

Häromveckan rapporterade tekniknyhetssajter som The Verge och TechCrunch att EU-kommissionens utkast till en ny förordning om artificiell intelligens, den så kallade AI-förordningen, hade läckt ut i förtid.

Förordningsförslaget utgör en del av den agenda som EU-kommissionens ordförande Ursula von der Leyen presenterade i samband med sin kandidatur, där hon utlovade ett ”koordinerat europeiskt förhållningssätt till de mänskliga och etiska implikationerna av artificiell intelligens”. Förslaget följer även en vitbok om artificiell intelligens som publicerades av EU-kommissionen i februari 2020, vari efterfrågades en regleringsstrategi som ”främjar utvecklingen av AI och samtidigt adresserar de risker som är förknippade med vissa användningsområden för den nya teknologin”.

Det förordningsutkast som nyligen publicerats på nätet riktar sig mot aktörer som tillhandahåller eller tillämpar AI-system, med vissa undantag för AI-system som regleras i särlagstiftning respektive används för militära syften. Ett AI-system definieras i förordningsutkastet som en mjukvara som utvecklats med hjälp av viss teknik – bland annat maskininlärningsteknik eller induktiv programmering – och som, för en given uppsättning mänskligt definierade målsättningar, kan generera innehåll, förutsägelser, rekommendationer eller beslut som påverkar verkliga eller virtuella miljöer.

Förordningsutkastet stadgar ett generellt förbud för vissa typer av tillämpad AI som ”står i strid med Unionens värderingar eller kränker grundläggande rättigheter under unionsrätten”. Det gäller till exempel för AI-system som utformats eller används för:

  • att manipulera mänskliga beteenden, åsikter eller beslut på ett sätt som är till nackdel för den enskilde,
  • att exploatera information eller förutsägelser om personer eller grupper i syfte att utnyttja deras svagheter eller särskilda omständigheter och därigenom få dem att bete sig, bilda åsikter eller fatta beslut till deras egen nackdel,
  • generell och urskillningslös övervakning av fysiska personer, samt
  • generell, social rankning av fysiska personer.

 

Med social ranking avses, enligt förslaget, storskalig utvärdering av fysiska personers trovärdighet baserat på deras beteende eller karaktäristika, där utvärderingsresultatet kan leda till negativ särbehandling av individer eller grupper.

Förordningsutkastet innehåller dessutom vissa särskilda krav för AI-system som anses förknippade med ”hög risk”. Bland annat föreslås att sådana system ska utvecklas och testas på grundval av högkvalitativa indata, att utdata från systemen ska vara verifierbara och dokumenterade, att systemets funktionssätt ska vara transparent, och att systemet ska kunna granskas och kontrolleras av människor.

Transparenskrav uppställs även för AI-system som inte anses förknippade med ”hög risk”. Enligt förordningsutkastet ska AI-system som interagerar med människor lämna meddelande om att interaktionen sker med ett AI-system, om det inte tydligt framgår av omständigheterna. AI-system som genererar manipulerade bilder, ljud eller videos som efterliknar existerande människor, platser eller händelser – ibland kallat ”deepfakes” – ska lämna uppgift om att alstret är artificiellt eller manipulerat.

Enligt förslaget ska medlemsstaterna ansvara för att implementera effektiva och proportionerliga sanktioner vid överträdelser av förordningen. För vissa typer av överträdelser, bland annat överträdelser av de generella förbuden i förordningen (se ovan), innehåller förordningsutkastet förslag på omsättningsbaserade sanktionsavgifter som kan uppgå till högst 4 procent av den årliga globala omsättningen hos berört företag.

Kommissionens officiella förordningsförslag väntas offentliggöras inom kort.

Om du har frågor om det nya förordningsförslaget eller vill veta mer om EU-kommissionens arbete med artificiell intelligens är du välkommen att kontakta advokaterna Esa Kymäläinen och Jonas Forzelius på TIME DANOWSKY Advokatbyrå.