Kommissionsförslag: AI-system i arbetslivet ett högriskområde

Användning av system med artificiell intelligens (AI) kommer att regleras på EU-nivå om Europeiska kommissionens förslag om en ny förordning blir verklighet. Tanken är att skapa EU-gemensamma regler om AI som utgår från etiska principer och att säkerställa att AI-system på EU:s inre marknad är säkra och förenliga med grundläggande rättigheter. Genom att riskklassa olika områden avgör förordningen när AI får användas och i så fall med vilka restriktioner.

Ett högriskområde är ”sysselsättning, arbetsledning och tillgång till egenföretagande”. Med det menas AI-system som ska används för rekrytering eller urval, särskilt utannonsering av lediga jobb, granskning eller filtrering av ansökningar och utvärdering av sökande vid intervjuer eller prov, liksom AI som ska användas för att fatta beslut om befordran och uppsägningar av ”arbetsrelaterade avtalsförhållanden”, för uppgiftsfördelning och övervakning och utvärdering av anställdas prestationer och beteenden.

Detta är ett högriskområde eftersom AI-system kan påverka människors karriärutsikter och försörjning. Dessutom kan de ”under hela rekryteringsförfarandet och vid utvärdering, befordran eller bibehållande av personer i arbetsrelaterade avtalsförhållanden” reproducera historiska mönster av diskriminering.

AI-system i arbetsgivarfunktion är således tillåtna, men endast under vissa förutsättningar. Ett särskilt riskhanteringssystem som beskrivs i förordningen ska finnas i verksamheten, och risker ska så långt möjligt undvikas. Dessutom ska människor ha tillsyn över högrisk- AI i syfte att förebygga eller Kommissionsförslag: AI-system i arbetslivet ett högriskområde minimera risker för hälsa, säkerhet eller grundläggande rättigheter. Övervakaren ska kunna besluta att bortse från de resultat som AI:n skapar och helt stoppa systemet.

För att AI-system ska få användas i anställningsförhållandet krävs inte tillstånd från myndighet utan endast att leverantören tillämpat ett system för internkontroll. Förordningen ska vara tillämplig på alla tillhandahållare och användare av AI-system och skyddet ska gälla såväl arbetstagare som egenföretagare.

Att endast egenkontroll krävs för att använda AI i anställningsförhållandet framstår inte som en tillräckligt stark reglering ur arbetstagarsynvinkel. Vidare föreskrivs ingen roll för arbetsmarknadens parter att reglera AI i arbetslivet, vilket bland annat Europafacket påpekat i en omfattande kritik mot förslaget.

Niklas Selberg
universitetslektor, Lunds universitet

COM(2021) 206 Förslag till förordning om harmoniserade regler för artificiell intelligens 21 april 2021