Dette er de forbudte AI-praksisene i arbeidslivet

EUs nye AI-forordning blir snart norsk lov. Det betyr blant annet at urettmessig overvåkning og flere andre AI-praksiser blir helt forbudt.

– For HR og ledere er det viktig å vite hvilke AI-praksiser som havner i den forbudte kategorien, og hva dette innebærer i arbeidslivet, sier Simployers juridiske rådgiver, Ragni Myksvoll Singh.

EUs AI-forordning deler AI-bruken inn i ulike risikonivåer, fra minimal risiko til systemer som er helt forbudt.

Simployers rådgiver forklarer at risikonivåene kan beskrives som en trapp:

• Nederst finner vi systemer med minimal risiko, som kan brukes fritt uten særskilte krav.
• Ett trinn opp ligger systemer med begrenset risiko, der åpenhet står sentralt, for eksempel at det tydelig fremgår når man kommuniserer med en chatbot og ikke et menneske.
• På det tredje trinnet finner vi høyrisikosystemene, som for eksempel et rekrutteringssystem som siler og rangerer søkere. Bruk av slike systemer utløser flere plikter for arbeidsgiver.
• På øverste trinn finner vi de forbudte systemene, og her er det ikke lov å gå opp.

👉 Les også: Ny AI-lov på vei - hva betyr den for HR?

Eksempler på forbudte AI-systemer i arbeidslivet

For HR og arbeidsgivere betyr det at enkelte typer AI-praksiser ikke kan benyttes i det hele tatt. Dette er AI-systemer som anses å true grunnleggende rettigheter eller verdier i samfunnet.

Eksempler på dette kan være følgende:

• Urettmessig overvåkning: AI som registrerer ansattes bevegelser, samtaler eller ansiktsuttrykk i sanntid for å vurdere lojalitet, produktivitet eller humør.

• Automatisert diskriminering: AI-systemer som systematisk sorterer bort eller nedprioriterer søkere eller ansatte basert på kjønn, etnisitet, religion eller andre diskrimineringsgrunnlag.

• Manipulering av adferd: AI som brukes til å påvirke ansatte på en skjult måte, for eksempel ved å presse frem bestemte handlinger eller holdninger.

Ifølge Simployers rådgiver er det lite trolig at norske arbeidsgivere har AI-praksiser som dette i dag, men oppfordrer HR og ledere til å være observante og undersøke nærmere dersom noe er i grenseland.

– Dette handler om å beskytte arbeidstakerne mot urettferdig og inngripende teknologi. Derfor er disse systemene ikke bare regulert, men direkte forbudt. Her setter altså lovgiver en tydelig grense. Disse systemene kan ikke brukes i arbeidslivet, uansett hvor praktiske de kan virke, sier Myksvoll Singh.

Hva bør arbeidsgiver gjøre?

Forbudte systemer er enkle å forholde seg til: De skal ikke brukes. For å klare å overholde dette er det avgjørende at arbeidsgiver som ønsker å ta i bruk et AI-system faktisk vet hva systemet gjør og skal brukes til.

Arbeidsgivere bør allerede nå:

• kartlegge hvilke AI-funksjoner som finnes i dagens systemer eller systemer man vurderer å ta i bruk
• ha dialog med leverandører og be om skriftlig bekreftelse på at systemene ikke inneholder funksjonalitet som faller under forbudt risiko
• informere og trygge ansatte på at virksomheten følger loven og ivaretar deres rettigheter

– Det viktigste nå er å få oversikt. Vet du hvilke AI-funksjoner som skjuler seg i systemene du allerede bruker, står du mye bedre rustet når nye regler trer i kraft, sier Myksvoll Singh.

💡Jobber du i HR og vil lære mer om AI? I november tilbyr Simployer den digitale kursserien "AI for HR" med blant andre Ragni Myksvoll Singh som en av kursholderne. Les mer og meld deg på.