EU presser på for demokratisk regulering av kunstig intelligens

At det trengs en regulering av kunstig intelligens, er mange enige om. I alle fall i demokratiske styresett. Men hvordan det skal skje, er langt mer usikkert. Forslagene og meningene rundt regulering spriker i mange retninger.

Liberalt syn og skepsis

«Teknologioptimistene» bekymrer seg over at en for streng begrensning av KI vil kunne hemme fremtidig innovasjon og utviklingen av tjenester, mens skeptikerne heller ønsker å tråkke på bremsen og få et regelverk nå, slik at kunstig intelligens kan utvikles i «ordnede former» – under kontroll.

Andre igjen går enda lenger og ser eksistensielle trusler i kjølvannet av den nå lynraske utviklingen av kunstig intelligens.

KI er ikke et nytt fenomen, men etter at det amerikanske selskapet OpenAI lanserte sin tekstrobot ChatGPT i november i fjor, har det rykket fram mange hakk i den politiske bevisstheten, både internasjonalt og her hjemme i Norge.

Et viktig poeng i denne sammenheng er at OpenAI-topp Sam Altman selv har sagt at kunstig intelligens bør brukes med omhu.

– Når denne teknologien utvikler seg, forstår vi at folk er engstelige for hvordan den kan endre måten vi lever på. Det er vi også, poengterte Altman under en høring i det amerikanske senatet i midten av mai.

Vestager: – Ingen tid å miste

Europa og EU er kommet desidert lengst med å utvikle en form for «innhegning» av kunstig intelligens (KI). EU-kommisjonen har lenge ønsket å sette en global standard for å regulere teknologien som riktignok har vært kjent i en årrekke, men som nærmest har eksplodert i sin utvikling siden i for høst.

Med den konsekvens at det ropes høyere og høyere etter «trafikkregler» for kunstig intelligens.

I april for to år siden presenterte EU-kommisjonen altså et forslag til en europeisk regulering av både utvikling og bruk av KI. Reglene skal gjelde både for myndigheter og private selskaper.

Det skjedde gjennom en meddelelse og et forordningsforslag som skal innføre en rettslig ramme for KI og en ny samordnet plan som erstatter den fra 2018. I planen beskrev EU-kommisjonen de politiske endringene og økonomiske investeringene som medlemslandene må foreta.

Forslaget har nå nådd så langt gjennom «EU-mølla» at det nærmer seg endelig avstemning i EU-parlamentet. Den er ventet i løpet av juni.

Ny lov fra 2024 av?

Danske Margrethe Vestager, EU-kommisjonens visepresident, er utålmodig og presser på.

– Vi trenger virkelig å få et lovverk på plass. Så vi har ingen tid å miste, sa hun i begynnelsen av mai. Vestager håper at de første politiske forhandlingene gjøres unna før sommerferien slik at loven kan tas i bruk fra årsskiftet av. Når forslaget er vedtatt, vil loven gjelde i samtlige av EUs medlemsland. Den vil på et senere tidspunkt også innlemmes i EØS-avtalen og dermed også gjelde i Norge.

Forslaget bygger på en «risikobasert tilnærming» og er delt inn i fire risikokategorier. Jo større risiko bruken av kunstig intelligens utgjør jo strengere bør den reguleres, er tanken bak. Retningslinjene graderes fra uakseptabel risiko, som skal være forbudt, til minimal risiko som i realiteten ikke omfattes av de foreslåtte reglene.

– Vi trenger virkelig å få et lovverk på plass. Så vi har ingen tid å miste, synes Margrethe Vestager, visepresident i EU-kommisjonen. Foto: Johan Falnes | NTB

Her er de ulike kategoriene:

• Uakseptabel risiko: EU-kommisjonen vil forby systemer som ansees å utgjøre en «klar trussel mot menneskers sikkerhet, eksistensgrunnlag og rettigheter». Dette omfatter systemer som manipulerer menneskers atferd for å omgå brukernes frie vilje. Som eksempel nevnes leker med innebygde taleassistenter som oppmuntrer mindreårige til farlig adferd. Kommisjonen vil også forby systemer som gjør det mulig for myndigheter å innføre sosiale poengsystemer (social scoring).
• Høy risiko: Kunstig intelligens som opererer innenfor kritisk infrastruktur som transport, innen utdanning, produktsikkerhetskomponenter, kredittvurderinger og ansettelsesprosesser. Også viktige private og offentlige tjenester, rettshåndhevelse, migrasjon, asyl og grensekontroll, samt rettspleie og demokratiske prosesser, faller inn under denne kategorien. Disse KI-systemene skal bli underlagt strenge krav før de slipper ut på markedet. Digitalt verktøy for biometrisk fjernidentifisering (som ansiktsgjenkjenning) plasseres også i høy-risiko-kategorien for høy risiko, og de vil bli omfattet av strenge krav. Bruk av slike systemer på offentlige plasser til rettshåndhevelsesformål foreslås i prinsippet forbudt, men det kan gis unntak ved særlige tilfeller (terrorhandlinger, kidnapping og annen form for alvorlig kriminalitet) som krever godkjenning av et rettslig eller uavhengig organ.
• Begrenset risiko: Dette er KI-systemer med spesielle krav til åpenhet. Ved bruk av for eksempel «chatbots» skal brukere bli gjort oppmerksomme på at de kommuniserer med en maskin, så de kan treffe en informert beslutning om de vil fortsette eller avslutte kontakten.
• Minimal risiko: De aller fleste systemer innen kunstig intelligens, som brukes i EUs medlemsland, hører under denne kategorien – som for eksempel KI-støttede videospill og spamfiltre. Disse omfattes ikke av det nye regelverket. Tilbydere av slike KI-produkter kan velge å benytte kravene til pålitelig kunstig intelligens og tilslutte seg frivillige adferdskodekser.

Ambisjonene er utvilsomt høye. Målet er nemlig å gjøre EU (og Europa) best i verden på utvikling og bruk av sikker, pålitelig og menneskesentrert kunstig intelligens fordi «tillit til KI-systemer er viktig og nødvendig for at det sosiale og økonomiske potensialet i KI kan utnyttes fullt ut», skrev den norske regjeringen i omtalen av EU-kommisjonens forslag i september 2021.

Skal overvåke kjørereglene

EU-kommisjonen foreslår at nasjonale markedskontrollmyndigheter skal overvåke de nye kjørereglene. Etter planen skal det opprettes et europeisk organ for kunstig intelligens – European Artificial Intelligence Board. Dette for å fremme gjennomføringen og utviklingen av KI-standarder.

KI-rådet vil bestå av representanter fra de nasjonale tilsynsmyndighetene, det europeiske datatilsynet (European Data Protection Supervisor) og EU-kommisjonen og fungere som et kompetansesenter for nasjonale tilsynsmyndigheter. Det skal dessuten utrede anbefalinger til EU-kommisjonen om blant annet høyrisiko systemer for kunstig intelligens.

Hva som blir enden av reguleringsvisa, gjenstår å se. I april 2021 spådde EU at behandlingen av forslaget til forordning i EU-konstitusjonene kunne bli komplisert. Grunnen til det var at Europaparlamentet hadde ønsket en heller streng regulering, mens flere medlemsland i EU-rådet etterlyste et mer fleksibelt rammeverk for kunstig intelligens.

Bygger på demokratiske verdier

Også G7-landene er blitt enige om retningslinjer for kunstig intelligens. G7-landene er USA, Canada, Japan, Frankrike, Tyskland, Storbritannia og Italia. Under sitt april-møte i Japan gikk ministrene for digitalisering og teknologi inn for å innføre reguleringer for både bruk og utvikling av den nye teknologien.

«Reguleringene skal bevare et åpent og utviklende miljø for videreutvikling av KI-teknologi og være basert på demokratiske verdier», står det i landenes felles uttalelse.

I tillegg har Australia planer om å regulere kunstig intelligens strengere enn i dag. Myndighetene er nemlig redd for at utviklingen av KI er kommet for langt, og at teknologien misbrukes. Regjeringen «down under» vurderer derfor blant annet forbud mot deepfakes og annet falskt innhold.

Med deepfakes menes en måte å bruke kunstig intelligens på for å endre video- og lydmateriale. Stemmer og ansikter virker ekte, men de er blitt manipulert. Med dagens KI-teknologi er det lett å lage og vanskelig å avsløre.