Inga Strümke: – Selskapene bak kunstig intelligens må vise hvordan teknologien virker

­Strümke har doktorgrad i partikkelfysikk og forsker på kunstig intelligens ved NTNU i Trondheim og har nylig utgitt boka «Maskiner som tenker». I løpet av svært kort tid er den blitt til en «hit» – og Norges mest solgte bok, uavhengig av sjanger.

Hvis ikke KI reguleres, er hun redd for at store kommersielle aktører vil styre utviklingen, sa hun nylig i et intervju med Klassekampen.

Strümke mener at det er all grunn til å være bekymret hvis den galopperende KI-utviklingen fortsetter uten et bindende regelverk – til tross for at kunstig intelligens unektelig vil føre mye bra med seg.

Inga Strümke, NTNU-forsker og kvinnen bak bestselgeren «Maskiner som tenker». Foto: Mona Hauglid

– Et politisk ansvar

Forskeren og forfatteren er like klar på hvem som sitter med ansvaret for å få laget og vedtatt et regelverk som utviklingen av kunstig intelligens skal styres etter: politikerne i demokratiske land.

– Jeg tror ikke vi innser hvor stor påvirkning kunstig intelligens vil få, også i nær framtid. Vi tar ikke alvorlig nok at vi nå staker ut kursen for den globale utviklingen, sa Inga Strümke senere til A-magasinet.

Hun mener at KI-utviklerne må vite og vise hvordan teknologien fungerer. De må dessuten ha risikoanalyser på plass og grep klare hvis noe skulle gå skeis. Eller helst før det kommer så langt.

– Jeg har jo ropt og skreket av vi trenger et algoritmetilsyn. Vi må vite hvordan algoritmene fungerer. Derfor trenger vi en regulering av KI, sa hun til Aftenposten.

Tangen vil ha statlig KI-regulering

Nicolai Tangen, sjefen av oljefondet, oppfordret i et intervju med Financial Times regjeringer over hele verden til å sørge for statlig regulering av kunstig intelligens.

Det ville sørge for klare etiske retningslinjer for hvordan selskapene som Statens pensjonsfond utland investerer i, bruker KI, sa fondstoppen i slutten av april og understreket samtidig at han synes at dagens regulering er langt fra god nok.

• LES OGSÅ: Synspunkt | Andreas Bjørnebye og Mads Ribe: En ny stol rundt styrebordet?

Tangen varslet samtidig at oljefondet kommer til å legge fram egne standarder for hvordan det vil at selskaper som bruker kunstig intelligens, skal håndtere den nye teknologien. Det skjer etter planen over sommeren, i løpet av august.

Han er selv stor «fan» av KI. Oljefondet skal bruke kunstig intelligens i langt større utstrekning, og har et mål om å øke effektiviteten i fondet med 10 prosent i løpet av det kommende året, fortalte han nylig til E24.

Regjeringen jobber med en konvensjon

Også justisminister Emilie Enger Mehl (Sp) mener at det haster med regulering. Da Nasjonal sikkerhetsmyndighet overleverte regjeringen sine sikkerhetsfaglige råd fram mot 2030, advarte NSM mot utviklingen av kunstig intelligens. Enger Mehl tok til orde for en internasjonal avtale.

– Vi jobber fra norsk side med en konvensjon som forhåpentligvis gjør at flest mulig land vil forplikte seg til å ikke misbruke kunstig intelligens, for eksempel ved å overvåke egne innbyggere eller ha poengsystemer for dem, sa Mehl ifølge NTB.

Hun la til at det er viktig å jobbe bredt i verden slik at flest mulig land stiller seg bak etiske prinsipper og ser viktigheten av å skape rammer for kunstig intelligens.

Direktør i NSM, Sofie Nystrøm, mener at det må opprettes et frittstående, rådgivende organ som skal ta seg av demokratiets interesser ved bruk og utvikling av KI.

SVs nestledere Marian Hussein og Torgeir Knag Fylkesnes vil sette en stopper for videre utvikling av kunstig intelligens inntil en regulering av teknologien er på plass. Foto: Ole Berg-Rusten | NTB

SV ber om full stopp

Sosialistisk Venstreparti er ikke bekvem med at utviklingen og bruken av kunstig intelligens har skutt fart siden i fjor høst. SV går derfor inn å sette foten ned, inntil et forslag rammeverk rundt KI er på plass.

9. mai fremmet derfor partiets to nestledere, Marian Hussein og Torgeir Knag Fylkesnes, et representantforslag på tinget hvor de blant annet ber om følgende:

• Stortinget ber regjeringen umiddelbart innføre et moratorium (midlertidig stans) i offentlig sektor på å ta i bruk nye kommersielle verktøy som bygger på kunstig intelligens. Moratoriet må vare fram til et regelverk for innføring og bruk av kunstig intelligens for ulike bruksområder er utviklet.
• Stortinget ber regjeringen utvikle en konsesjonsordning for innsamling, bruk og lagring av både offentlige data og persondata for kommersielle aktører. En slik konsesjonsordning må fastsette krav til hvilke data som kan brukes, til hvilke typer formål, hvor og hvordan de lagres, og om og hvordan de kan deles med ulike tredjeparter.
• Stortinget ber regjeringen legge fram en stortingsmelding om kunstig intelligens som redegjør for hvordan det arbeides med den på alle nivåer i alle sektorer.

I og med at forslaget ble fremmet etter påske, blir det ikke behandlet før Stortinget tar sommerferie, svarer SVs kommunikasjonssjef Siri Gjørtz på spørsmål fra Dagens Perspektiv. Saksordfører i Justiskomiteen er Kamzy Gunaratnam (Ap).

• LES OGSÅ: Synspunkt | Fredrik Syversen: Kunstig intelligens – frelse eller endetid?