Når staten er en algoritme

Målet er at man skal nå staten og kommunen på nett. Dermed vil stadig flere offentlige tjenester helt eller delvis være en algoritme som tar automatiserte beslutninger.

I fremtiden kan vi altså vente oss at algoritmer er med å påvirker hvordan samfunnet styres.

I Vesten er det USA som leder an i denne utviklingen. I New York har man allerede mange eksempler på at algoritmenes utforming får konkrete konsekvenser for borgernes liv.

Det kan jo tenkes at vi får en situasjon i Norge også der enkelte trygdevedtak fattes automatisk

I en artikkel i magasinet New Yorker pekes det blant annet på at det er algoritmer som står for fordelingen av elever til skoler. Det er også algoritmer som avgjør hvordan lærere avlønnes basert på resultatene til elevene. Algoritmer med data fra trygdesystemet vurderer når noen har brutt regelverket og bør anklages for trygdesvindel.

Et spørsmål er hvordan man kan sikre gjennomsiktighet.

En løsning som er foreslått, er å gjøre algoritmen åpen og tilgjengelig for alle. Men dette vil gjøre det lite attraktivt for IKT-selskaper å bygge ut slike løsninger siden det vil være enkelt å kopiere ting som kanskje er selskapets forretningshemmeligheter.

I New York jobbes det nå med et lovforslag som man venter vil kunne få internasjonale ringvirkninger. Mens man har gått bort fra full åpenhet, undersøkes andre måter å skape transparens i algoritmestaten. Et krav er innsikt i hvem som får tilgang til dataene som samles inn gjennom offentlige tjenester. Et annet slag står om definisjonen på hva som er eierskap av data.

En egen arbeidsgruppe skal undersøke hvordan folk kan få «meningsfull tilgang til algoritmenes funksjon». Rapporten skal ikke være klar før i 2019.

Algoritmens tidsalder

Da går det kanskje enda fortere i Europa. Rett over jul vil Datatilsynet presentere en ny rapport om automatiserte beslutningsprosesser, Personvern i algoritmens tidsalder.

– Det må være åpenhet om hvordan beslutninger treffes, sier leder i Datatilsynet, Bjørn Erik Thon til Dagens Perspektiv.

Mens han tviler på at man kan kreve fullt innsyn i algoritmene til private bedrifter og deres forretningshemmeligheter, tror han det kan være hensiktsmessig å diskutere det i offentlig sektor.

Foto

Leder i Datatilsynet Bjørn Erik Thon. Foto: Datatilsynet.

– Det kan jo tenkes at vi får en situasjon i Norge også der enkelte trygdevedtak fattes automatisk, sier han og viser til at man i USA har eksempler på at straffesaker er avgjort av maskiner som bruker algoritmer. – Åpenheten må være mye større.

I slutten av november i år presenterte Datatilsynet sin nye strategi. Den er i stor grad blitt til som følge av det nye personvernregelverket fra EU, GDPR, som trer i kraft i Norge fra mai 2018.

– Dette regelverket gir folk større rett på en forklaring på hvordan en beslutning er truffet, sier Thon.

For eksempel vil både priseene du møter på nett og kredittvurderinger av deg i fremtiden i enda større grad enn i dag være basert på data. Da skal man kunne sitte igjen med en forståelse av hvordan prisene og vurderingene endte opp som de gjorde.

Datatilsynet kommer til å gå dypere inn i dette fremover, blant annet gjennom tilsyn av dataintensive virksomheter.

Jussprofessor Frank Pasquale ved University of Maryland sier til New Yorker at byer som New York som baner veien for andre bør legge press på selskapene ved sin innkjøpsmakt. Det står mye på spill: 

– Det er et tillitsbrudd å overlate viktige beslutninger til en svart boks.