Synspunkt | Camilla Tepfers: Kunstig intelligens – flopp, frelse eller fandens verk?

Camilla AC Tepfers skriver om innovasjon og teknologi i Dagens Perspektiv. Tepfers er gründer og partner i inFuture, og har mer enn 25 års erfaring som rådgiver, innovasjonsdirektør, fagbokforfatter og foredragsholder. Tepfers er sivilingeniør fra NTNU, og bygget opp og ledet innovasjonssatsingen i DNB før hun var med og etablerte inFuture i 2008.

Foto

inFuture

SYNSPUNKT. ­9. mai fremmet Torgeir Knag Fylkesnes og Marian Hussein et representantforslag til Stortinget. Forslaget var umiddelbart å stoppe offentlig sektors bruk av kommersielle verktøy som benytter kunstig intelligens (KI). De ønsker at moratoriet skal vare helt til et regelverk for utvikling og bruk av KI er på plass.

Fylkesnes og Hussein føyer seg inn i rekken av europeiske politikere som primært anser KI som fandens verk, noe som vi må stoppe, eller i hvert fall bremse etter beste evne.

KI brøt lydmuren med et brak, da ChatGPT ble lansert i november fjor. Siden den gangen har debatten gått høyt, både blant lekfolk og fageksperter. Grovt kan vi dele debattantene inn i tre grupper.

Vi har dem som har testet ChatGPT, fått superdumme svar, og basert på det vil avskrive KI som en flopp.   Vi har evangelistene, som mener KI kan få til omtrent alt, og rett rundt neste sving ha intelligens på nivå med oss mennesker. Dommedagesprofetene på sin side, oppfatter slik kunstig, generell intelligens (KGI, eller AGI, artificial general intelligence) som snarveien til fortapelsen. De vil sette bråbremsene på.

I denne artikkelen vil jeg vise hvorfor KI hverken er flopp, frelse eller fandens verk.

Kunstig intelligens er ikke noe nytt

Kunstig intelligens bygger på flere tiårs arbeid og med innsats fra mange miljøer. Den matematiske superstjernen Alan Turing var hovedpersonen da britene hacket Nazi-Tysklands Enigma-maskin. Et gjennombrudd som blir sterkt fortalt i Morten Tyldums oscarnominerte film The Imitation Game. Filmens tittel er også navnet Turing originalt gav på Turing-testen, en test for å avdekke om maskiner utviser intelligens på nivå med mennesker.

På 50-, 60- og 70-tallet jobbet ulike forskningsmiljøer med KI, primært ved å programmere maskiner med regler som skulle etterligne menneskelige beslutningsprosesser.  På 80-tallet ble maskinene kraftige nok til et viktig taktskifte. Nå kunne maskinene lære mønstre selv, uten å bli fortalt reglene først, ved å gå gjennom større datamengder. På 2000-tallet kom et nytt taktskifte. Nevrale nettverk er en dataarkitektur som etterligner oppbyggingen av den menneskelige hjerne. Slike systemer gjør maskinene i stand til å håndtere komplekse mønstre og ustrukturerte data. Det muliggjør «dyp læring», hvor maskinens kunnskap blir stadig mer sofistikert mens den trenes på nye data.

Frem til 2014 var akademia dominerende i utviklingen av KI. Siden da har næringslivet tatt over, og nå kommer de største gjennombruddene derfra. I 2022 var det 32 store maskinlæringssystemer utviklet i næringslivet, mens tilsvarende tall for akademia var tre.

Økt bruk gir økt misbruk og behov for reguleringer

Næringslivets inntreden i KI-feltet har akselerert både bruk og misbruk. I databasen AIAAIC (AI, Algorithmic, and Automation, Incidents and Controversies) føres det statistikk over negative KI-hendelser. Fra 2012 til 2021 er det registrert en 26-dobling av slike tilfeller. De mulige skadevirkningene er åpenbart urovekkende, og i mars i år signerte 1000 KI-eksperter et åpent brev, hvor de oppfordret til frys av KI-utvikling. Siden den gang har godt over 27.000 signert brevet.

Politikerne følger opp. Noen ønsker KI-stopp, som i det ovennevnte representantforslaget. Norske politikere er heller ikke alene. I Italia ble ChatGPT blokkert i mars. Etter en måned åpnet landet tilgangen igjen. Forbud er ikke veien å gå, men reguleringer er det. Dem er det blitt mange av. I en oversikt over 127 land, fremkommer det at antall KI-reguleringer er økt fra én i 2016 til 37 i 2022.  Blant annet la EU-kommisjonen frem et lovforslag om regulering av kunstig intelligens i april 2021. Hensikten er å fremme sikker og pålitelig utvikling og bruk av KI. Kommisjonen har som mål at EU skal bli verdensledende på dette, og den ønsker å legge til rette for utvikling av en konkurransedyktig og innovativ KI-industri i Europa.

I 2022 var det 32 store maskinlæringssystemer utviklet i næringslivet, mens tilsvarende tall for akademia var tre

KI er ingen frelse

EU-kommisjonen har identifisert KI som en nøkkelteknologi for å fremme velstand og vekst i Europa, og ja, potensialet i teknologien er stort. Med de svakhetene teknologien har nå, gjelder det likevel å være påpasselig. Store språkmodeller som ChatGPT kan lede til intellektuell latskap. Med stor selvtillit svarer samtaleroboten på spørsmål. Svarene virker overbevisende, og da er det fristende ikke å ta seg bryet med å verifisere påstandene som blir servert. Problemet er at ‘boten’ kan «hallusinere» og komme med inkonsistente og usanne svar, som fremstår som plausible. Dette blir gradvis utbedret. Blant annet vil KI-modellene oppgi kilder, men også da må man være på vakt. Når man ettergår kildene, viser det seg rett som det er at de slett ikke gir grunnlag for uttalelsene fra den kunstige intelligensen. Til alt overmål kan det hende at selve kildene også bare er noe systemet har funnet på.

Begge sider av frelser eller fanden-debatten, har trukket frem at KI snart kan bli KGI, det vil si en KI som kan løse oppgaver på nivå med mennesker. For eksempel hevdet et team av Microsoft-forskere tidligere i år, at en tidlig versjon av GPT-4 viste «gnister» av KGI. KGI oppfattes som fantastisk for noen, og grusomt for andre. Uansett ser det ut til at ryktet om KGI er sterkt overdrevet. Forskere ved Stanford for eksempel, avviser «glimt av KGI» som ren illusjon. De argumenterer med at tilsynelatende KGI-evner hos store språkmodeller skyldes grunnleggende feil i målemetodene.

Leger hjulpet av KI kan gi bedre svar til pasientene, enn leger uten. Selvbetjent KI uten leger, derimot, kan gå helt galt

KI er ingen flopp

Hvis KI-systemene hallusinerer, serverer usanne kilder for sine påstander, og tilsynelatende KI-gjennombrudd egentlig er målefeil, så er kanskje KI en flopp? Selv innenfor teknologifeltet, er det skeptikere. Den Google-ansatte KI-forskeren François Chollet er ett eksempel. Han fortalte nylig hvor lite imponert han er over at kunstig intelligens kan brukes til programmering. «Det er lett å lage en demonstrasjon der ChatGPT lager [dataspillet] Pong», sier Chollet til DN. «Men hvis du vil lage en annen type spill, får du ikke hjelp. ChatGPT er en oppskrytt klipp-og-lim-knapp».

Her hjemme er det professor i informatikk, Kai A. Olsen, som heiser den KI-kritiske fanen høyt. I et leserinnlegg i DN fra 2018, blant annet, avskriver han KI som keiserens nye klær. Han forteller at KI-systemer ikke kan annet enn å følge regler, og at de er fundamentalt uegnet til kreativt arbeid.

Kreativitet er da kanskje også noe det vanskeligste for maskinene å få til. Det blir likevel for flegmatisk å gjespe seg gjennom de nyeste KI-gjennombruddene, med henvisning til at maskinen ikke gjør annet enn å følge regler. Der hvor «gnister av KGI» kan ha vist seg å være glimmer av kråkesølv, er det noe annet med gnister av kunstig kreativitet.

Nawi er navnet på et helt nytt spill. Det er ikke et dataspill men et fysisk brettspill, som har både brett og spillbrikker, og det er ChatGPT som har laget det. Er det inspirert av eksisterende spill? Absolutt, men vi skal langt inn i filosofiens verden for å stille krav til at kreativitet kun kan bestå av helt originale tanker, og ikke får lov å bygge videre på elementer fra andre.

Det har allerede begynt å komme forskning som ser på KI og kreativitet. Funnene så langt er at KI-systemer er gode medspillere i kreative prosesser. Forskere ved St. Gallen-universitetet, for eksempel, viser hvordan KI støtter motedesignere i både grønne (åpne, divergente) og røde (lukkende, konvergente) faser i det kreative arbeidet. To pågående doktorgradsarbeider, ved henholdsvis Malmø-universitet og Universitetet i California, ser på KI-kreativitet innen kunstfeltet. Begge identifiserer kunstig intelligens som kreativt samskapende med kunstneren.

KI er ikke fandens verk

Kritikerne av KI har noen velbegrunnede bekymringer. Uvettig bruk av teknologien, som nevnt over, er en av dem, redsel for maktforskyvning er en annen, mer om det nedenfor. På toppen har KI-systemene et betydelig negativt klimafotavtrykk, med datasentrenes voldsomme energiforbruk. KIs påvirkning på klima er en typisk glasset halvfullt/halvtomt-situasjon.Systemene bruker i seg selv mye energi, men på den annen side kan KI optimalisere energiforbruk. Ett eksempel er DeepMinds BCOOLER, som er en lærende KI som styrer klimaanlegget i bygninger. Eksperimentet varte i tre måneder. BCOOLER reduserte energiforbruket med over 12 % samtidig som temperaturen ble holdt på det foretrukne komfortnivået.DeepMind gir seg heller ikke der i klimasaken.

Flere peker på kjernekraft som virkemiddel ut av klimakrisen. I motsetning til fisjon, skaper fusjon ikke langvarig kjernefysisk avfall. Vi ville hatt en nesten utømmelig energikilde i tusenvis av år, hvis vi klarte å lage elektrisk energi basert på fusjon. En hovedmetode for å få det til er å varme opp hydrogrenplasma ved hjelp av en såkalt tokamakmaskin. Plasmaen blir dessverre svært ustabil, og den må konstant overvåkes. Her kommer forskere ved DeepMind inn. De har utviklet lærende algoritmer for å kunne optimalisere tokamakprosessen.

Hvis vi beveger oss fra klima til helse, dukker det opp flere rimelige motforestillinger. Hvem vil vel ha hallusinerende maskiner som helserådgivere? En fersk studie fra University of California kan imidlertid tyde på at leger ville hatt godt av å få støtte av kunstig intelligens i måten de snakker med sine pasienter på. Forskerne analyserte 195 medisinske spørsmål stilt av pasienter. Spørsmålene ble tilfeldig fordelt mellom menneskelige leger og ChatGPT. En gruppe med lisensiert helsepersonell vurderte så svarene uten å vite om de kom fra en lege eller KI. Studien viste at «gode» eller «svært gode» svar var 3,6 ganger høyere for ChatGPT enn for leger. KI-en ble også vurdert å være mer empatisk, med 9,8 ganger høyere «empatiske» eller «svært empatiske» svar enn for leger.

I alle tre grupper, flopp, frelse eller fandens verk, er det en tendens til å overfokusere på automatisering, der KI helt overtar oppgaver fra oss mennesker. Like viktig som den rene automatiseringen er KI som kollega. Leger hjulpet at KI kan gi bedre svar til pasientene, enn leger uten. Selvbetjent KI uten leger, derimot, kan gå helt galt. Blant annet var det tidligere i år en tragedie i Belgia. Pierre hadde over tid utviklet klimaangst og hadde i ukesvis lange samtaler om dette med KI-roboten Eliza. Nettdialogen ble etter hvert svært dyster, og Pierre tok sitt eget liv etter at Eliza skal ha penset ham inn på selvmordstanker.

Kunstig intelligens er hverken flopp, frelse eller fandens verk. Og det er heller ingen teknologi utstyrt med en pauseknapp

KI forskyver makt

Saken med Pierre er en betimelig påminnelse av kraften i KI, og hvordan den kan resultere i svært uønskede utfall. Forventede utfall er da vel også mye av grunnen til at folk får bastante KI-meninger. Kunstig intelligens forskyver makt. Noen vinner makt, andre taper makt. De som først og fremst taper makt, er de som ikke lærer seg, forstår og bruker teknologien. I Vesten kan og bør vi være bekymret for om KI bare betyr enda en omdreining på maktskruen de store teknologiselskapene har satt oss i.  Problemet er bare at mens vi vil avholde tankefulle seminarer om hvordan vi pent og rolig kan få kunstig intelligens inn i trygge, velregulerte rammer, så går verden videre.

Kina har de siste årene investert massivt i KI. I 2021 sto Kina for nesten en femdel av private KI-investeringer i verden, med 17 milliarder dollar. I tillegg investerer Kina stort i KI-forskning. Kinas andel av verdens forskningsartikler innen KI har skutt i været fra 4 % i 1997 til 27 % i 2017. Dermed overgår Kina alle andre land i verden, inkludert USA. Til tross for myndighetenes omfattende overvåkning, er det ingen andre lands borgere som fremstår som like positive til KI som Kinas. 78 % svarte i en undersøkelse fra 2022 at fordelene er større enn ulempene. Nest etter Kina, er det Saudi Arabia (76 %) og India (71 %) som har de mest positive respondentene. Norge er ikke med i undersøkelsen, men i Sverige er den KI-positive andelen nede i 40 %.

Debatten om KI går høyt. Det er naturlig med en så kraftfull teknologi. Vi hadde imidlertid hatt godt av færre bastante påstander, og en mer nyansert samtale. Kunstig intelligens er hverken flopp, frelse eller fandens verk. Og det er heller ingen teknologi utstyrt med en pauseknapp. KI-utviklingen vil dundre videre. Om ikke i liberale demokratier, så i demokratisk svake land, eller rett ut i diktaturer.