Hvordan skal du regulere noe som går i 3.000 kilometer i timen?

I boka ‘Muligheten av en øy’ er det bøttevis av kunstig intelligens på gang.

Foto

Cappelen Damm

­«Se de små skapningene som beveger seg i det fjerne; se. Det er mennesker.

I det svinnende dagslyset ser jeg uten sorg hvordan denne arten forsvinner. En siste solstråle glir over slettelandet, passerer fjellkjeden som rager over horisonten i øst, og legger seg som en rød glorie over det ørkenaktige landskapet. Det gnistrer i nettinggjerdet som går rundt eiendommen.

Fox knurrer svakt; han kan være at det er ville i nærheten. Jeg føler ingen medlidenhet overfor dem, ingen form for tilhørighet; for meg er de bare helt vanlige aper, bortsett fra at de er litt mer intelligente, og dermed farligere. Det hender jeg låser opp døra i gjerdet for å redde en kanin eller en omstreifende hund; aldri for å redde et menneske».

Det er Daniel nr. 24 som er fortelleren her. Han er den 24. versjonen av «originalen» Daniel 1, som på 2000-tallet ble med i en sekt som drømte om kunstig intelligens og kloning av mennesker. Betraktningene fra Daniel 24 utspiller seg omtrent 1000 år fram i tid. Det er en av de første scenene i boken «Muligheten av en øy» av den kontroversielle franske forfatteren Michel Houellebecq, som allerede i 2006 skrev om den kanskje mest dystre konsekvensen av kunstig intelligens – at maskinene tar over verden. Den knurrende hunden Fox, er selvsagt også en klonet versjon av originale Daniels hund.

Boken er en herlig dystopi og typisk for Houellebecq, som gjerne tar tak i tematikk noen år før alle andre.

I dag skrives det bøttevis av bøker og artikler om kunstig intelligens. Begrepet er så «hypet» at ordsvisker som «bærekraft» og «mangfold» bli konkret og tydelig i forhold.

Hva er egentlig kunstig intelligens? Hvor nyttig er det? Og ikke minst − hvor farlig er det, egentlig?

Den nye milliardindustrien

Fredrik Syversen er direktør strategi- og forretningsutvikling i IKT-Norge.

Foto

IKT-Norge

Når direktøren for strategi- og forretningsutvikling i IKT Norge,Fredrik Syversen blir utfordret til å definere med én setning hva kunstig intelligens (KI) egentlig er, svarer han kjapt: «Maskinlæring satt i system».

Men snart kommer utdypingene og utvidelsene av definisjonen. «Algoritmer. Jakten på det neste ordet i en uendelig stor mengde data».  

En ting er sikkert, det trengs ikke bare enormt mye data for å bli best på KI. Hvis du vil ligge i front i det rotteracet som nå utspiller seg om verdens KI-hegemoni, trengs det enormt mye penger også.

Og de med de aller største musklene sparer ikke akkurat på skillingen i kampen om KI-makta.

Det hvasseste forskningsmiljøet i Norge på dette feltet finner man ved NTNU, der blant andre Inga Strumke, forfatteren bak bestselgerboka «Maskiner som tenker», jobber. De, og et knippe andre forskningsmiljøer, har til sammen fått 96 millioner kroner av Forskningsrådet gjennom prosjektet NorwAI til sin KI-forskning. Der jobber de blant annet med utviklingen av en norsk språkmodell i samarbeid med mediekonsernet Schibsted (se egen sak).   

Men 96 millioner er småpenger i dette gamet. Microsoft har ifølge Bloomberg til sammen investert 10 milliarder dollar i sin satsing på kunstig intelligens – det er rimelig mye penger ...

Så det er langt igjen til summene de stor big tech-selskapene bruker. For ikke å snakke om de ressursene kineserne bruker på å utvikle KI.

EU kan bli redningen for Norge

− Er det noe vits for Norge å bli med på dette rotteracet?

− Det er et godt spørsmål, og jeg vet ikke svaret, sier Fredrik Syversen. − Spørsmålet er om man har noe valg? Man må jo prøve. Men jeg hadde ikke satt penga mine på at Norge vil vinne dette racet.

En fanesak for IKT Norge har i flere år vært mangel på studieplasser innen IKT. Og den saken engasjerer fortsatt. Uten nok kunnskap og kompetanse, vinner vi i alle fall ikke noe KI-kappløp.

− Utdanningssystemet vårt sliter. Stakkars Norge. Vi mangler 40.000 teknologer, framhever Syversen.

− 90 prosent av alle som jobber i norsk IT er konsulenter og utviklere i privat sektor, mens 10 prosent jobber på universitetene og i det offentlige. Altfor få jobber med å utvikle nye ting. Hele verden står på randen av en teknologisk revolusjon, og Norge er på jumboplass når det kommer til kunnskap og kompetanse på området. Det er alvorlig.

− Det har aldri har vært så dyrt og ikke ha tilgang på IT-kunnskap. Vi kjøper Tesla, vi bygger den ikke, påpeker Syversen.

EU kan bli redningen for Norge, tror han. Europa har «ting på gang». Blant annet jobbes det med en europeisk språkmodell.

− Det er jo naturlig at Norge blir med her.

For det er språkmodeller som er magien i språklig kunstig intelligens. Det er språkdata som skaper «de intelligente maskinene» som snakker med oss. Kampen står i realiteten om tilgang på data med språk og bilder. Hva er det statistisk sett mest sannsynlige neste ordet – det er det maskinene leter etter. Det er i jakten på det neste ordet språkmodeller som ChatGTP skaper kunstig intelligens. Med bilder er det litt annerledes, der knyttes jakten mot gjenkjenning av allerede merkede bilder.

Men det mange språk i Europa, så flere språkmodeller må til for at alle EU-landene skal bli fornøyde. Engelsk som språk har en enorm fordel i det teknologiske kappløpet. Rett og slett fordi det er mest data å hente på engelsk.    

Kunstig intelligens kan bidra til kaos i verden, det er det ingen tvil om. Men det vil også løse kreftgåten

Kampen om KI-makta

Nylig gikk flere bilder av paven med  Balenciaga-jakke viralt i sosiale medier. Mange ble lurt. Men bildet er falsk, og laget med kunstig intelligens.

Foto

Midjourney

− Det er jo Microsoft som virker å ha et overtak i KI-racet nå, etter at de kjøpte seg tungt inn i Open AI som lager ChatGPT. Hva med de andre «store»? Google, for eksempel. De var, og er vel fortsatt, «størst på søk»?

− Google har kjent til kapasiteten til OpenAI, men de ble kanskje overrasket over at Microsoft gikk så tungt inn. Google har sitt eget system, Bard, som nå er i ferd med å lanseres. Men det er klart at Microsoft ser ut til å ha fått et lite forsprang, sier IKT-Norge-direktøren.

Google har imidlertid en stor fordel. For å utvikle KI-løsninger trengs det såkalt «trenings-data». Du kan ikke slippe ut et KI-program på nettet uten at du har testet det og «trent» det i et lukket miljø først. Og der er det få som slår Google. De har mye gigantmye data, for å si det forsiktig.

− Men kan de bare «ta» data om deg og meg og «trene med dem»?

− Det er det da. Jeg er ganske sikker på at Google på finurlig vis snart vil spørre både deg og meg og alle andre om lov til å kunne bruke dataene om oss til nettopp «trene».

− Men akkurat nå er ikke Bard tilgjengelig i EU og Norge, blant annet på grunn av GRPD, noe som jeg mener bør bekymre oss.– Vi risikerer å regulere vi oss ut av kunnskap, påpeker Fredrik Syversen.

Det er Open AI som har utviklet det som i dag vel er en av verdens aller største «snakkiser», nemlig KI-programmet «ChatGTP». 10 milliarder dollar har Microsoft brukt på å kjøpe seg tungt opp i OpenAI, for så å implementere deres teknologi i sine KI-systemer.

Men allerede for 15 år siden – i 2008 – kjøpte Microsoft opp det norske selskapet Fast for 6,6 milliarder kroner. Og det er Fast sin gamle søkemotor, som utgjør grunnstammen i Microsofts nye KI-satsing. Med en av de gamle Fast-sjefene i spissen, Bjørn Opdahl, jobber Microsofts utviklingsavdeling med å lage en egen digital personlig assistent til alle Microsoft Office-brukere. Det skal bli en «intelligent» assistent som kan holde styr på kalenderen, sende epost og gjøre annet kjedelig og forefallende arbeid.

Lanseringen av den nye assistenten er «rett rundt hjørnet». Microsofts utviklingsavdeling ligger i Bjørvika i Oslo og har rundt 600 ansatte, så vi kan i alle fall skryte av at Norge indirekte er «med på moroa».

Det har aldri har vært så dyrt og ikke ha tilgang på IT-kunnskap. Vi kjøper Tesla, vi bygger den ikke

Kina er jokeren

Microsoft har kanskje tatt ledertrøya i KI-racet, selv om Google fortsatt holder tetposisjonen som vanlig søkemotor. Men Google er på langt nær utkonkurrert. En hel verden venter i spanning for å se hva som kommer ut av deres KI-satsing Google Bard.

Og hva Apple vil gjøre, er det ingen som vet. Deres ChatBoot, Siri, er både gammeldags og en smule forhatt nå. Hun trenger nok en real makeover.  Så må vi ikke glemme Meta og Facebook. Det er uklart hva de pønsker på.  

Jeg er ganske sikker på at Google på finurlig vis snart vil spørre både deg og meg og alle andre om lov til å kunne bruke dataene om oss til nettopp «trene»

Men den store jokeren i dette racet, er Kina. Kineserne har bestemt at de skal «bli best på KI innen 2030». Så da så … De har også nok av data å «trene på». 50 prosent av alle unge i Vesten mellom 13 og 15 år er på Tik Tok. Dessuten samler myndighetene inn data om alle sine innbyggere uten nevneverdig skam. Kineserne har en ekstrem tilgang på data. Videre har også Kinas største søkemotor, Baidu, planlagt lansering av sin egen chatbot, Ernie.

− I Vesten er jo alle som er mer enn 15 år nærmest livredde for Tik Tok. Vi tror de vil «ta over verden»?

− Tik Tok i seg selv er ikke «farlig», mener Fredrik Syversen. − Det er ikke sannsynlig at kineserne bruker Tik Tok som en trojansk hest, for så å infiltrere alle vestlige datasystemer.Det er for risikabelt, sier IKT-Norge-direktøren.

Og det ville sannsynligvis vært svært dårlig butikk også. Og, hvis kineserne tapper oss for data, burde vi ikke da vært like livredde for å kjøpe kinesiske elbiler? Vi frykter Tik Tok og tør ikke kjøpe Huawei mobiltelefon, men går kvinne og mann av huse for å kjøpe den stadig mer populære Polestar, en kinesisk elbil som jo er stappa med elektronikk og data.

− Det er blitt litt sånn «sikkerhets-teater» i det offentlige ordskiftet om Kina og KI. Det mener faktisk amerikanerne også, sier Syversen.

Det er blitt litt sånn «sikkerhets-teater» i det offentlige ordskiftet om Kina og KI

Kontrollere, regulere …

Nylig lanserte fotoredigeringsprogrammet  PhotoShop en ny betaversjon med ’innebygget' KI-funksjon. Photoshop er blant verdens mest brukte programmer innen medie- og reklamebransjen. Her har administrerende direktør Steffen Norby i IT-selskapet Puzzelpart ’oppjustert’ et bilde av seg selv ved å trykke på ’hunk-versjon’ i Photoshops nye KI-verktøy.

Foto

Privat

Poenget er at Kina får så mye tilgang til data som de ønsker. Det er jo ingen som regulerer kinesiske myndigheter. De har ingen begrensninger, ingen reguleringer, ingen GDPR. Kinesiske myndigheter kan bruke data om sine innbyggere akkurat som de vil. Og det gjør de til gangs allerede.

GDPR og andre reguleringer har gjort at USA og Europa har tapt litt terreng. Italia forbød blant annet ChatGTP i starten, men har snudd nå.

− USA er redd for at Europa vil bremse utviklingen, handelen og samarbeidet «over dammen» med all sin reguleringsiver, sier Fredrik Syversen, som nylig var på verdens største konferanse om kunstig intelligens i Texas – SXSW er det klingende navnet på konferansen. Der utalte en amerikansk kongresspolitiker, som (selvsagt) også har en fortid i CIA, følgende:

«EU regulates, US operates». Europa er altså best på regler, mens USA er best på løsninger.

− Han har et poeng, mener Syversen, og utdyper: − Hva gjør vi med ChatGPT her hjemme? Jo, vi leker oss med det, vi prøver det ut. I USA, derimot, ble det etablert drøssevis med bedrifter basert på ChatGTP nærmest i samme øyeblikk som det nye KI-verktøyet ble lansert. Der bruker de det.  

− Det er ikke politikere som kontrollerer teknologiutviklingen. Det er det tech-lederne som gjør, enten vi liker det eller ikke, konstaterer Fredrik Syversen.

Selv om man altså får høre at det er 10 prosent sjanse for at barna dine vil dø, så fortsetter vi å jobbe med disse tingene. Det er jo egentlig ganske sjukt

Og utviklingen går på speed. Vi kan daglig lese om nye KI-løsninger innen nærmest enhver sektor og fagfelt. ChatGTP kan kode selv, det er nesten umulig å holde seg oppdatert på alle nyvinningene.

− Pornobransjen og forsvaret pleier å ligge i front av utviklingen. Vi bør følge med på dem, smiler Syversen.

Snart får vi garantert filmer uten ekte skuespillere. Og den avdøde souldronninga Aretha Franklin kan lage «nye» låter i årevis ved hjelp av KI – det har noen smarte utviklere allerede vist.

Men hva er ekte, og hva er «fake» i en slik verden?

− Nylig gikk et bilde av Paven i Ballenciaga-jakke viralt. De unge «gikk på», og syntes det var «kult» at en som Paven kunne kle seg i en sånn super-hip jakke, forteller Fredrik Syversen. − Mens vi, litt «eldre», skjønte med en gang at dette var fake. Vi vet at Paven ikke kler seg slik. Han er jo pave …

Dette sier noe om utfordringene vi står overfor. For bildet av Paven i den tøffe jakka ser jo helt ekte ut. Men det er altså laget ved hjelp av KI.

− Men alt dette viser vel at KI jo må reguleres på et vis?

− Ja, helt klart. Spørsmålet er hvordan. Hvordan skal man regulere noe som går i 3000 kilometer i timen?

− Vi trenger nye typer lovgiving. Kanskje en form for konsekvensanalyse før nye KI-prosjekter får tillatelse eller ikke, sier IKT-Norges teknologi- og bærekraftsdirektør, Mali Hole Skogen.

En mulig vei å gå er at teknologiselskapene for eksempel må svare på spørsmål og redegjøre for alt teknologien deres kan gjøre og ikke, før den kan «slippes løs».

− Man må stille denne type spørsmål for hvert nye prosjekt eller system som utvikles. Man trenger en slags konsekvensanalyse, omtrent som når det skal bygges ut nye oljefelt eller tas større inngrep i naturen, mener Hole Skogen.

En annen mulighet er å opprette et eget internasjonalt organ etter modell av Det internasjonale atomenergibyrået for å regulere «superintelligent» KI, slik blant andre flere av grunnleggere av OpenAI tar til orde for. 

Dommedagsprofetier

Mali Hole Skogen er teknologi- og bærekraftsdirektør i IKT-Norge.

Foto

IKT-Norge

I dag blir nesten halvparten av alle koder skrevet av KI. Det store spørsmålet er om og eventuelt når KI blir «bevisst seg selv». Vi er langt unna der i dag, understreker ekspertene, men problemet er at ingen vet hva man skal se etter for å finne det ut. Det er umulig å vite før det er et faktum.

Vitenskapsfolk i Silicon Vally hevder i en undersøkelse at det er 10 prosent sjanse for at KI kan utrydde menneskeheten. De har gått fra «utopia til dystopia», skriver The New York Times. Like vel sitter man og forsker og utvikler på harde livet.

Og nylig kom det et opprop fra profilerte eksperter og ledere innen teknologisektoren – blant andre både grunnleggeren av Open AI og selveste Elon Musk – som krever at utviklingen av KI og ChatGTP bør «settes på pause» i minst seks måneder.

Det er flere som har påpekt at disse «skeptikerne» og dommedagsprofetene lider av det såkalte «Oppenheimer-syndromet», der vitenskapsfolk − som atombombens «far», Robert Oppenheimer – først finner opp «dette forferdelige», og siden tar offentlig avstand fra eget arbeid.

Faktum er at, tross «profetier» og advarsler: Utviklingen raser videre i full fart.

Kloning er vel den optimale KI, tenk deg autonome, koda mennesker ...

Helsesektoren vil nyte godt av KI

Det handler om sosiologi og kultur også dette – ikke bare teknologi. De som virkelig sitter dypt nede i kode-grøten, har utviklet sin helt en egen kultur som i teknologibransjen kalles «close to the code». Det betyr at de som sitter og jobber konkret med koding og algoritmer rundt KI er så «inni i det» at de ikke er i stand til å se noen feil eller etiske utfordringer.  

De mest utrerte ryktene rundt denne «close to the code-kulturen», ligner på beskrivelser av rockens inntog på verdensarenaen på 1960- og 70-tallet: Dop gjør deg uovervinnelig. Det heter seg at de beste koderne er de som er kreative i hodet fra før. Og de som samtidig tar seg en liten dose med LSD eller et annet sentralstimulerende stoff på jobben, blir enda mer kreative … Det ligger videoer på YouTube som påstår dette.

− At det er motstand mot KI, er ikke så unaturlig. Det har jo vært motstand mot endringer tidligere. Mot farge-TV og CD-er og strømmetjenester, påpeker Syversen.

− Men kunstig intelligens er noe annet. Vi snakker om en helt ny verdensorden. Dette er like stort som ilden og elektrisiteten.

− Så hva er det gode med KI? Hvilke bransjer og områder vil få en positiv effekt av det?

− Helse, energi og bygg og anlegg er tre sektorer hvor KI vil gi svært positiv effekt. Disse sektorene vil revolusjoneres ved hjelp av KI, mener Hole Skogen.

− Vi vil få mye bedre stabilisering av nett og en intelligent kraftutvikling. I tillegg vil KI gi oss intelligent beslutningsstøtte, og være en uvurderlig hjelp gjennom det grønne skiftet.  

− KI vil altså kunne hjelpe oss med å ta bedre beslutninger. Men hva med kloning av mennesker og fremveksten av maskiner som ser ut som oss?

− Kloning er vel den optimale KI, tenk deg autonome, koda mennesker ... – Men altså, et sånt scenario er vi veldig langt unna.

− Kunstig intelligens kan bidra til kaos i verden, det er det ingen tvil om, sier Fredrik Syversen. − Men det vil også løse kreftgåten.