Innovasjon. Nirvana eller Armageddon?

En forutsetning for velferd og velstand

I Norge omtales innovasjon som nødvendig for at vi skal opprettholde vårt velstands- og velferdsnivå. Tidspunktet for at vi må leve av noe annet enn oljen har kommet mye nærmere. Ratsjøutvalget etterspør økt produktivitet og effektivitet. Det holder ikke å jobbe mer, vi må jobbe smartere også. Digitalisering er på full fart inn i økonomier som vi konkurrerer med, og budskapet er at vi er i ferd med å ramle nedover på rankingen over digitalt modne land. Hvis vi ikke omstiller oss gjennom nyskaping, er vi ute å kjøre. Innovasjon er nødvendig både i det private næringslivet og i det offentlige. Innovasjon er løsningen, og det å være innovativ er i dag det samme som å være i besittelse av svært ettertraktede kvaliteter.

Et tveegget sverd

Det har ikke alltid vært slik. Fra antikken til det 19 århundre har innovasjon i lange perioder blitt sett på som en trussel mot det bestående, spesielt de politiske og religiøse institusjonene. Verden ble sett på som en fast størrelse, gjerne med en guddommelig velsignelse. Å utfordre det bestående var nærmest å betrakte som kjetterisk virksomhet, og ble tilsvarende slått hardt nedpå. Det betød ikke at det ikke fant sted innovasjon, men det ble gjerne fremstilt som noe annet. Det er først de siste 100 årene at innovasjon har fått en sentral og positiv plass, i alle fall den vestlige verden. Men betyr det at innovasjon er uproblematisk? At innovasjon kun skaper positive effekter? Definitivt ikke. Innovasjon har gitt oss mange muligheter, og fjernet mange ubehageligheter. Vi lever ikke i huler men i moderne komfortable boliger, vi må ikke utføre slitsomme og farlige handlinger for å få mat på bordet, legevitenskapen har funnet opp mange medisiner som har redusert dødelighet og ubehag i forbindelse med sykdom etc. Men innovasjon resulterer også i til dels uønskede og potensielt katastrofale konsekvenser for oss mennesker. Enten direkte, eller gjennom å endre forutsetningene for kilder til uønskede konsekvenser.

Verden er komplisert og kaotisk. Nye produkter er uforutsigbare. Enkelte effekter bruker lang tid på å materialisere seg. I sin tid ble DDT sett på som et virkemiddel for utrydding av malaria, og store områder ble sprayet med DDT. Etter hvert viste det seg at giften i DDT endret verdikjeden slik at populasjonen av rotter økte eksplosivt. Og med rotter kom pest og andre farlige sykdommer. Biler er et annet åpenbart eksempel. Biler gjør transport effektivt og behagelig, og har bidratt i vesentlig grad til økonomisk utvikling. Men biler er også en viktig bidragsyter til forurensning, ulykker og global oppvarming. Et eksempel i nyere tid er såkalte strukturerte finansielle produkter. Disse produktene ble av flere sentrale autoriteter, inkludert den tidligere sentralbanksjefen i USA Alan Greenspan, omtalt som et positivt bidrag til den økonomiske utviklingen. Det alt for få forstod var hvordan disse produktene bidro til en utvikling som resulterte i finanskrisen. Konsekvensene av finanskrisen er det mange land som fortsatt sliter med, og som har redusert tilliten til viktige samfunnsinstitusjoner som sentralbanker, banker, regjeringer ol.       

Teknologien utvikler seg i stadig raskere tempo, uten at den tar hensyn til hvordan den påvirker forutsetningene for fenomener som eksisterer i omgivelsene. Det antas for eksempel at soppen som var årsak til den irske hungersnøden i 1840 årene kom fra USA med båt. Grunnen til at den plutselig overlevde reisen over havet til Irland, var utviklingen innen skipsteknologi som reduserte reisetiden med flere uker. Teknologiutvikling innen transport kombinert med mutasjoner, befolkningstetthet og uforsiktig bruk av antibiotika som skaper resistente bakterier, gjør at epidemiske sykdommer kan spre seg med eksplosiv fart.

Menneskeskapte trusler mot menneskeheten

Hva så med fremtiden? I 2012 etablerte Cambridge University prosjektet The Cambridge Project for Existential Risk. Prosjektet har som mål å forske på trusler mot menneskehetens eksistens. Prosjektet har så langt konkludert med at de største truslene mot menneskeheten er menneskeskapte: kunstig intelligens, global oppvarming, kjernefysisk krig og ukontrollert bioteknologi. Andre som også forsker på trusler mot menneskeheten nevner nanoteknologi og pandemier.

La oss ta kunstig intelligens som et eksempel. Mye skrevet om i avisene for tiden. Robotene kommer. De tar fra oss arbeidsplasser og vi må innstille oss på omstilling. Det er i seg selv ingen trussel, slik har utviklingen alltid vært. Det er jo til og med positivt. Vi vil slippe de slitsomme og mindre interessante jobbene, og de blir utført med større presisjon. Som øker lønnsomheten. For Norge, med en demografisk utvikling der stadig færre skal brødfø stadig flere, vil dette være et viktig bidrag. Kunstig intelligens forventes å gi enorme effekter innen forskning, utdanning, næringsliv og i hverdagslivet til folk flest.

Men fremtidsutsiktene for kunstig intelligens er ikke uten bekymringer. I dag er anvendelsen av kunstig intelligens ganske snever, spesielt designet for å løse godt spesifiserte problemer innenfor avgrensede områder. Men ambisjonen til forskningsmiljøene er å utvikle kunstig intelligens som kan lære og tilpasse seg et stort spekter av utfordringer uten at det krever redesign utført av mennesker. Tungvektere innen teknologi og forskning som Bill Gates, Stephen Hawking og Tesla gründer Elon Musk advarer mot en utvikling som vi vil miste kontrollen over. Frykten er at det utvikles maskiner med vesentlig større kapasitet enn oss mennesker og som vil ha en enorm endringstakt, mens vi mennesker har en langsom biologisk utvikling. Frykten er at kunstig intelligens som kan redesigne seg selv, og som har andre mål enn oss mennesker, vil se på mennesker som et problem ift egen måloppnåelse.

Dette er antagelser, ingen fasit. Men hva om antagelsene slår til? Kan vi ta den sjansen? Hvis ikke, hvordan kan vi kontrollere utviklingen på tvers av landegrensene, uten at vi mister alle mulighetene som følger med kunstig intelligens?

Føre var, ikke etterpå snar

Er det noe vi vet, så er det at vi ikke vet hvilken vei utviklingen vil ta, med hvilken kraft og tempo. Det er mye innovasjon som vil være ufarlig og som vil representere fantastiske muligheter. Innenfor områder der det er grunn til å anta at utviklingen kan gi katastrofale følger, er det viktig at det legges til grunn en føre vare policy. Det vil være utfordrende å få til når det er mange offentlige og private, kjent og ukjente aktører, som jobber med forskning og utvikling, som for eksempel innenfor kunstig intelligens. Det vil være behov for ulike virkemidler på ulike nivå. Reguleringer fra politiske myndigheter, nasjonale som globale. Offentlige standarder som et tydelig og robust rammeverk for forskning, utvikling og implementering innenfor det aktuelle området. Et annet virkemiddel kan være offentlig finansiering av prosjekter basert på kriterier knyttet til nytte og sikkerhet.

Det er mange muligheter for menneskeheten som ligger i teknologiutvikling, så lenge vi evner å styre og forvalte den på en forsvarlig måte. Det vil være sterke krefter, som utfra sine snevre interesser, vil kjempe hardt for presse grensene for forskning og utvikling på områder det er risiko for katastrofale utfall. Det hviler derfor et stort ansvar på sentrale offentlige og private aktører, nasjonalt og globalt, å etablere og forvalte et regime som sikrer at menneskehetens samlede interesser blir ivaretatt. Det er avgjørende at det ikke kun blir snevre økonomiske, militære og andre interesser som driver utviklingen, med en selvbedragende tro på at vi mennesker kan forutse og styre unna uønskede konsekvenser, også de katastrofale.