Pedro Domingos har de siste årene framstått som en av de virkelige kapasitetene på kunstig intelligens. Maskinene har bare så vidt begynt å lære, og Europa henger etter Kina og USA påpeker informatikk-professoren.
OECD/Christian Moutarde CC.
Europas reguleringsiver bremser utviklingen
– EU regulerer for mye, uten å forstå teknologien.
Det sier den amerikanske informatikk-forskeren Pedro Domingos. Han er blitt berømt med en bok som har begeistret både Microsoft-gründeren Bill Gates og tidligere Google-sjef Eric Schmidt: «The Master Algorithm», betegnes som et standardverk om teknologien bak kunstig intelligens.
I et intervju med Der Spiegel deler han sine tanker om det globale kappløpet om ledertrøya innen kunstig intelligens. Mens Kina og til dels Russland, ligger uhyggelig godt an i løypa – men fortsatt etter USA – sliter Europa, mener Domingos.
Defensive europeere
Har du ikke lest den? «The Master Algorithm» blir omtalt som selve standardverket for alle som er opptatt av kunstig intelligens.
SPIEGEL: Autokrater som Xi og Putin interesserer seg sterkt for kunstig intelligens. Og i USA har næringslivet kommet langt i utvikling av AI-teknologi. Men hva med Europa?
Domingos: Menneskene i USA, Europa og Asia tenker veldig forskjellig om denne teknologien. I Silicon Valley dominerer et veldig optimistisk bilde som preges av liberale frihetstanker. Det er annerledes i Europa. Nylig deltok jeg i en konferanse i Berlin og følte meg nærmest slått ut av pessimismen som hersket der. På hvert møte ble det sagt: Å, dette må vi være redd for.
Inntil noen stilte det treffende spørsmålet: Hvorfor heter denne konferansen egentlig «Humanity disrupted», altså den forstyrrede menneskeheten? Hvorfor kaller vi den ikke «Humanity enhanced», altså den forbedrede menneskeheten? Ja, kunstig intelligens representerer et kulturelt brudd, men den fører oss også framover.
SPIEGEL: Og Kina, Russland?
Domingos: Der ser regimene dessverre ikke frihetsperspektivet, men det autoritære potensialet. Xi og Putin spør seg selv: hva kan vi gjøre med denne teknologien?
SPIEGEL: Overlater vi europeere dette feltet til autokratene?
Domingos: Det finnes mange anvendelsesområder, på lokalt og nasjonalt nivå, fra helsesektor til trafikkstyring, som for lengst er tatt i bruk i USA og Kina. Mye mindre derimot i Europa. Ja, slik sett benytter ikke Europa seg av sine muligheter.
Les mer:
- Storbritannia satser på etisk AI
- Norsk IKT-bransjer krever nasjonal AI-strategi, slik Macron skal lage
SPIEGEL: Din bok ble blant annet oversatt til russisk og kinesisk, men verken til tysk eller fransk.
Domingos: Min agent sa til meg fra starten av: «Du kommer til å selge denne boken over hele verden, men ikke i Frankrike og Tyskland». Og det var akkurat slik det ble. Han fikk rett da han sa: «Tyskerne og franskmennene liker ikke disse tingene».
SPIEGEL: Du advarer selv imot at teknologien kan falle i feil hender. Er vi ikke med rette bekymret?
Domingos: Denne faren eksisterer, og når det gjelder reguleringen av kunstig intelligens, så har Europa kommet lengre enn USA. Det reguleres imidlertid for mye der, og det uten at man forstår seg godt nok på teknologien.
Ja, slik sett benytter ikke Europa seg av sine muligheter
Må ikke reguleres ihjel
SPIEGEL: Hva mener du med det?
Domingos: Den europeiske grunnforordningen for personvern, som trer i kraft i slutten av mai (GPDR), legger for stor vekt på kravet om forståelighet, altså på spørsmålet om hvorfor en algoritme bestemmer seg for det ene, og ikke noe annet.
La oss ta kreftforskningen som eksempel på hvordan maskinlæring allerede i dag spiller en stor rolle: Foretrekker jeg at min diagnose baserer seg på en algoritme som er 90 prosent nøyaktig, men som ikke lar seg forklare i detalj, eller på en som bare er 80 prosent nøyaktig, men som jeg forstår? Jeg ville valgt det mest nøyaktige alternativet.
SPIEGEL: Er det ikke mulig å få begge deler, nøyaktighet og forståelighet?
Domingos: De beste lærende algoritmene er etterlignet nevrale nettverk som er inspirert av nervesystemer, akkurat som de finnes hos menneske og dyr. Disse algoritmer er i høyeste grad nøyaktige fordi de forstår et utsnitt av verdenen bedre enn oss, nettopp fordi det baseres på enorme mengder med data. Men de er fullstendig ugjennomsiktige.
Selv vi eksperter forstår ikke fullt ut hvordan de nøyaktig fungerer. Vi vet bare at de fungerer. Derfor burde vi ikke sette opp regler som bare tillater algoritmer som lar seg forklare fullt ut. Det er vanskelig å forstå virkelighetens kompleksitet og samtidig holde tingene enkelt.
Tyskerne og franskmennene liker ikke disse tingene
– Reguler intelligensens objektive funksjoner!
SPIEGEL: Hvordan burde kunstig intelligens så reguleres?
Domingos: Det finnes ingen lov som vil være detaljert nok for å kunne holde følge med kompleksiteten til moderne algoritmer. Det som kan reguleres, er algoritmens objektive funksjoner, som for eksempel Facebooks mål om å holde på sine brukere så lenge som mulig. Da kan tilsynsmyndighetene si: Okay, dere vil tjene penger, men da må dere følge visse samfunnsrelevante regler. Som for eksempel å være gjennomsiktig, og ikke spre falsk informasjon.
SPIEGEL: Hva burde ikke reguleres?
Domingos: Eksempelvis burde man ikke regulere at data som utelukkende brukes til ting de er blitt samlet inn til. Det høres i utgangspunktet forståelig ut, men hvis menneskeheten hadde fulgt dette prinsippet tidligere, hadde vi i dag ikke hatt antibiotikumet Penicillin, og heller ikke røntgenteknikken. Tilfeldigheter, som fører til oppdagelser av nye ting i gamle data, er uunnværlig for vitenskapelig framskritt.
SPIEGEL: Har du forklart dette for europeiske politikere?
Domingos: Jeg har snakket med mange politikere, men mindre med europeiske. Det er et paradoks fordi Europa har fremragende eksperter innen kunstig intelligens. Ikke så mange som i USA, men deres forskningskvalitet er for tiden enda bedre enn den til deres kinesiske kolleger. Men Kina haler inn på …
SPIEGEL: … og vil slutt, med sin autoritære modell, passere oss?
Kina ledende innen 2025?
Vil vinne kappløpet. Kinas president Xi Jinping holder sin nyttårstale 31. desember 2017. I bokhyllene bak ham skal det finnes et eksemplar av Pedro Domingos bok om kunstig intelligens, «The Master Algorithm». Xinhua/Polaris
Domingos: Tidligere Google-sjef Eric Schmidt spår at Kina vil være ledende innen 2025 fordi landet følger en samordnet strategi. Det er godt mulig. USAs fordeler er grunnforskningen og den sprudlende risikokapitalen som overfører kunnskapen fra universitetene til næringslivet. Kinas fordel er den enorme datamengden som lærende algoritmer kan dra nytte av. Europas fordel er dens mangfold.
Hvis jeg måtte velge mellom Europas og Kinas datapool, ville jeg gått for Europas fordi kinesiske data er veldig homogene og derfor overflødige på mange områder. De tilfører ikke noe nytt til allerede etablert kunnskap. Dessuten er Kina veldig slepphendt når det kommer til vernet av folks privatsfære, noe som både er en fordel og en ulempe.
SPIEGEL: Hvorfor?
Domingos: Vel, i kreftforskningen, for eksempel, syns jeg at det nesten er pasientenes etiske plikt å dele sine data. Det kommer de imidlertid ikke til å gjøre hvis de er i tvil om at deres data er sikre – noe de ikke er i Kina. Derfor kan det være mulig at kvaliteten til de kinesiske dataene er lavere, selv om volumet er større.
Les et lengre intervju med Pedro Domingos om kunstig intelligens her.
Som en del av Dagens Perspektivs europadekning publiserer vi etter avtale jevnlig stoff fra det tyske magasinet Der Spiegel.
