Derfor er Facebooks pause i utviklingen av kunstig intelligens skremmende

Amit M. Joshi er professor i digital markedsføring ved handelshøyskolen IMD i Lausanne i Sveits. 

SYNSPUNKT: Flere medier kastet seg over nyheten, med spådommer om at kunstig intelligens vil bli uavhengig av mennesker og utgjøre en trussel mot menneskeheten.

I virkeligheten var imidlertid det som skjedde med Facebook-robotene et resultat av menneskelige feil, og ikke noen form for teknologisk gjennombrudd innen utviklingen av kunstig intelligens.

Men hendelsen har likevel flere implikasjoner for næringslivet, på mange nivåer.

For det første: det som egentlig skjedde var at robotene hadde blitt programmert til å lære seg forhandlingsteknikker, og ble belønnet ut ifra hvor fort de klarte å enes om løsninger som var til det beste for dem selv.

På grunn av insentivene i selve programmet, lærte robotene raskt at det var bortkastet å bruke dagligdags engelsk

Men programmererne glemte å fortelle robotene at forhandlingsteknikkene ikke skulle gå på bekostning av det menneskelige språket (helt spesifikt; engelsk). På grunn av insentivene i selve programmet, lærte robotene raskt at det var bortkastet å bruke dagligdags engelsk.

Og siden insentivene var designet slik, begynte de å bruke forkortelser for å kommunisere. Den eneste grunnen til at Facebook stanset eksperimentet var faktisk at de innså at de hadde glemt å instruere robotene til å kommunisere på vanlig, forståelig engelsk.

Det er ingen tvil om at denne utviklingen er skremmende for bedrifter, men ikke av de grunnene media skildrer.

Med en gang Facebook – eller Google, Amazon eller en mindre kjent oppstartsbedrift innen kunstig intelligens og maskinlæring, for eksempel MindMeld – knekker koden for robot-forhandlinger, kan enhver funksjon innen bedriften, som i dag er avhengig av personlige relasjoner, potensielt erstattes med en kunstig intelligens-robot. Prisfastsetting av standard industriprodukter er ett eksempel.

Det er ikke vanskelig å forestille seg at innovative bedrifter implementerer robot-baserte forhandlinger for både bestillingsordre og prising av business- to-business-produkter.

Et annet eksempel er kjøp av reklame i media. Med eksplosjonen av valgmuligheter når det gjelder både online og offline reklamekanaler, går ikke bestillinger og forhandlinger via produktledere og markedssjefer lenger. De beste firmaene bruker allerede relativt avanserte dataanalyser for å vurdere markedsføring i media og spredning gjennom ulike kanaler. Dette gjøres ved å bruke sofistikerte roboter til å skape en optimal mediemiks, fordele ressurser og til å legge inn bud hos aktørene med de laveste prisene.

Og mens dagens roboter er veldig gode på å håndtere selve budprosessen, kan de kommende maskinlærings-robotene også kunne håndtere ustrukturerte personlige forhandlinger. Med slik teknologi kan hele salgsprosessen bli fornyet – i det minst forandres.

Det vil også skape endringer hos forbrukerne. Man kan se for seg mobilbaserte roboter som forhandler med bedrifter på våre vegne – basert på preferanse vi velger på forhånd –  for å oppnå de beste avtalene på forbruksprodukter.

Vi vil få «roboter» som håndterer felles bruk av vår private data – og som sikrer at vi får kompensasjon for deling av data. Og kanskje vil våre mobil-roboter forhandle direkte med oss – «jeg synes at du skal gå hjem fra jobb i dag, og da kan du jo kanskje unne deg den iskremen du har så veldig lyst på?».

De fleste større bedrifter har investert, i hvert fall noe, i denne teknologien. Men kunstig intelligens og maskinlæring er fortsatt på et svært tidlig stadium når det gjelder å bli tatt i bruk.

Årsaken til det at det er komplisert å teste ut slik teknologi i praksis og i stor skala. Fordelene ved kunstig intelligens er åpenbare – i teorien. Men større virksomheter møter raskt betydelige utfordringer knyttet til kombinasjonen av det høye nivået av kompleksitet og de begrensede mulighetene for utprøving og observasjon.

Derfor vil vi trolig se at bedrifter bruker lang tid på å akseptere denne teknologien. Det er høyst sannsynlig at store bedrifter vil utvikle slike systemer, men likevel utsette implementeringen inntil tårnet av bekymringer er adressert.

Fremveksten av slike systemer virker imidlertid uunngåelig. Og de overveldende konkurransefordelene de tilbyr, kan ende opp med å overskygge all annen frykt og alle andre bekymringer som er assosiert med kunstig intelligens og maskinlæring.