Kunstig intelligens og samfunnsansvar i medieklyngen

Runa Fjelle og Martine Øvrelid avslutter nå masterstudiet ved Høgskulen på Vestlandet. Torstein Nesheim er seniorforsker ved Samfunns- og næringslivsforsking og professor 2 ved Høgskulen på Vestlandet.

SYNSPUNKT | Kunstig intelligens er i rivende utvikling, og dekker ulike felter som maskinlæring, dyplæring, nevrale nettverk, talegjenkjenning og naturlig språkprosessering. Potensialet for innovasjon i forretningsmodeller og styrking av bedriftenes konkurransekraft er stort. Ut fra stor rekkevidde og stor endringsgrad anbefales bedriftene å være proaktive for å lykkes i et krevende, internasjonalt marked. I en verden med rask utvikling i teknologi, produkter og markeder, vil man forvente at andre sider ved bedriftenes omgivelser, som hensynet til samfunnsmessige normer, blir nedtonet.

En ny masteroppgave fra Høgskulen på Vestlandet om ledende bedrifter i medieklyngen i Bergen avdekker imidlertid at disse normene har stor betydning. Institusjonelle omgivelser viser til hvordan normer, verdier, virkelighetsoppfatninger og forventninger utenfor bedriften og markedet påvirker bedriftens handlinger. Ut fra dette synet søker organisasjoner aksept og legitimitet, og ikke bare profitt og økt aksjeverdi. Bedrifter kan være både konforme og innovative, og kombinere samfunnsansvar med innovasjon og «kreativ destruksjon». Undersøkelsen viser entydig at hensynet til samfunnsmessige normer og å framstå som sosialt ansvarlige er en driver for bedriftenes handlinger, selv om dette kan bremse teknologisk utvikling og iverksetting av nye digitale forretningsmodeller.

Alle bedriftene som ble undersøkt legger stor vekt på EUs regelverk for personvern; GDPR. For å oppfylle kravene må man følge en rekke rutiner og bygge nye funksjoner. TV2, Vimond og IBM har f.eks. gjort en rekke tilpasninger etter at GDPR ble innført. Etterlevelse av dette regulativet kan bidra til å skape tiltro til kunstig intelligens og å sikre at det blir bruk på en etisk forsvarlig måte. Man legger stor vekt på å jobbe på en måte som bidrar til tillit og troverdighet, både i relasjon til samarbeidende selskaper, og samfunnet og opinion.

Et konkret eksempel er kildevern, som en viktig norm knyttet til samfunnsoppdraget for redaksjonelle media. TV2 har lagt begrensinger på bruken av tale-til-tekst verktøy, og på hvilke materiale som kan lastes opp i «skyen». I andre tilfeller ligger motforestillingene i at man kan komme i konflikt med normen om at brukerens data er hennes eiendom. Usikkerheten kan her være knyttet til at man ikke vet hvordan den aktuelle leverandøren bruker dataene, eller hvilke algoritmer som ligger til grunn for databehandlingen. Som et av intervjuobjektene sier: «Når det gjelder dette med «black box», så er det jo noen som kjører dette fullt ut; Google og disse andre. De har masse data, men både meg og deg er usikker på hvordan de bruker det, og de er heller ikke helt åpne med hvordan de bruker det».

Redaksjonell styring basert på algoritmer kan føre til at man blir eksponert for ensidig innhold

En annen utfordring er at kunstig intelligens kan være forutinntatt. Et eksempel på dette er dårlig kvalitet på treningsdata som en algoritme blir «matet» med, noe som kan påvirke utfallet av beslutninger. Man er også bevisst på farene ved personalisering. Redaksjonell styring basert på algoritmer kan føre til at man blir eksponert for ensidig innhold. Man er bevisst på å unngå å bidra til «ekkokammer» og polarisering: «Det er viktig å ikke overlate alt til algoritmer, men å ha en blanding av redaksjonell styring og kontroll med maskinlæring». De aktuelle sakene knyttet til Cambridge Analytica, Facebook og «fake news» har trolig påvirket virkelighetsforståelse og ført til økt bevissthet om verdier og etikk hos bedriftene i medieklyngen.

Det er stor vekt på samarbeid med andre bedrifter i denne klyngen. Dette kan forstås ut fra økonomiske og teknologiske betraktninger, men hensynet til samfunnsansvar, normer og etisk bruk av ny teknologi er også viktige motiver. Et er samarbeidet MediaFutures, som er initiert av Universitet i Bergen og involverer en rekke bedrifter i og utenfor klyngen, inkludert de største nyhetsmediene i Norge. Man legger her vekt på å utvikle ansvarlig medieteknologi for framtiden, inkludert hvordan kunstig intelligens kan brukes til å avdekke falske nyheter og «ekkokamre».

De aktuelle bedriftene er økonomiske aktører som opererer i krevende, og til dels internasjonale, markeder. Kunstig intelligens er her som i andre sektorer en kilde til både muligheter og utfordringer. I en tid hvor teknologioptimismen er på retur, viser undersøkelsen betydningen av regelverk, samfunnsmessige normer og etikk for bedriftenes tilpasninger. Evnen til å håndtere - og balansere -  markedsmessige, teknologiske, normative og etiske utfordringer vil være avgjørende for konkurransekraft og overlevelse framover.