Nettroll kan jages bort

Forsker Hugo Lewi Hammer ved Høgskolen i Oslo og Akershus leste seg gjennom 25.000 setninger fra kommentarfeltene på YouTube. Av disse identifiserte han 1500 trusler eller sympatier med vold.

Det viser seg at voldstrusler nesten alltid inneholder ord som «jeg», «vi» eller et aggressivt ord som «drepe», «utrydde» eller for eksempel «balltre». Målet for trusselen er også gjerne med: «innvandrerne», «svina» og lignende.

Lærte opp datamaskiner

Dette materialet brukte han deretter til å lære datamaskiner å oppdage nettrusler automatisk. Datamaskiner kan lete gjennom enorme mengder tekst på kort tid, hvis man lærer dem hva de skal lete etter. Det er nettopp dette Hammers metode benytter seg av.

Hovedhensikten har vært å utvikle en metode som kan bistå politi, frivillige organisasjoner, moderatorer og andre som er opptatt av komme netthets til livs. Metoden kan raskt filtrere bort en svært stor andel av materialet på Internett som med stor sikkerhet ikke inneholder trusler om eller sympatier med vold.

– Dette er et viktig arbeid, blant annet fordi slike ytringer er ulovlige etter både norsk og internasjonal lov, sier han til forskning.no.

Hatefullt ordskifte

Bakgrunnen for arbeidet er at forskeren med bekymring har sett hvordan hat og diskriminering, for eksempel mot minoriteter, i økende grad har hardnet ordskiftet på nettet. Han håper at metoden hans kan bety slutten på internett som friområde for hatefulle ytringer og trusler om vold. Metoden er ikke ufeilbarlig, men på materialet fra YouTube klassifiserte metoden feil i mindre enn én av ti tilfeller. Hammer understreker likevel at metoden ikke kan erstatte menneskelig intelligens.

– Den kan både klassifisere en voldstrussel som ingen trussel, og klassifisere en harmløs setning som trussel. Men feilklassifiseringen er altså under ti prosent for begge disse feiltypene, sier han.

Dermed kan de som daglig ser etter hatefull aktivitet på Internett nøye seg med å fokusere på en langt mindre del av innholdet på Internett, noe som vil gjøre deres hverdag mye lettere.

Kombinert med annen forskning og metoder ser forskeren for seg store muligheter. Han trekker blant annet frem «web crawlers» – dataprogrammer som automatisk beveger seg rundt på internett og samler inn relevant tekst.