Advarer mot virkelighetens «killer robots»

Brevet ble i går morges først publisert via Future of Life Institute – en forskergruppe opptatt av å sørge for at menneskeheten viser ansvarlighet. Brevet er siden omtalt i en rekke internasjonale medier, blant annet i Financial Times og Quartz.

Noen av de største navnene innen vitenskap og teknologi er blant de som, har signert brevet, der man advarer mot utviklingen av ulike former for automatiserte «killer robots». professor Stephen Hawking, Tesla-sjef  Elon Musk og Apple-grunnlegger Steve Wozniak er blant flere hundre ledende teknologer som har signert oppropet.

Brevskriverene mener det må komme et globalt forbud mot «killer robots», for å hindre et nytt, globalt våpenkappløp.

Kunstig intelligens

Selv om «robot soldater» fortsatt er begrenset til tegnebrettet , har raske fremskritt innen datakraft og kunstig intelligens bedret utsiktene til at de militære vil kunne framstille robotsoldater i løpet av to ti-år, skriver Financial Times.

Oppropet vil bli presentert og diskutert på en internasjonal konferanse om kunstig intelligens i Buenos Aires, skriver avisen. 

 Det som brevskriverne er aller mest bekymret for er utviklingen av våpensystemer som på egen hånd kan identifisere og angripe mål uten menneskelig inngripen. 

«Dette vil skape den 'tredje revolusjonen innen krigføring', etter oppfinnelsen av krutt og atomvåpen», heter det i oppropet.

Brevet skisserer et nærmest tegneserie- eller eventyrfilm-aktig  scenario av fremtidige konflikter som minner om scener fra filmserien Terminator og andre. "Autonome våpen er ideelle for til snikdrap, til å destabilisere nasjoner, undertrykke innbyggere og til selektivt å drepe en bestemt etnisk gruppe. 

«Vi tror derfor at et militært våpenkappløp om kunstig intelligens ikke ville være gunstig for menneskeheten», skriver forskerne.

Ideelt for terorrister og diktatorer

Vi har teknologi i dag som lar oss drepe noen i Midtøsten fra en container utenfor Las Vegas. Men ifølge Quartz er ikke brevskriverne opptatt av fjernstyrte droner ordinære atomvåpen eller krysserraketter der det tross alt er mennesker som styrer våpnet og tar beslutningen om eventuelle angrep. 

Det de snakker om er noe helt nytt. 

Future of Life Institute er bekymret for en type teknologi som kan søke og drepe mennesker basert på forhåndsdefinerte kriterier. Våpen som vil være meget enkle og rimelige å produsere når teknologien først er utviklet. 

«I motsetning til styrte, kjernefysiske våpen, vil ikke killer robots kreve noen kostbare investeringer eller vanskelig tilgjengelige råvarer. De kan bli allestedsnærværende og billige for de fleste typer militære krefter til å masseprodusere. Det vil bare være et spørsmål om tid før de tilbys på det svarte markedet, og er i hendene på terrorister eller diktatorer som ønsker kontrollere sin befolkning eller krigsherrer som har til hensikt å begå etnisk rensing», heter det i oppropet fra Future of Life Institute.