En MQ-9 Reaper-drone på en base i Afghanistan. En rekke forskere tar nå til orde for å forby autonome våpen, men presiserer at fjernstyrte droner fortsatt skal være tillatt. (Foto: RINZE KLEIN RNLA)

AUTONOME VÅPEN

Elon Musk og Stephen Hawking vil forby «drapsroboter»

– Denne diskusjonen må vi også ta i Norge, sier forsker.

I et åpent brev argumenterer hundrevis av forskere på roboter og kunstig intelligens for et forbud mot såkalte autonome våpen - droner og andre våpen som ikke krever menneskelig styring.

Den tredje revolusjonen

Forskerne presiserer at det for eksempel gjelder bevæpnede quadcoptere som kan lete etter og ta livet av mennesker som møter predefinerte kriterier, men ikke cruisemissiler eller fjernstyrte droner hvor mennesker gjør alle valg.

«Kunstig intelligens-teknologi (AI) har nådd et punkt hvor slike systemer er - praktisk, om ikke etter loven - mulig innen år, ikke tiår, og risikoene er store. Autonome våpen har blitt beskrevet som den tredje revolusjonen innen krigføring, etter kruttet og atomvåpen», skriver forskerne, som også har fått med seg Tesla-gründer Elon Musk og stjernefysiker Stephen Hawking på underskriftslista.

I brevet skriver de at nøkkelspørsmålet for menneskeheten i dag er hvorvidt man skal starte et globalt AI-våpenkappløp eller å hindre det i å starte.

– Hvis en stor militærmakt for alvor starter med utvikling av kunstig intelligens-våpen er et globalt våpenkappløp praktisk talt umulig å hindre, og endepunktet for denne teknologibanen er åpenbar: Autonome våpen vil bli morgendagens Kalashnikov-er. I motsetning til atomvåpen krever de ingen dyre eller vanskelig tilgjengelige materialer, så de vil bli allestedsnærværende og billige for alle markante militærmakter å masseprodusere, heter det.

Norsk minidrone fikk overhaling:Norsk minidrone har fått overhaling - så mye bedre har den blitt

Tesla-sjef Elon Musk vil forby autonome våpen. Peder Qvale

AI-kappløp

Det vil bare være et spørsmål om tid før våpnene havner på det svarte markedet og i hendene på terrorister og diktatorer, skriver forskerne.

– Vi tror derfor at et militært AI-kappløp ikke vil være fordelaktig for menneskeheten. Det er mange måter AI kan gjøre slagmarkene sikrere for mennesker, spesielt sivile, uten å lage nye verktøy for å drepe folk.

Akkurat som de fleste kjemikere og biologer ikke har noen interesse i å lage kjemiske eller biologiske våpen, vil ikke AI-forskere flest lage våpen med kunstig intelligens, poengterer de. De vil heller ikke at andre skal sverte fagfeltet deres på denne måten.

– For å oppsummere, mener vi at AI har stort potensial til å tjene menneskeheten på mange måter, og at målet for fagfeltet bør være å gjøre nettopp det. Å sette i gang et militært AI-våpenkappløp er en dårlig idé, og burde forhindres ved et forbud mot offensive autonome våpen uten meningsfylt menneskelig styring.

Les også: Norske stridsbåter blir åtte knop raskere og treffer med første skudd

Norske forskere på listen

I skrivende stund er det flere norske forskere på listen over signaturer. En av dem er førsteamanuensis Maja van der Velden ved Institutt for informatikk på Universitetet i Oslo.

– For meg handler dette om hva slags verden vi skal lage og designe. Vi som designer autonome systemer har allerede sett hvordan informasjonssystemer kan endre livene til mennesker både på en positiv og veldig negativ måte. Våpenindustrien har fått et helt nytt felt, og med kunstig intelligens og robotisering bringer vi det enda et steg videre. Våpen som ikke trenger menneskelig input for å bestemme om noen skal leve eller dø – det passer ikke sammen med hvordan jeg ser på fremtiden, sier van der Velden til Teknisk Ukeblad.

Les også: Slik vil siktet for en norsk stridsvogn-skytter snart se ut

– Må ta diskusjonen

Førsteamanuensen påpeker også at vi i Norge har en velutviklet våpenindustri og at vi samtidig gjør mye forskning på robotisering og kunstig intelligens.

– Med dette åpne brevet setter vi dette på agendaen, men vi må også her hjemme ta diskusjonen om det er forsvarlig ut fra norsk forskningsetikk og norsk lovverk at vi skal være med på å designe og utvikle disse systemene.  Det må være mennesker som tar beslutningene om hvordan vi skal leve sammen – ikke autonome systemer, sier van der Velden.

Les også: Alle norske kampfartøy får fjernstyrte våpenstasjoner