KOMMENTAR: Automatisering og etikk

Vi trenger debatt om dødsstandarden i selvkjørende biler

Teknologi er helt uten moral. Diskusjonen om hvem algoritmene bestemmer skal rammes i en trafikkulykke, må vi ta i offentligheten.

Dagens biler har allerede fotgjengerdeteksjon, og kan unngå kollisjoner ved hjelp av automatisk bremsing. Men utfordringen kommer når selvkjørende biler skal velge mellom to eller flere onder i en ulykke.
Dagens biler har allerede fotgjengerdeteksjon, og kan unngå kollisjoner ved hjelp av automatisk bremsing. Men utfordringen kommer når selvkjørende biler skal velge mellom to eller flere onder i en ulykke. (Bilde: Marius Valle)

Teknologi er helt uten moral. Diskusjonen om hvem algoritmene bestemmer skal rammes i en trafikkulykke, må vi ta i offentligheten.

Noen ganger stiller teknologien oss overfor tydelige etiske dilemmaer.

TU.no fortalte for noen dager siden om en ny jobbanalyse fra OECD, om framtidens arbeidsmarked. Organisasjonen anslår at nær halvparten av dagens jobber har betydelig risiko for å bli automatisert bort – for eksempel ved at roboter overtar jobben, eller algoritmer løser oppgavene raskere, bedre og billigere.

Det er ikke den første rapporten som skisserer noe slikt, men det er interessant hvordan OECD rangerer de europeiske landene som inngår i undersøkelsen. Norge er et lite språkområde, vi har langt framskreden teknologi på mange felter og driver i stor grad med eksport av råvarer. Vi kommer også klart best ut av undersøkelsen. Slovakia, som blant annet har bygget opp en stor bilproduksjon for særlig Volkswagen og KIA, har dobbelt så høy risiko for at dagens jobber vil forsvinne.

«Automation may not always be cost-effective or desirable, it may raise legal and ethical concerns, and it will be affected by people’s preferences and policy decisions. Nevertheless, even those who remain in their current job will experience significant change», heter det blant annet i OECD-rapporten.

Er du i en jobb hvor innsatsen måles av maskiner som deretter gir deg sparken er kanskje det eneste som skiller en slik jobb fra slavearbeid, at det kommer penger inn på konto hver måned

Automatisering er ikke nytt

At arbeidsoppgavene forsvinner fordi vi har teknologiske framskritt, er ikke noe nytt. Bærere av keiserens stol måtte finne noe annet å gjøre da hjulet ble oppfunnet, og keiseren flyttet over i en mer behagelig vogn. Utvikling og endring av arbeidsmarked har alltid gått hånd i hånd.

MIT Technology Review oppsummerte lørdag striden i Amazon, hvor det har kommet fram at selskapet skal ha sagt opp en rekke ansatte via en automatisert prosess. Ifølge MIT Technology Review blir produktiviteten til ansatte i selskapet registrert løpende, og advarsler gis uten at noen mennesker er involvert – annet enn den som mottar advarselen. Amazon sier mellomledere kan overstyre prosessen. The Verge skrev først om forholdene i Amazon.

Uten rettigheter når maskinen sparker deg?

De fleste vil si at det er greit å registrere hva ansatte produserer, så lenge de selv vet at dette foregår. Som redaktør er det viktig for meg å følge med på om journalistene leverer artikler. Lav produksjon uten åpenbar grunn kan være et signal om at jeg som arbeidsleder skal gripe inn og få klarhet i årsakene og deretter handle. Men høyest mulig produksjon er heller ikke noe mål i seg selv: Leverer man for mye, kan det gå ut over kvaliteten til hver enkelt artikkel, og troverdigheten svekkes.

Men er du i en jobb hvor innsatsen måles av maskiner som er de samme som gir deg advarsel og deretter gir deg sparken (eller sender anbefaling om det), er kanskje det eneste som skiller en slik jobb fra slavearbeid, at det kommer penger inn på konto hver måned. For øvrig står du tilsynelatende uten rettigheter.

Trenger konsensus om moralske valg 

Slik bruk av teknologien er problematisk, og vi kjenner igjen problemstillingen fra en uendelig rekke filmer hvor kunstig intelligens er tema. Hvordan sikrer vi at beslutningene som tas er rotfestet i en moral akseptert av et overveldende flertall?

For ti år siden startet Google sitt prosjekt med selvkjørende biler, med denne ombygde Toyota Prius-en. Bilde: Google

Produsentene av selvkjørende biler møter samme dilemma: Hvis situasjonen på veien har to utfall, som kan skade eller ta livet av ulike personer, hvilken løsning skal bilen velge? Hvor mange sivile tap er det akseptabelt å programmere inn i algoritmen som tolker innkommende data og som i neste omgang styrer en drone som kan avfyre en rakett, eller la være? Kritikere vil ha forbud mot slike «drapsroboter».

MIT driver prosjektet Moral Machine. Det er ifølge dem selv en plattform for å samle inn menneskelige perspektiver på moralske beslutninger som skal gjøres av algoritmer eller mer avansert kunstig intelligens, som blant annet finnes i selvkjørende biler. Skal bilen treffe to voksne personer eller ett lite barn?

Her finnes ikke mange åpenbare svar. En klar forutsetning for å finne riktig løsning, er at dilemmaene diskuteres i offentligheten. Det er ikke våpenprodusentens eller bilprodusentens ansvar alene å gjøre en slik vurdering. Vi trenger en felles dødsstandard for selvkjørende biler. Autonome kjøretøy må ha samme reaksjonsmønster, uansett produsent. Men denne diskusjonen tilhører ikke bare ekspertene. Mønsteret er utvilsomt noe vi borgere og dagens sjåfører bør være med på å diskutere. En slik dødsstandard bør antakelig vedtas av et organ som er underlagt politisk kontroll, etter en offentlig debatt.

Selskapet 2getthere i Utrecht i Nederland publiserte i fjor en rapport som satte søkelyset blant annet nettopp på sikkerhetsproblemene for selvkjørende biler. Den internasjonale standarden for funksjonell sikkerhet i el-biler trenger oppdatering, ifølge rapporten. 2getthere etterlyser flere reguleringer (ekstern lenke, åpner i eget vindu).

Ny teknologi blir tatt i bruk – uansett dilemma 

Illustrasjon av Nissans konseptbil IMx, som er blant de mange konseptbilene som skal være selvkjørende og ta etiske valg via algoritmene i bilens programvare. Bilde: Nissan

OECD mener i sin rapport at noe av automatiseringen ikke er ønskelig. Men historien viser at det er svært sjelden at teknologiske gjennombrudd som er praktisk anvendbar ikke blir tatt i bruk av etiske grunner. Genmodifisert mat er ett av unntakene, der EU fra 1999 til 2002 hadde et midlertidig forbud mot kjøp og import av genmodifiserte produkter – og deretter krevde merking om andelen oversteg en viss mengde i matvaren. Bioteknologirådet i Norge ønsker å endre lovverket, for å gjøre det mer tidsriktig og tilpasset dagens genteknologi.

– Vi risikerer å gå glipp av mange muligheter, både til å gjøre matprodukter sikrere og bedre, sa seniorrådgiver i Bioteknologirådet Sigrid Bratlie til TU.no i fjor.

Det bør ganske enkelt ikke være lov å bli oppsagt av en datamaskin, og det trengs å få på plass en dødsalgoritme for bilprodusentene

Helseteknologi er nok det feltet hvor etikken setter flest begrensninger for bruk av ny teknologi, og hvor det tidvis kan gå lang tid fra teknologien gjør noe mulig, til det blir etisk akseptabelt.

Nærmest all annen erfaring tilsier imidlertid at når vi forbedrer teknologien, tar vi den i bruk. Det er i all hovedsak bra. Men det bør ganske enkelt ikke være lov å bli oppsagt av en datamaskin, og det trengs å få på plass en dødsalgoritme for bilprodusentene.

Kommentarer (17)

Kommentarer (17)

Eksklusivt for digitale abonnenter

På forsiden nå