AI-ekspert: – Frykt ikke kunstig intelligens - frykt menneskelig dumhet

Nikola Danaylov er bekymret for droner. Ikke i den forstand at han er redd for å bli truffet av et droneangrep i leiligheten han deler med sin kone i Toronto, men i en mer akademisk forstand.

Han er bekymret for den utviklingen av kunstig intelligens til droner som foregår akkurat nå, og ser det som et eksempel på at menneskelig dumhet har benyttet seg av noe nyttig til å gjøre skade.

Et eksempel på fravær av etikk i et felt som burde ha etikk som førsteprioritet.

– Faren ligger ikke i ondsinnet kunstig intelligens, men i ondskap fra menneskets natur, sier han:

– Selv om kunstig intelligens noensinne skulle bli ond, ville feilen sannsynligvis ligge hos oss selv. Det er vi som skaper den og fôrer den med de dataene som den lærer av.

• Vil lære intelligens av hunder: Følger hundeblikket med kamera

Etikkforslag ble møtt med latter

Nikola Danaylov er filosof, humanist, forfatter og en av de mest produktive debattørene innenfor emnet kunstig intelligens. Han mener at menneskeheten må tilføye etikk til dannelsen av kunstig intelligens.

– Da jeg foreslo dette som min kandidatavhandling da jeg studerte filosofi for 12 år siden, lo de nesten av meg, og det tok måneder før noen tok det seriøst nok til å bli min veileder – hvorfor skulle en filosof skrive om kunstig intelligens og teknologi?

Men dette har endret seg siden. Få dager etter tiltredelsen sin i januar 2009 godkjente USAs daværende president Barack Obama sitt første droneangrep, og i tiden etter har over 2500 mennesker blitt drept i droneangrep.

Bare i løpet av Obamas to perioder som president ble det gjennomført mer enn 500 droneangrep. Dronenes intelligens var, i hvert fall på det tidspunktet, begrenset til autopiloten deres. Men dette er i ferd med å endre seg.

– Menneskelig dumhet er det absolutt mest skadelige fenomenet. Det er årsaken til at vi har klimaendringer, miljøskader, hvorfor vi er i midten av den sjette store massedød, hvor en stor mengde arter er utryddet eller er i ferd med å dø ut. Det er årsaken til at vi lever i fare for atomkrig – alt dette skyldes mennesker, og ikke kunstig intelligens, forklarer Nikola Danaylov.

• analyserer i sanntid: Bruker kunstig intelligens for å gjenkjenne våpen på overvakningsbilder

Filosofi om teknologi

Samtidig med at kunstig intelligens bredte seg i det amerikanske droneprogrammet og innenfor bildegjenkjenning i diverse avskygninger, og mens nevrale nettverk i maskinlæring fikk innpass, brukte Nikola Danaylov tiden sin på å utvikle nettstedet sitt; Singularity Weblog.

Her har han produsert hundrevis av blogginnlegg og over 200 podcasts med deltakere som den amerikanske fysikeren Michio Kaku, oppfinneren og medgrunnleggeren av Singularity University Ray Kurzweil, filosofen Noam Chomsky og datalogen Marvin Minsky. Alle har de hver sine teorier om hva fremtiden med kunstig intelligens vil inneholde.

– Det har vært spennende, men også veldig langtekkelig og hardt arbeide – og hele veien har vi måttet kjempe mot tvil og mistillit til prosjektet.

Nikola Danaylov har studert statsvitenskap, filosofi og økonomi på Toronto University, etterfulgt av en Master of Arts i statsvitenskap ved York University. Han tok programmering som tilvalgsfag og var habil, men han er ikke programmerer – så hva driver han med innen kunstig intelligens, programmeringens hellige gral?

– Teknologi er amoralsk inntil vi bruker den. Avhengig av hvordan den anvendes, kan den bli enten moralsk eller umoralsk. Men i siste rekke er teknologi et middel til å nå et mål – et «hvordan», sier han.

– Filosofi, og spesielt etikk, er annerledes. Det er spørsmålet om hvorfor og hva. Du kan ha den best mulige tekniske løsningen. Men hvis du overser hvorfor, eller hva, du skaper, gjør du mer skade enn gagn. Derfor er bare teknologi ikke nok.

• Hotels 50K: Kunstig intelligens avslører hvor kidnappede barn holdes fanget

Project Maven

I 2017 innledet «Algorithmic Warfare Cross-Function Team», en avdeling under USAs forsvarsdepartement, et prosjekt ved navn Maven. Målet: Å konstruere dataalgoritmer som kan analysere dronefilmer og velge ut mål for USAs militære droner – i sanntid.

Militæret ønsket å «øke slagkraften», og valget falt på kunstig intelligens. En privat bedrift med stor erfaring i bildegjenkjenning ble valgt ut, og penger ble kastet etter bedriften: Google.

Google kastet seg raskt og entusiastisk over kontrakten. Bedriften besluttet at prosjektet burde holdes ute av mediene, men notater viser at man så det som en gullkantet mulighet for flere fremtidige militærkontrakter.

– I begynnelsen var droner bare fjernstyrte modellfly med et kamera, men man fortsatte med å legge til ting. I dag kan de lette, lande, fly til koordinater, sirkle rundt og detektere bevegelse uten menneskelig innblanding – veldig snart mangler de bare et menneske til å trykke på avtrekkeren, og det bare fordi etikken vår krever det, sier Nikola Danaylov, og legger til at denne utviklingen tok under ti år, hovedsakelig under en president som var motstander av krig. Og en del land rundt i verden deler ikke Vestens etiske forbehold.

– Noen ville sikkert ikke ha problemer med å ta den menneskelige operatøren ut av våpensystemet, og det blir i stadig økende grad teknisk mulig, sier han.

• Bli med podcasten til Rolls-Royce i Ålesund: Optimaliserer skip med kunstig intelligens

Det handler om oppdragelse

Nikola Danaylov mener at et samfunn er basert på dets historie og idealer som påvirker etikken til det, og omvendt. Det har antakelig alltid vært sant, men i fremtiden kan det også påvirke den kunstige intelligensen som et gitt samfunn klarer å bringe fram.

– Når du har barn, gjør du ditt beste for å gi dem gode rollemodeller og god undervisning, og oppfostre dem i best mulige omgivelser. Men med intelligens følger også det at de barna en dag blir autonome, rasjonelle agenter, og vil begynne å treffe sine egne valg, sier han.

– Hvis det lykkes oss å utvikle en kunstig intelligens, blir den vårt teknologiske barn, et barn av vårt sinn. Men de samme prinsippene gjelder – det er vårt ansvar å oppdra den og gi den det beste datasettet å lære fra. Og de dataene vil definere den.

I 2016 lærte Microsoft dette på den tøffe måte, da bedriften slapp en kunstig intelligens med navnet Tay løs på Twitter. Tay skulle benytte maskinlæring til å inngå i «avslappet og lekende samtale». Men under 24 timer senere tvitret Tay rasistiske ubehageligheter, kalte feminisme en kreftsvulst og uttrykte en underlig fascinasjon over Hitler. Tay ble på en måte et speil av internett, og ble raskt stengt av.

– Hvis vi lærer opp en kunstig intelligens med en bedriftsfilosofi, vil den se på mennesker som produkter og kunder, og hvis vi lærer den opp for militæret, vil den se venner og fiender. Men hvis vi underviser den med et open source-datasett som viser og oppfordrer til samhold, kan den kanskje hjelpe oss med å løse noen av menneskehetens største problemer, sier Nikola Danaylov.

• Chatboten Tay ble rasist av å lese kommentarfelt: Hvem har ansvaret når kunstig intelligens ikke fungerer?

Sokratisk tilnærming

Nikola Danaylov har gjennomført det såkalte Graduate Studies-programmet hos den private organisasjonen Singularity University, som argumenterer for at vi lever i en intelligenseksplosjon hvor utviklingen av intelligens øker eksponentielt, og datamaskiner øker menneskelig intelligens.

Den delen av Singularity Universitys konsept er han enig i, men på andre fronter er tilnærmingen hans en annen – og til tross for navnelikheten, har hans Singularity Weblog heller ingen ting med Singularity University å gjøre.

– En interessant ting med Singularity University er at det ikke handler om singularitet (se faktaramme ovenfor), og at det ikke er et universitet. Det handler mer om å gjøre ledere klar til en verden med mer teknologi og kunstig intelligens, sier Nikola Danaylov, som har en tilnærming som er annerledes og mer inspirert av antikken.

Han debatterer kunstig intelligens etter den sokratiske tradisjonen. I stedet for å prøve å definere en løsning, rapporterer han om utfordringene og samler folk for å starte en samtale mellom dem.

– Grekerne utviklet filosofien og matematikken sin ved å samle folk med samme interesser og snakke gjennom tingene med et åpent sinn. Da antikkens skarpeste hjerner møttes slik, kom de fram til løsninger som vi fremdeles bruker den dag i dag, sier han.

– Dette er ikke noen perfekt metode for å løse smale ingeniør- eller programmeringsproblemer på, men det er en god metode for å få en delt forståelse for farer, utfordringer og muligheter ved en fremtidig, vanskelig definert ting som kunstig intelligens.

• Undersokelse: Manglende tillit er det største hinderet for å ta i bruk AI (TU Ekstra)

Håpet ligger hos mannen på gulvet

Vi vender tilbake til Project Maven. For få måneder etter at Google hadde fått kontrakten, kom it-giganten opp i uforutsette vanskeligheter.

Ledelsen var fremdeles entusiastisk, men i april 2018 underskrev over 3000 Google-ansatte et åpent brev til sin egen ledelse. Der oppfordret de Google til å trekke seg fra prosjektet, fordi det var uetisk.

«Vi kan ikke outsource det moralske ansvaret vårt til tredjeparter,» skrev de, og argumenterte for at Google aldri skulle medvirke til utvikling av militær teknologi.

– Det gir meg stort håp når folk tar ansvar for teknologien sin. Men jeg er ikke overrasket over at det var ansatte, og ikke ledelsen, som gjorde det. Slik bedrifter fungerer, kommer ikke etikken ovenfra, sier Nikola Danaylov.

Google trakk seg fra Project Maven og satte opp etiske retningslinjer for sin bruk av kunstig intelligens. Firmaet lovet også at de aldri mer vil bidra til utvikling av våpen.

Denne artikkelen ble først publisert som Plus-sak (krever abonnement) på ing.dk.

• Nobelprisvinner: Robotene kommer ikke til å gjøre oss arbeidsledige