Professor med KI-advarsel: – Er som kjernefysiske våpen
Ikke bare amerikanske tek-giganter, men også flere av verdens fremste KI-forskere frykter at den raske teknologiske utviklingen kan ende i katastrofe.
– Det er en grunn til at selskaper sier at dette går for raskt, at vi mister kontrollen, sier professor Yoshua Bengio til nyhetsbyrået AFP.
– Folk som meg har forventet dette lenge, legger han til.
Han uttaler seg i etterkant av flere dramatiske advarsler fra ansatte i Anthropic, en av de viktigste aktørene i utviklingen av kunstig intelligens (KI).
Én ansatt sa opp jobben og hevdet at de som utvikler KI, tror teknologien kan utslette menneskeheten innen få år.
Anthropic-sjef Dario Amodei gikk offentlig ut og ba om strengere regulering av egen næring og lavere tempo i KI-utviklingen. Han fikk støtte fra Elon Musk og Sam Altman, sjefen for KI-giganten OpenAI.
Skal diskuteres i FN
Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen, og om få dager skal temaet diskuteres under FNs hovedforsamling.
Statsminister Jonas Gahr Støre (Ap) har allerede drøftet situasjonen med kolleger i flere andre land.
Men noen stiller seg skeptiske til advarslene og spør hva som er motivet bak dem. Frankrikes finansminister Roland Lescure mener de amerikanske KI-gigantene har egeninteresse av å be om mer regulering.
– Dette får alle bak dem til å sakke farten, slik at de kan beholde førsteplassen, sier han til Reuters.
Andre beskylder KI-gigantene for å bruke «dommedagsprofetier» som en uvanlig form for markedsføring.
Både Amodei, Altman og Musk har tidligere advart om «eksistensiell risiko» som følge av KI.
– Internasjonal utfordring
Advarslene om mulige fatale følger av KI-utviklingen kommer imidlertid også fra eksperter som ikke selv er knyttet til de store selskapene.
Bengio er professor ved Universitetet i Montréal i Canada og leder for en ikke-kommersiell organisasjon som håper å utvikle trygg KI. Han er redd KI-modeller etter hvert blir i stand til å hacke seg inn i selskaper over hele verden.
Et mulig frampek kom tidligere i år, da en «sverm» av OpenAIs KI-agenter på eget initiativ hacket både OpenAI og et annet KI-selskap.
Å kontrollere KI er ifølge Bengio en stor internasjonal utfordring.
– Slik som kjernefysiske våpen er en internasjonal utfordring, sier han.
De siste årene har han forsøkt å få politiske ledere til å se alvoret i situasjonen, og i fjor hadde han et møte med Jonas Gahr Støre i Oslo.
Advart i flere år
Siden Bengio spilte en viktig rolle i utviklingen av det som kalles kunstige nevrale nettverk, er han omtalt som en av «gudfedrene» bak kunstig intelligens. En annen forsker med samme status er nobelprisvinner Geoffrey Hinton – og også han har i flere år advart om at KI-utviklingen kan ende i katastrofe.
Nylig fikk han spørsmål fra BBC om anslaget til en Anthropic-ansatt som mener det er mer enn 10 prosent risiko for at KI tar livet av alle mennesker på kloden innen 2040.
– 10 prosent virker ikke som et urimelig anslag, svarte Hinton, som la til at det er svært vanskelig å beregne dette.
Han ser for seg flere mulige dystre scenarioer, som at KI-modeller iverksetter massive dataangrep eller utvikler nye, farlige virus.
– Grunnløse påstander
En tredje sentral forsker som er bekymret, er Stuart J. Russell, professor ved Berkeley-universitetet i California og forfatter av en mye brukt lærebok om KI for studenter.
Allerede i 2014 spurte han om det på sikt ville være mulig for mennesker å kontrollere KI. Også den kjente fysikeren Stephen Hawking stilte seg bak denne advarselen.
Samtidig er det stor uenighet i forskermiljøene om hvor stor trusselen fra KI egentlig er. Noen avviser det de kaller dommedagsprofetier uten hold i virkeligheten.
– Dette er en del av et mønster av grunnløse påstander om makt, sa professor Emily M. Bender ved University of Washington til BBC tidligere i år.
Hun beskyldte KI-selskapene for å bruke katastrofescenarioene til å avlede oppmerksomhet fra reelle problemer som selskapene allerede forårsaker.
