Professor med KI-advarsel: – Er som kjernefysiske våpen
Ikke bare amerikanske tek-giganter, men også flere av verdens fremste KI-forskere frykter at den raske teknologiske utviklingen kan ende i katastrofe.
– Det er en grunn til at selskaper sier at dette går for raskt, at vi mister kontrollen, sier professor Yoshua Bengio til nyhetsbyrået AFP.
– Folk som meg har forventet dette lenge, legger han til.
Han uttaler seg i etterkant av flere dramatiske advarsler fra ansatte i Anthropic, en av de viktigste aktørene i utviklingen av kunstig intelligens (KI).
Én ansatt sa opp jobben og hevdet at de som utvikler KI, tror teknologien kan utslette menneskeheten innen få år.
Anthropic-sjef Dario Amodei gikk offentlig ut og ba om strengere regulering av egen næring og lavere tempo i KI-utviklingen. Han fikk støtte fra Elon Musk og Sam Altman, sjefen for KI-giganten OpenAI.
Skal diskuteres i FN
Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen, og om få dager skal temaet diskuteres under FNs hovedforsamling.
Statsminister Jonas Gahr Støre (Ap) har allerede drøftet situasjonen med kolleger i flere andre land.
Men noen stiller seg skeptiske til advarslene og spør hva som er motivet bak dem. Frankrikes finansminister Roland Lescure mener de amerikanske KI-gigantene har egeninteresse av å be om mer regulering.
– Dette får alle bak dem til å sakke farten, slik at de kan beholde førsteplassen, sier han til Reuters.
Andre beskylder KI-gigantene for å bruke «dommedagsprofetier» som en uvanlig form for markedsføring.
Både Amodei, Altman og Musk har tidligere advart om «eksistensiell risiko» som følge av KI.
– Internasjonal utfordring
Advarslene om mulige fatale følger av KI-utviklingen kommer imidlertid også fra eksperter som ikke selv er knyttet til de store selskapene.
Bengio er professor ved Universitetet i Montréal i Canada og leder for en ikke-kommersiell organisasjon som håper å utvikle trygg KI. Han er redd KI-modeller etter hvert blir i stand til å hacke seg inn i selskaper over hele verden.
Et mulig frampek kom tidligere i år, da en «sverm» av OpenAIs KI-agenter på eget initiativ hacket både OpenAI og et annet KI-selskap.
Å kontrollere KI er ifølge Bengio en stor internasjonal utfordring.
– Slik som kjernefysiske våpen er en internasjonal utfordring, sier han.
De siste årene har han forsøkt å få politiske ledere til å se alvoret i situasjonen, og i fjor hadde han et møte med Jonas Gahr Støre i Oslo.
Advart i flere år
Siden Bengio spilte en viktig rolle i utviklingen av det som kalles kunstige nevrale nettverk, er han omtalt som en av «gudfedrene» bak kunstig intelligens. En annen forsker med samme status er nobelprisvinner Geoffrey Hinton – og også han har i flere år advart om at KI-utviklingen kan ende i katastrofe.
Nylig fikk han spørsmål fra BBC om anslaget til en Anthropic-ansatt som mener det er mer enn 10 prosent risiko for at KI tar livet av alle mennesker på kloden innen 2040.
– 10 prosent virker ikke som et urimelig anslag, svarte Hinton, som la til at det er svært vanskelig å beregne dette.
Han ser for seg flere mulige dystre scenarioer, som at KI-modeller iverksetter massive dataangrep eller utvikler nye, farlige virus.
– Grunnløse påstander
En tredje sentral forsker som er bekymret, er Stuart J. Russell, professor ved Berkeley-universitetet i California og forfatter av en mye brukt lærebok om KI for studenter.
Allerede i 2014 spurte han om det på sikt ville være mulig for mennesker å kontrollere KI. Også den kjente fysikeren Stephen Hawking stilte seg bak denne advarselen.
Samtidig er det stor uenighet i forskermiljøene om hvor stor trusselen fra KI egentlig er. Noen avviser det de kaller dommedagsprofetier uten hold i virkeligheten.
– Dette er en del av et mønster av grunnløse påstander om makt, sa professor Emily M. Bender ved University of Washington til BBC tidligere i år.
Hun beskyldte KI-selskapene for å bruke katastrofescenarioene til å avlede oppmerksomhet fra reelle problemer som selskapene allerede forårsaker.
Dette er angst og depresjon
Angst er en psykologisk og fysisk tilstand. Den kan innebære frykt, bekymring, uro og panikk og kan utløses av ytre faktorer eller uten noen åpenbar grunn. Det er normalt å kjenne på frykt i hverdagen, og mange opplever angst i perioder, men hvis angsten blir kraftig eller vedvarende, kan den klassifiseres som en lidelse.
Depressive plager og lidelser kjennetegnes av nedstemthet og mindre energi enn vanlig, svekket konsentrasjon og interesse for omgivelsene. Søvnen og appetitten er ofte forstyrret, selvtilliten svekket, og forestillinger om skyld og verdiløshet kan være til stede.
«5 gode vaner» for psykisk helse testes i Norge
Et australsk selvhjelpskurs for bedre psykisk helse er i år testet på deltakere med symptomer på angst eller depresjon i Norge.
Programmet «Big Five» er utviklet av MindSpot i Australia og tilbys gratis av australsk helsevesen. Innholdet i kurset bygger på forskning fra flere tusen deltakere og en rekke studier.
– Det er sjelden man finner et så omfattende evidensgrunnlag innen psykisk helse, sier prosjektleder og psykologspesialist Smiti Kahlon ved Seksjon for Forskningsdrevet Innovasjon hos Helse Bergen til NTB.
De fem vanene er:
* å tenke sunt
* å gjøre meningsfulle aktiviteter
* å sette seg mål
* å ha gode rutiner
* å bygge sosiale relasjoner.
Norske forhold
Det siste året har forskerne undersøkt om den norske kursversjonen, «5 gode vaner», kan hjelpe mot symptomer på angst og depresjon også i Norge.
– Selv om kunnskapsgrunnlaget bak de fem vanene allerede er solid i andre land som Australia og Canada, vet vi mindre om hvordan «5 gode vaner» er koblet til psykisk helse i norsk kontekst, sier Smiti.
Om funnene kan overføres til norske forhold, kan kanskje et kort og lett tilgjengelig digitalt program bidra til bedre psykisk helse også i Norge.
Programmet er et digitalisert kurs der deltakerne definerer hva det innebærer for dem å tenke sunt, hva som er meningsfulle aktiviteter for dem, og hvilke mål, rutiner og sosiale relasjoner de vil ha. Kurset tilbyr tips og råd og daglige SMS-påminnelser mandag til fredag i fire uker.
De daglige påminnelsene og klart definerte, tilpassede mål for uka gir brukerne noe veldig konkret å forholde seg til.
Økende problem i Norge
Psykiske plager er vanlig blant voksne, spesielt blant unge voksne. For unge, særlig kvinner, har det de siste 15 årene vært en økning. Symptomer på angst har økt mest, ifølge Folkehelserapporten.
Problemene varierer, men mange har perioder der de sliter kraftig med engstelse, nedstemthet og uro. For noen kan psykiske plager utvikle seg til en psykisk lidelse.
Så mange som 40 prosent av kvinner og rundt 25 prosent av menn mellom 18 og 79 år rapporterte i 2023-2024 om psykiske plager.
Av de som rapporterer om psykiske plager, vil rundt 20 prosent få en angst- og/eller depresjonsdiagnose i løpet av ett år. To nyere internasjonale studier viser at 40-48 prosent opplever en psykisk lidelse i løpet av livet.
Økningen har lenge vakt bekymring. Ikke bare påvirker psykiske plager livskvalitet gjennom hele livsløpet, det påvirker samfunnsdeltakelse i utdanning og arbeidsliv. Forebygging av psykiske lidelser, særlig hos unge, kan gi store gevinster for samfunn og folkehelse.
Gode vaner har effekt
Studiene fra andre land viser at personer som følger opp de fem vanene i «Big five», har bedre psykisk helse, og jo oftere de følger vanene, jo bedre kommer psykisk helse ut.
Forskningen viser også at når mennesker som ikke har angst eller depresjonsplager får beskjed om å begrense de fem gode vanene, øker deres angst- og depresjonsplager. De finner også at å komme i gang med de fem gode vanene og pleie dem regelmessig og over tid, sammenfaller med redusert angst og depresjonsplager.
– Kort sagt ser det ut til at jo oftere, minst tre-fire ganger i uken, vi praktiserer de fem gode vanene i hverdagen, desto bedre har vi det psykisk, sier Smiti.
Skiller seg ut
Det flommer over i medier og på markedet med råd, kurs og tips om hvordan man kan få et bedre liv og bedre helse.
– Det vi liker spesielt godt med dette programmet, er at det omsetter forskningskunnskap til konkrete og praktiske råd for hvordan vi kan ivareta vår psykiske helse i hverdagen. Det er bedre å ha noe såpass konkret å forholde seg til, heller enn masse vage råd, sier Smiti.
I studien har forskerne rekruttert 410 voksne med angst- og/eller depresjonssymptomer. Over fire uker fikk en tredel av deltakerne kurset «5 gode vaner» med daglige påminnelser, en tredel har prøvd ut en annen anerkjent metode, takknemlighetskurs, også med påminnelser, mens den siste tredelen fungerer som kontrollgruppe i fire uker. De mottok deretter tilgang til «5 gode vaner»-modulen, men uten daglige påminnelser.
Datainnsamlingen er nå fullført. Forskerne er for øyeblikket i gang med å analysere dataene fra studien. Studien vil evaluere symptomendringer og sammenligne utviklingen hos de tre gruppene.
En semitrailer med fisk kjørte inn i tre på Åmot
En semitrailer med fisk har kommet over i motgående kjørefelt på riksvei 3, kjørt av veien og truffet et tre søndag morgen.
Politiet i Innlandet varslet om ulykken klokka 7.03 søndag. Det er trolig ikke alvorlige personskader. Ulykken skjedde 3 kilometer sør for Åsta.
– En semitrailer med fisk har kjørt av veien og inn i et tre. Den står flere meter fra veien. Kjørt ut etter å ha passert over motgående kjørefelt. Nødetatene er på stedet. Annen trafikk kan passere, skriver operasjonsleder Haagen Løvseth i politiloggen.
Angrep mot oljeraffineri i Moskva
Deler av et oljeraffineri i Moskva har fått skader som følge av et droneangrep natt til søndag, ifølge byens ordfører.
– Fiendens droneangrep mot Moskva fortsetter, skriver Sergej Sobjanin på meldingstjenesten Max.
Han sier det er et anlegg på raffineriets område som er påført skader, uten å gå nærmere inn på hva slags anlegg som er rammet.
Ordføreren sier nødetatene jobber på stedet, men at det ikke er meldt om personskader.
Togstreiken: 402 innstilte avganger søndag, mandag og tirsdag
Søndag 20. september:
Søndag fortsetter lokføkførerstreiken. Vy innstiller 402 avganger til og med tirsdag.
Fredag morgen gikk 46 lokomotivførere ut i streik etter at det ble brudd i meklingen mellom Norsk lokomotivførerforbund og Vy.
Togselskapet oppdaterer nettsidene sine med hvilke linjer som blir berørt. Søndag er 163 avganger innstilt, mens 128 avganger er innstilt mandag og 111 avganger tirsdag. Vy opplyser at reisesøket er oppdatert slik at innstilte avganger ikke vises der.
* L1 Spikkestad–Lillestrøm: 20 avganger blir innstilt
* L2 Stabekk–Ski: 44 avganger blir innstilt
* R14 Asker–Kongsvinger: 9 avganger blir innstilt
* R21 Stabekk–Moss: 27 avganger blir innstilt
* RE10 Drammen–Lillehammer: Alle 35 avganger blir innstilt.
* RE20 Oslo S–Halden/Göteborg: 10 avganger blir innstilt
* L4 Bergen–Arna: 18 avganger blir innstilt
* L1 Spikkestad–Lillestrøm: 39 avganger blir innstilt
* R13 Drammen–Dal: 13 avganger blir innstilt
* R14 Asker–Kongsvinger: 12 avganger blir innstilt
* R21 Stabekk–Moss: 2 avganger blir innstilt
* RE10 Drammen–Lillehammer: 33 avganger blir innstilt
* RE11 Skien–Eidsvoll: 2 avganger blir innstilt
* RE20 Oslo S–Halden/Göteborg: 14 avganger blir innstilt
* L4 Bergen–Arna: 6 avganger blir innstilt
* R40 Bergen–Voss/Myrdal: 7 avganger blir innstilt
Tirsdag 22. september
* L1 Spikkestad–Lillestrøm: 11 avganger blir innstilt
* R13 Drammen–Dal: 15 avganger blir innstilt
* R21 Stabekk–Moss: 13 avganger blir innstilt
* R23 Oslo S–Ski: 33 avganger blir innstilt
* RE10 Drammen–Lillehammer: 31 avganger blir innstilt
* RE11 Skien–Eidsvoll: 3 avganger blir innstilt
* RE20 Oslo S–Halden/Göteborg: 5 avganger blir innstilt
Regjeringen gjør det vanskeligere å ta beslag i russiske skip på Svalbard
I en hastig innført forskrift begrenser regjeringen muligheten til å beslaglegge russiske skip på Svalbard.
I den nye forskriften, som ble sendt ut sent fredag ettermiddag, begrunner regjeringen tiltaket med at «Svalbard har en beliggenhet som gjør at forsyningslinjene til enkelte av lokalsamfunnene kan være mer utsatt enn for lokalsamfunn på fastlandet».
Noen ganger tar ikke reglene om utlegg i tvangsfullbyrdelsesloven og dekningsloven godt nok hensyn til dette, mener regjeringen.
Det var nettavisen Barents Observer som omtalte saken først.
Kinkig arrest
Bakteppet for den nye hasteforskriften er den kinkige situasjonen som har oppstått etter at Sysselmesteren på Svalbard tok beslag i det russiske forskningsskipet Professor Moltsjanov i begynnelsen av september.
Det russiske skipet ble tatt i arrest etter et pålegg fra Nord-Troms og Senja tingrett, som fulgte en rettsanmodning fra det ukrainske gasselskapet Naftogaz.
Bakgrunnen for anmodningen er en dom i Haag fra 2023, der Russland ble pålagt å betale en erstatning på 5 milliarder dollar – over 40 milliarder kroner – til Naftogaz for beslaglagte verdier på Krym.
Dommen er rettskraftig, men Russland har varslet at kjennelsen vil bli anket.
Anklaget Norge for sjørøveri
Russland reagerte kraftig på skipsarresten. Norge ble anklaget for piratvirksomhet, og Norges ambassadør i Moskva ble kalt inn på teppet.
Russiske myndigheter hevdet også at skipsarresten kan true framtidige matforsyninger til russiske innbyggere i Barentsburg.
Den nye forskriften gjør det vanskeligere å gå til slike skritt.
Kan bidra til løsning
Svalbard-ekspert Per Arne Totland tror forskriften også vil bidra til å løse saken med forskningsskipet.
Han tror neste skritt vil være at rettsvesenet enten på eget initiativ hever rettsordren om å ta skipet i arrest, eller kjører en russisk anke mot avgjørelsen i et hurtigspor.
– Dette vil skje raskt. Retten vil si at beslaget av skipet var korrekt og i tråd med loven, men at dette ikke kan bli opprettholdt etter den nye forskriften, sier han til Barents Observer.
Rekordlave strømpriser i helgen – vil bli store variasjoner framover
Denne uka har det vært usedvanlig store svingninger i strømprisene, og slik vil det fortsette gjennom vinteren, spår kraftanalytiker Tor Reier Lilleholt.
Lørdag var prisene i spotmarkedet på Østlandet og Sørlandet på det laveste nivået så langt i år, skriver Europower.
Søndag skal prisene enda lenger ned, ifølge nettstedet strompriser.no: I Oslo kryper spotprisen til godt under 10 øre søndag formiddag, før den stiger til nesten 60 øre på kvelden.
Tysk sol og vind
De lave prisene skyldes først og fremst at det både er mye vind og mye sol i Tyskland, sier Lilleholt i selskapet Volue Insight til NTB.
– Da kan vi importere denne kraften billig og spare på vannet i våre egne magasiner, sier han.
De dagene det ikke er sol og vind på kontinentet, stiger prisene. For da øker samtidig verdien av den norske vannkraften, som eksporteres til Europa.
Mandag denne uka var spotprisen i Oslo oppe i godt over 3 kroner.
– Slike svingninger må vi nok leve med i hele vinter, sier Lilleholt.
Han venter en snittpris på strøm i vinter på mellom 1,50 og 2 kroner.
Mangler nett
For selv om Europa har bygget ut vind- og solkraft i et uhyre raskt tempo de siste årene, langt raskere enn forbruket, har ikke utbyggingen av kraftnettet fulgt etter. Dermed kan overskuddskraft ofte ikke sendes til områder med kraftbehov.
I stedet får kraftprodusentene ofte betalt for å stanse produksjonen for ikke å overbelaste nettet.
– Man klarer ikke å utnytte overproduksjonen, konstaterer Lilleholt.
– Så i perioder vil strømmen være veldig billig, og i perioder veldig dyr.
Prisene blir likere
Den enkelte forbruker kan lett følge prisutviklingen på nettsteder som hvakosterstrommen.no og kutte strømforbruket i de dyreste periodene.
På sikt vil imidlertid prisene jevne seg ut, mener strømeksperten.
– Norge vil få likere priser som Europa, men der skal prisene ned, sier han og viser til at europeiske land i økende grad frigjør seg fra høye gasspriser, som trekker strømprisen oppover.
– Så ekstremt høye strømpriser er noe vi kan legge bak oss snart?
– Ja, hvis vi får normal nedbør over tid, og at situasjonen i gassmarkedet med striden i Hormuzstredet normaliserer seg. Markedet forventer også en nedgang i gassprisen om to år, sier Lilleholt.
Amerikansk UD godkjenner luftvernsalg til Ukraina for 2,7 milliarder dollar
Det amerikanske utenriksdepartementet har godkjent et potensielt salg av luftvernutstyr til Ukraina. Salget, som fortsatt må gjennom Kongressen, godkjennes samme dag som Trump varslet opptrapping av sanksjonene mot Russland.
Det amerikanske utenriksdepartementet opplyste i en melding til Kongressen fredag at det var blitt «fattet en beslutning om å godkjenne et mulig salg av militært utstyr til Ukrainas regjering».
Kyiv har lenge etterlyst bistand til luftvern – blant annet flere typer missiler, utskytningsramper og droneradarer.
Det foreslåtte salget må fortsatt behandles i Kongressen. Fredagens forslag kom samme dag som Trump signerte en ny lov som åpner for nye sanksjoner mot Russland.
Om salget går gjennom, vil Ukraina betale ved hjelp av den amerikanske militærfinansieringen som ble gitt under Trumps forgjenger, Joe Biden, samt bidrag fra flere europeiske land, ifølge meldingen fra amerikansk UD.
Den amerikanske presidenten sa tidligere denne måneden at han ville be europeerne tilbakebetale den amerikanske støtten som ble gitt til Ukraina under Biden.
Ukrainas hovedstad Kyiv har opplevd en kraftig økning i russiske angrep, som landets luftforsvar har hatt problemer med å avverge på grunn av ammunisjonsmangel.
Norge kan få EU-regler for engangsemballasje
Miljødirektoratet har laget forslag til nye regler som skal redusere bruken av plast og emballasje i hverdagen. Reglene er i tråd med EUs nye emballasjeforordning.
Miljødirektoratet har nå sendt forslag til nye regler for emballasje til Klima- og miljødepartementet. Departementet skal nå ta stilling til de nye forslagene, før et utkast til forskrift sendes på høring.
– Vi har alle pakket opp små produkter og lurt på hvorfor det måtte være så mye emballasje rundt. Nå skal vi få ned mengden unødvendig emballasje og plast, sier klima- og miljøminister Sigrun Aasland (Ap) i en pressemelding.
Det nye forslaget samler dagens regler om emballasje og emballasjeavfall i én forskrift, og denne forskriften skal være i tråd med EUs nye emballasjeforordning.
Dermed får norske virksomheter de samme reglene og konkurransevilkårene som virksomheter i andre EU- og EØS-land.
En av de mest merkbare endringene reglene vil medføre, er at det ikke blir lov å ha engangsemballasje for småprodukter som kosmetikk og hygieneprodukter på overnattingssteder. Det blir heller ikke lov med emballasje som får produktet til å virke større enn det egentlig er. Disse grepene skal redusere vekt og volum på emballasjen.
Videre skal mer av emballasjen komme fra materialgjenvunnet plast, og mer av den skal kunne gjenvinnes til nye materialer. En merkeordning skal gjøre det lettere for folk å kildesortere riktig.