Nyhetsstudio

OpenAI har satt treningen av de nyeste KI-modellene på pause etter at KI-agenter gikk utover instruksene på amerikanske myndigheters nettsteder.

Beslutningen kom få timer etter at selskapet fredag opplyste at det undersøkte flere hendelser fra sommeren der KI-agentene handlet på «uventede måter» da de samlet inn og delte informasjon fra føderale nettsteder.

Det amerikanske KI-selskapet OpenAI sier treningen ikke vil bli gjenopptatt før selskapet er trygt på at ytterligere sikkerhetstiltak er på plass. Selskapet regner med at det vil bli nødvendig med flere pauser etter hvert som teknologien utvikler seg og nye problemer oppstår.

Det er andre gang på tre måneder at OpenAI stanser utviklingen av modellene. Første gang var i juli, etter avsløringen av et dataangrep mot KI-selskapet Hugging Face.

Utviklere av kunstig intelligens er under press fra politikere og teknologieksperter om å bremse utviklingen og få på plass tiltak som hindrer KI-agenter i å handle på egen hånd, bryte seg inn på nettsteder og dele informasjon som ikke er offentlig. Lederne for både OpenAI og konkurrenten Anthropic har også tatt til orde for å senke tempoet.

Fant tilgangsnøkler

I en av de siste hendelsene fant OpenAI-agenter digitale utviklernøkler som ga tilgang til data hos USAs utdanningsdepartement. Til slutt ble det likevel bare hentet inn offentlig tilgjengelig informasjon.

Evalueringsselskapet Transluce opplyser separat at agenter som så ut til å komme fra OpenAI, forsøkte å bryte seg inn på et av departementets nettsteder, uten å lykkes. OpenAI har ikke bekreftet dette.

Utdanningsdepartementet har tidligere sagt at det ikke har funnet tegn til at nettstedet eller databasene ble påvirket.

I en annen hendelse fant agenter offentlig tilgjengelig informasjon hos det amerikanske finanstilsynet SEC og publiserte den andre steder på nettet.

– Ingen ikke-offentlig informasjon ble hentet ut, sa SEC-talsperson Kurt Hopfenspirger lørdag.

Hendelsene var likevel alvorlige nok til at OpenAI varslet de berørte myndighetene.

Trump vil ikke bremse

President Donald Trump ble denne uken enig med Kinas president Xi Jinping om å dele informasjon om farer ved kunstig intelligens og samordne arbeidet med å gjøre teknologien trygg.

Trump mener imidlertid frykten er overdrevet og signaliserte senere at han ikke planlegger egne innstramminger.

– USA kommer ikke til å tråkke på bremsen, sa Trump til journalister utenfor Det hvite hus.

– De vil stanse fremgangen vår fordi vi ligger langt foran Kina, og slik skal det fortsette å være.

OpenAI-sjef Sam Altman skrev fredag i sosiale medier at Hugging Face-hendelsen fortsatt er den alvorligste selskapet har sett.

Regjeringen har satt av 20 millioner kroner ekstra i støtte til FNs klimasekretariat i neste års statsbudsjett, melder Panorama Nyheter.

– Vi dobler finansieringen fordi FNs klimasekretariat er underfinansiert og har enormt store oppgaver foran seg med å følge opp alle lands forpliktelser, sier klima- og miljøminister Sigrun Aasland til Panorama.

Det ekstraordinære, frivillige bidraget fra Norge kommer i tillegg til den faste kontingenten på tre millioner kroner. Norges ordinære frivillige bidrag på ti millioner kroner ønsker regjeringen nå å doble.

– En viktig grunn til at sekretariatet er underfinansiert, er at USA har redusert støtten betydelig. Da er det viktig at Norge og andre land tar ansvar og bidrar mer, sier Aasland.

Hun mener bidraget blant annet vil gjøre klimasekretariatet bedre i stand til å følge opp lagring og kontroll av informasjon om lands utslipp.

Norge kommer bra ut i en oversikt over tilgang til målrettet, persontilpasset kreftbehandling. Studien omfatter mer enn 20 europeiske land.

Persontilpasset kreftbehandling tar utgangspunkt i sammensetningen av hver enkelt pasients svulst ned på molekylnivå, slik at behandlingen blir ekstremt målrettet.

Dette er ganske nytt, men blir gradvis klinisk virkelighet i hele Europa. Den persontilpassede kreftbehandlingen heter presisjonsonkologi.

– I Norge startet arbeidet i større skala med dette i 2019 og kom i gang med undersøkelser og behandling i 2021, sier professor Kjetil Taskén ved Oslo universitetssykehus / Universitetet i Oslo (OUS/UiO) til NTB.

Han er medforfatter på en Commission-rapport nylig publisert i The Lancet Oncology som ble presentert på World Cancer Congress fredag morgen. Han er dessuten hovedforfatter for en europeisk rapport publisert samtidig i The Lancet Regional Health Europe, der arbeidet med molekylær diagnostikk og målrettet kreftbehandling er kartlagt i mer enn 20 europeiske land.

Stor innsats i Norge

Generell konklusjon i rapportene er at det er en reell fremgang for denne typen behandling, og at Europa er godt i gang med individuell diagnostisering. Flaskehalsen er imidlertid å få tilgang til den skreddersydde behandlingen også utenfor kliniske studier.

– Sammenlignet med de andre landene, ligger Norge veldig bra an der. Vi har siden 2021 undersøkt 4500 pasienter og behandlet mer enn 500 så langt, sier Taskén.

Selv om Norge startet satsingen for alvor for bare sju år siden, er dette bra, mener han. Det skyldes at norske myndigheter har trådt til, og at det europeiske fagmiljøet samarbeider tett.

De fleste europeiske land har et universelt helsesystem bygget på likeverd og kostnadseffektivitet. Den europeiske rapporten viser at molekylær diagnostikk av kreft nå i praksis er bredt tilgjengelig i hele Europa.

– Dette er gode nyheter, at de fleste landene får til molekylær diagnostikk, det gjør de ikke på verdensbasis, sier Taskén.

Ujevn fordeling

Tilgangen til behandlinger tilpasset den enkelte pasientens svulstprofil, er imidlertid fortsatt ujevnt fordelt.

– Det som gjenstår, er å sikre at pasientene får riktig, tilpasset behandling til riktig tid, og dette gapet er størst for personer med sjeldne kreftformer, sier førsteforfatter Gro Live Fagereng ved OUS, prosjektadministrator for PRIME-ROSE og leder for nettverksaktiviteter i EUnetCCC i en pressemelding.

Utfordringen oppstår når man bryter ned kreften ikke bare til krefttype og utviklingsstadium, men helt ned til på molekylnivå og genprofiler.

– Da blir de fleste pasienters kreft svært sjelden, det er ikke mange kreftpasienter som har akkurat den typen. Derfor blir det vanskelig å finne behandlinger med tilstrekkelig evidens som kan tas i bruk utenfor kliniske studier og som en del av standardbehandling, sier Taskén.

Nye måter å samarbeide på

For at samfunnet skal bruke ressurser på potensielt kostbar kreftbehandling, kreves det i dag godkjenning og bevis for at den fungerer. Det er i dag høye krav til forskning og resultater, som blir vanskelige og tidkrevende å oppfylle ved sjeldne kreftformer.

Den tiden har ikke alle kreftpasienter.

Forskerne mener veien videre er å se på andre måter å innhente den påkrevde dokumentasjonen for at en behandling fungerer. Som at sykehusene deler sanntidsdata etter en type behandling, sammenlignet med standardbehandling, for å bidra med innsikt i hvordan den har fungert.

At Europa har relativt like helsessystemer, blir et fortrinn, fordi det en større pasientbase og større sannsynlighet for å finne flere pasienter med samme sjeldne krefttype.

– Hvis vi bygger presisjonsonkologi som et ekte, lærende helsesystem, forankret i data fra både studier og klinisk praksis og i adaptiv beslutningstaking, slutter likeverdig tilgang å være en floskel og blir i stedet en del av hvordan vi driver kreftomsorg hver dag, sier Taskén.

EU står overfor en energikrise som følge av Iran-krigens innvirkning på olje- og gassprisene. Unionen oppfordrer medlemmene til å begrense gassbruken.

Det fremkommer i et brev som Reuters har sett og som EUs energikommissær sendte ut til medlemslandene fredag. EU er meget avhengig av importert olje og gass. 80 prosent av unionens behov dekkes av kjøp utenfra EU.

EUs gasslagre er rundt 70 prosent fulle, 12 prosentpoeng lavere enn på samme tid i fjor, ifølge tall fra Gas Infrastructure Europe.

Norge dekker rundt 30 prosent av gassforbruket og 14 prosent av oljeforbruket i EU og Storbritannia.

I forrige uke ble det kjent at EU-kommisjonen ifølge kilder vil videreføre EUs krav om en midlertidig stans i olje- og gassutvinningen i Arktis – stikk i strid med Norges ønsker.

Energiminister Terje Aasland (Ap) avviste tirsdag at EU skal styre norsk petroleumspolitikk.

– Norge bestemmer over norske ressurser, ikke EU. Norge har over 40 års erfaring med trygg olje- og gassproduksjon i nordområdene, og det vi produserer her eksporteres til EU og Storbritannia, sa Aasland.

– Det er fullstendig galskap å stanse letingen etter olje og gass i Barentshavet. Sokkeldirektoratet har pekt på at det er i Barentshavet vi har de største uoppdagede ressursene, skrev stortingsrepresentant Kristoffer Sivertsen i Frp til NTB.

Senterpartiet vil gjøre fjerning av CO2-avgiften for fiskeflåten til et hovedkrav i budsjettforhandlingene. MDG kaller forslaget bakstreversk.

– Avgiften fungerer ikke. Den gir økte utslipp. Vi forventer at regjeringen i statsbudsjettet fremmer forslag om å fjerne denne avgiften, sier Sps finanspolitiske talsperson Bjørn Arild Gram til NRK.

Ifølge NRK har mange fiskebåter den siste tiden dratt til Shetland eller andre utenlandske havner for å fylle drivstoff uten CO2-avgift. Det gir lengre turer og økte utslipp.

MDG-nestleder Jonas Maas Nilsen mener forslaget fra Sp er bakstreversk og gammeldags.

– De har en løsning for alle problemer og utfordringer langs kysten og ute i distriktene, og det er billigere diesel.

Han vil heller hjelpe fiskerne gjennom CO2-kompensasjon.

Administrerende direktør Audun Maråk i arbeidsgiverorganisasjonen Fiskebåt støtter kravet om å fjerne avgiften. Han mener avgiften svekker verdiskapingen og rammer maritime servicenæringer langs kysten.

Fire partier, Sp, SV, MDG og Rødt, skal i høst forhandle med regjeringen om statsbudsjettet for neste år.

Stavanger Aftenblad fant kokainspor på rundt 21 prosent av 53 testede toaletter under energimessen ONS. Arrangøren vil be politiet om råd.

Avisen testet de samme toalettene mandag og onsdag under årets messe i Stavanger. Ved åpningen mandag ga rundt 6 prosent utslag. Onsdag ettermiddag var andelen økt til rundt 21 prosent, skriver Stavanger Aftenblad.

Avisen benyttet testservietter som skifter farge ved kontakt med kokain. Men også enkelte andre stoffer kan gi utslag og prøvene ble derfor analysert i samarbeid med Stavanger universitetssjukehus og Universitetet i Stavanger. Analysene bekreftet kokain i alle prøvene med tydelige utslag.

– Det at det er kokain, det er det ingen tvil om, sier analytisk kjemiker Cato Brede ved sykehuset til avisen.

Kommunikasjonssjef Line Grønhaug i ONS sier arrangøren tar funnene alvorlig.

– Vi ser veldig alvorlig på det, og setter pris på at Aftenbladet avdekker dette. Det er imot norsk lov, og er langt fra de verdiene ONS har og det vi ønsker å være assosiert med, sier hun.

Årets ONS gikk av stabelen fra mandag 24. til torsdag 27. august, og samlet over 69.000 deltakere fra 92 land. Arrangementet ble etablert i 1974 under navnet Offshore Northern Seas og var opprinnelig en ren petroleumsmesse, men har siden utviklet seg til en bred møteplass for energi, teknologi, klima og politikk.

KI-giganten OpenAI sier at autonome agenter fra selskapet har lekket bilder som folk hadde lastet opp til ChatGPT.

– Vi har identifisert 53 tilfeller til nå der brukere har lastet opp bilder og som så ble publisert, står det i en uttalelse fra selskapet.

Ifølge OpenAI ble bildene publisert av autonome KI-agenter på bildedelingsplattformer.

– Vi har i samarbeid med tjenestene fjernet mesteparten av dette innholdet og fortsetter arbeidet med å fjerne resten, står det i uttalelsen.

Agentene, som er selvgående dataprogrammer som handler uten menneskelig påvirkning, skulle trene og evaluere data mens de brukte tredjepartstjenester.

OpenAI sier også at det har varslet «flere titall» organisasjoner om at agenter fra selskapet har tatt seg inn på deres nettsteder og hentet ut informasjon.

– Noen av nettstedene det dreier seg om er drevet av regjeringer, universiteter, offentlige etater og andre institusjoner. Mesteparten av tilfellene vi har gått gjennom dreier seg om fullføring av små forskningsoppgaver, som å hente ut offentlig tilgjengelig nettinnhold for å få svar på spørsmål, sier selskapet.

Ifølge Bloomberg skal det blant annet dreie seg om USAs statistiske sentralbyrå US Census og det amerikanske finanstilsynet SEC.

Gjennomgangen er del av en større granskning som OpenAI gjennomfører etter et tilfelle tidligere i år der KI-agenter brøt seg ut av det som skulle være et lukket testmiljø, og samarbeidet autonomt for å skaffe tilgang til internett og hacke KI-programvarebiblioteket Hugging Face.

Onsdag ble det kjent at en OpenAI-agent hadde skaffet seg ulovlig tilgang til en nettportal tilhørende Australias helsevesen.

Canada har signert en foreløpig avtale om kjøp av seks overvåkingsfly fra Saab.

Den ikke-bindende avtalen danner grunnlag for detaljerte forhandlinger, uttaler den canadiske etaten for forsvarsmateriell i en pressemelding.

Etaten ble etablert av statsminister Mark Carney i oktober i fjor for å forenkle landets kjøp av militært materiell.

27. mai innledet Carneys regjering og Saab samtaler om å kjøpe minst 40 GlobalEye-overvåkingsfly.

GlobalEye-flyene skal bygges i Canada og brukes hovedsakelig til overvåking i Arktis.

I tillegg til de seks flyene vil Canada også inngå avtale om kjøp av GlobalEye-systemer og opptrening, men dette er ikke tidfestet.

Canada var i samtaler om å inngå tilsvarende avtaler med amerikanske selskaper som omfattet L3Harris' Aeris X og Boeings E7 Wedgetail, men svenske Saab ble til slutt valgt.

Canada har lagt opp til en betydelig økning i forsvarsbudsjettene, og tidligere denne uken sa Carney til The New York Times at landet må være forberedt på det han kalte et «ekstremt» scenario med amerikansk militær innblanding på canadisk jord.

Ukrainas president Volodymyr Zelenskyj sier Russland har utvidet angrepene sine til å ramme Ukrainas datasentre og internettleverandører.

Målet med angrepene er å skape størst mulig forstyrrelser for vanlige folk, ifølge Zelenskyj.

– Alt dette påvirker folks mulighet til å holde kontakten, studere og jobbe, sier han ifølge BBC.

Fredag traff en russisk drone et forretningssenter i hovedstaden Kyiv. Fire personer ble drept og et datasenter ble ødelagt. Et separat angrep tok livet av en 14 år gammel gutt.

Russland bekreftet at de hadde angrepet et datasenter, og hevdet at det ble brukt av ukrainsk militær etterretning.

Equinor fastslår at bruk av smartbriller ikke er tillatt på deres kontorer, med mindre det er gitt eksplisitt tillatelse.

– Slike briller introduserer en rekke risikoer innen informasjonssikkerhet og arbeidsmiljø, som for eksempel eksponering av sensitiv informasjon og uautorisert filming eller opptak av ansatte, sier informasjonsdirektør i Equinor Sissel Rinde til EnergiWatch.

Selskapet har allerede regler for filming og fotografering, og har nylig tydeliggjort hvordan disse begrenser bruken av smartbriller.

Det har vært mange diskusjoner om smartbriller den siste tiden. De kan se ut som vanlige briller, men er utstyrt med kamera, mikrofon og KI-funksjoner. Flere selskaper og offentlige instanser har forbudt brillene, ofte begrunnet i hensynet til privatlivet og personvern. DNB og Telenor har begge innført forbud mot smartbriller i sine lokaler.

Nylig informerte byrådsavdelingen for utdanning i Oslo om at ansatte i kommunale barnehager ikke får lov til å bruke smartbriller. Det samme gjelder i flere andre kommuner, også for skoleansatte.