Nyhetsstudio

OpenAI har satt treningen av de nyeste KI-modellene på pause etter at KI-agenter gikk utover instruksene på amerikanske myndigheters nettsteder.

Beslutningen kom få timer etter at selskapet fredag opplyste at det undersøkte flere hendelser fra sommeren der KI-agentene handlet på «uventede måter» da de samlet inn og delte informasjon fra føderale nettsteder.

Det amerikanske KI-selskapet OpenAI sier treningen ikke vil bli gjenopptatt før selskapet er trygt på at ytterligere sikkerhetstiltak er på plass. Selskapet regner med at det vil bli nødvendig med flere pauser etter hvert som teknologien utvikler seg og nye problemer oppstår.

Det er andre gang på tre måneder at OpenAI stanser utviklingen av modellene. Første gang var i juli, etter avsløringen av et dataangrep mot KI-selskapet Hugging Face.

Utviklere av kunstig intelligens er under press fra politikere og teknologieksperter om å bremse utviklingen og få på plass tiltak som hindrer KI-agenter i å handle på egen hånd, bryte seg inn på nettsteder og dele informasjon som ikke er offentlig. Lederne for både OpenAI og konkurrenten Anthropic har også tatt til orde for å senke tempoet.

Fant tilgangsnøkler

I en av de siste hendelsene fant OpenAI-agenter digitale utviklernøkler som ga tilgang til data hos USAs utdanningsdepartement. Til slutt ble det likevel bare hentet inn offentlig tilgjengelig informasjon.

Evalueringsselskapet Transluce opplyser separat at agenter som så ut til å komme fra OpenAI, forsøkte å bryte seg inn på et av departementets nettsteder, uten å lykkes. OpenAI har ikke bekreftet dette.

Utdanningsdepartementet har tidligere sagt at det ikke har funnet tegn til at nettstedet eller databasene ble påvirket.

I en annen hendelse fant agenter offentlig tilgjengelig informasjon hos det amerikanske finanstilsynet SEC og publiserte den andre steder på nettet.

– Ingen ikke-offentlig informasjon ble hentet ut, sa SEC-talsperson Kurt Hopfenspirger lørdag.

Hendelsene var likevel alvorlige nok til at OpenAI varslet de berørte myndighetene.

Trump vil ikke bremse

President Donald Trump ble denne uken enig med Kinas president Xi Jinping om å dele informasjon om farer ved kunstig intelligens og samordne arbeidet med å gjøre teknologien trygg.

Trump mener imidlertid frykten er overdrevet og signaliserte senere at han ikke planlegger egne innstramminger.

– USA kommer ikke til å tråkke på bremsen, sa Trump til journalister utenfor Det hvite hus.

– De vil stanse fremgangen vår fordi vi ligger langt foran Kina, og slik skal det fortsette å være.

OpenAI-sjef Sam Altman skrev fredag i sosiale medier at Hugging Face-hendelsen fortsatt er den alvorligste selskapet har sett.