Nyhetsstudio

For to uker siden klarte en KI-modell å gjennomføre et reelt dataangrep for egen maskin. Nå har over 30 teknologigiganter inngått en avtale om sikkerhetssamarbeid.

Gruppen har fått navnet Open Secure AI Alliance, og blant medlemmene er Nvidia, Microsoft, IBM, Palantir, SpaceXAI, CrowdStrike, Cisco og Dell.

– Alliansens formål er å utvikle verktøy for cyberforsvar med kunstig intelligens som sikkerhetsteam kan inspisere, endre og kjøre på egne systemer, opplyser gruppen i en uttalelse mandag.

Det var selskapet Hugging Face som i forrige uke oppdaget at systemene deres var hacket uken før. Det viste seg å være KI-modeller fra OpenAI som sto bak.

Hendelsen er det første kjente tilfellet der en KI-modell på egen hånd gjennomførte et reelt dataangrep.

OpenAI opplyser at to KI-modeller opererte i et testmiljø hvor det ikke skal være mulig å få tilgang til internett, men at de slo seg sammen og ved hjelp av «betydelig datakraft brøt seg ut og nådde internettet».

Da Hugging Face forsøkte å stanse angrepet med amerikanske KI-modeller, blokkerte innebygde sikkerhetsmekanismer arbeidet. I stedet løste den kinesiske modellen GLM 5.2, fra Zhipu AI, problemet.