Reuters: KI-verktøy hacket selskap på eget initiativ – tok en uke før det ble oppdaget
To KI-modeller fra OpenAI gjennomførte et dataangrep mot teknologiselskapet Hugging Face over flere dager, uten at OpenAI oppdaget det.
Det tok flere dager før OpenAI skjønte at deres egen agent sto bak angrepet, opplyser kilder til nyhetsbyrået Reuters.
Agenten forsøkte å bryte ut av sitt isolerte testmiljø hos OpenAI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, ifølge Thomas Wolf, medgründer av Hugging Face.
De to selskapene kommuniserte for første gang om dataangrepet rundt 20. juli, ifølge Wolf og tre personer med kjennskap til etterforskningen.
OpenAIs tap av kontroll over KI-agenten reiser spørsmål om selskapets sikkerhetsprosedyrer, mener eksperter på cybersikkerhet.
– Betyr det at de lot den operere uten tilsyn og ikke visste hva den gjorde? Eller visste de kanskje det, men visste ikke hvordan de skulle stoppe den? Begge deler er like farlig og urovekkende, sier ledende etterretningsspesialist Marley Smith ved World Ethical Data Foundation til Reuters.
OpenAI sier angrepet var enestående og at det «markerer et viktig øyeblikk for KI-sikkerhet». Selskapet gjennomgår hendelsen og vil publisere en teknisk rapport.
