California-guvernøren krever nødknapp for KI
Californias guvernør Gavin Newsom har signert en ordre som krever utviklingen av en «nødknapp» for å skru av avanserte KI-modeller.
Bekymringer for sikkerheten rundt bruk av avanserte KI-modeller har fått mye oppmerksomhet de siste ukene. Diskusjonen har gått høyt om hvorvidt utviklingen går så raskt at bransjen ikke greier å følge opp med nødvendige sikkerhetstiltak.
Den startet med at to utviklere i selskapet Anthropic advarte om at teknologien utvikler seg så raskt at det kan føre til at menneskeheten utslettes innen få år.
– Jeg ga nettopp en ordre om å sette kraftig fart på implementeringen av uavhengig tilsyn med KI-selskaper og utviklingen av en nødknapp som kan stanse avanserte KI-programmer, skriver demokraten Newsom i en melding på X.
Han anklager samtidig president Donald Trump og Kongressen for å svikte på dette feltet.
