Anthropic advarer: KI er i ferd med å bli smartere uten hjelp fra mennesker
KI-selskapet Anthropic ber om en pause i utviklingen av de kraftigste KI-modellene, idet det er tegn til at de begynner å bli smartere uten menneskers hjelp.
Selskapet står bak Claude-modellene. I en ny rapport skriver Anthropic at det «antakelig hadde vært en god ting» om verdens KI-selskaper bremset opp utviklingen av de mest avanserte KI-variantene. Samtidig advarer de om at det ikke kun kan være ett selskap som tar initiativet – det ville kun ført til at rivalene benyttet muligheten til å rykke fra.
– Vi mener det hadde vært bra for verden å ha muligheten til å bremse eller midlertidig stanse banebrytende KI-utvikling, for å sørge for at samfunnets strukturer og tilpasningsforskning (alignment research) kan holde tritt med teknologiens framskritt, skriver Anthropic.
En slik pause vil kreve at KI-gigantene i en rekke ulike land – særlig USA og Kina – må bli enige om å stanse utvikling samtidig, med regler som faktisk kan prøves, påpeker de.