OpenAI dropper planer om erotisk chatbot
Selskapet OpenAI utsetter på ubestemt tid sine planer om å tilby KI-generert erotisk innhold.
Det opplyser selskapet selv torsdag. Ifølge avisa Financial Times har både investorer og ansatte vært bekymret for konsekvensene av planene.
To ikke navngitte kilder sier til avisa at det har vært utfordrende å trene den seksuelt eksplisitte versjonen av prateroboten ChatGPT. Noen av utfordringene skal være knyttet til bruk av treningsdata med seksuelt innhold.
Det var i fjor høst at OpenAI varslet at de ville tillate seksuelle samtaler for voksne brukere av ChatGPT. Toppsjef Sam Altman sa at de ville «behandle voksne brukere som voksne».
Siden den gang har konkurrenten xAI fått mye kritikk for seksuelt innhold generert av KI-verktøyet Grok. Bakgrunnen er noen brukere laget nakenversjoner av bilder av virkelige personer. Torsdag sluttet Nederland seg til landene som har forbudt Grok. En domstol i Amsterdam sier forbudet gjelder inntil tjenesten slutte å lage og spre seksualisert innhold uten samtykke
I januar varslet EU gransking av Grok siden verktøyet var blitt brukt til å lage KI-genererte overgrepsbilder av barn.