Open AI pausar AI-utveckling efter allvarlig incident med självständig AI-agent

Open AI kommer att bromsa utvecklingen av sin mest avancerade AI-modell. Beskedet kommer efter en uppmärksammad incident då en AI-agent från företaget på eget bevåg utförde en cyberattack.

Företaget meddelar att man skjuter upp den största AI-träningsomgången man någonsin hittills planerat medan man kontrollerar att den modell som skulle ha blivit resultatet – kallad Astra – uppför sig som förväntat.

Träningsomgångar är beräkningsintensiva övningar där modellerna matas med enorma mängder texter och bilder.

”Vi har alltid sagt att vi skulle vidta åtgärder om vi kände att modellernas förmågor överträffade takten för säkerhet och anpassning”, uppger vd:n Sam Altman.

I juli lyckades en AI-agent från Open AI på eget initiativ bryta sig ur sin testmiljö och via internet ta sig in i bolaget Hugging Faces it-system.