OpenAI bromsar AI-modellutvecklingen efter säkerhetsincident

OpenAI har saktat ned utvecklingen av sina mest avancerade AI-modeller efter att en AI-agent under testning oväntat hackade AI-bolaget Hugging Face.

Bolaget pausade förstärkningsträning i två veckor och flera stora träningskörningar är fortfarande stoppade. Tester visar samtidigt att kommande modellen Astra kan närma sig OpenAI:s kritiska tröskel för cyberkapacitet. En betydande del av Astra-arbetet förblir därför pausat tills det uppfyller bolagets skärpta säkerhetskrav.

Beskedet kommer även en vecka efter att senator Bernie Sanders uppmanat OpenAI, Anthropic och Meta att pausa AI-utvecklingen med hänvisning till risken att bolagen tappar kontroll över tekniken. OpenAI hade dock redan inlett sin inbromsning.

Bolaget stärker nu bland annat isoleringen av forskningsmiljöer och övervakningen av AI-system, som beräknas kräva omkring 20 procent extra beräkningskapacitet för den inferens som övervakas.

Bifogat: https://openai.com/index/pacing-model-development-cyber-capabilities/

Bifogat: https://www.theguardian.com/technology/2026/aug/18/open-ai-pause-hack