OpenAI överväger att bromsa utvecklingen av avancerad AI
OpenAI överväger att sänka takten i utvecklingen av den mest avancerade AI-tekniken och vd Sam Altman hoppas på en samordnad inbromsning med andra AI-bolag. Det rapporterar Bloomberg News med hänvisning till källor.
Altman ska vid ett internt möte ha sagt att flera AI-laboratorier potentiellt kan komma överens om att begränsa utvecklingstakten, även om vissa aktörer kan välja att stå utanför.
OpenAI har redan bromsat delar av modellutvecklingen och pausat viss intern AI-träning av säkerhetsskäl. Bolagets forskningschef Jakub Pachocki har förespråkat frivilliga inbromsningar tills branschen har etablerat gemensamma säkerhetskrav. Altman uppgav i juli att han även diskuterat behovet av att kontrollera utvecklingstakten med företrädare för Vita huset.
Debatten har intensifierats efter att AI-forskaren Jacob Coxon i veckan lämnade sitt arbete och anklagade både OpenAI och Anthropic för att ta alltför stora risker i jakten på superintelligent AI. Både OpenAI och Anthropic har tidigare i år lämnat in konfidentiella handlingar inför möjliga börsnoteringar.
Laddar kommentarer…