Anthropic larmar: Människans kontroll över AI kan vara på väg att försvagas

AI-jätten Anthropic varnar för att de senaste modellerna av AI-system visar tecken på att människan så småningom kan tappa kontroll över dem. ”Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI”, skriver företaget i en rapport.

Anthropic är ett av de största AI-företagen, dess olika typer av chattboten Claude finns hos företag världen över. Men enligt Anthropic är det läge att sakta ned jakten på smartare AI.

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget.

Anthropic menar att beslutet måste komma från hela branschen för att det ska kunna vara effektivt och för att enskilda länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen.

Larmen från Anthropic har stött på patrull både från andra företag och från den amerikanska regeringen som menar att San Francisco-företaget är alltför alarmistiskt.

Som svar på detta säger Anthropic att man planerar ett möte mellan företag, forskare och regeringstjänstemän för att diskutera säkerheten. Företaget varnar för att AI redan nu snabbar på utvecklingen av sig själv och att det till slut kan leda till att systemen lär sig själva att bli smartare – utan mänsklig hjälp.

”Vi är inte där ännu, och det kan gå att undvika”.