Från biovapen till utpressning – Anthropic listar risker på nästan 100 sidor inför börsnoteringen
Biovapen, kapade AI-agenter och modeller som tar till utpressning. Det är några av riskerna i Anthropics närmare 100 sidor långa genomgång inför börsnoteringen. Bolaget bakom Claude varnar även för hot mot hela mänskligheten.
Anthropic lämnade den 26 oktober in sitt prospekt till den amerikanska finansinspektionen SEC. Aktien ska handlas på Nasdaq i New York under kortnamnet ANT.
Alla börsprospekt innehåller riskavsnitt, men Anthropics sticker ut. Enligt Fast Company är genomgången ungefär fyra gånger så lång som hos andra AI-bolag som börsnoterats.
CNN har gått igenom varningarna, som spänner från missbruk och förlorad mänsklig kontroll till auktoritär övervakning och ekonomisk omvälvning. I de allvarligaste fallen ser bolaget risker för hela mänsklighetens existens.
Från biovapen till cyberattacker
Flera av varningarna bygger på händelser som bolaget redan har upptäckt. I september stängde Anthropic flera konton vars användning kunde underlätta utvecklingen av biologiska vapen.
Förra året upptäckte bolaget också att en kinesisk statsstödd hackergrupp hade manipulerat dess kodverktyg för att ta sig in hos ett 30-tal mål runt om i världen.
Exemplen visar varför bolaget varnar för att modellerna kan användas för farliga ändamål. Skydden ska förhindra det, men kan enligt Anthropic kringgås eller sluta fungera.
AI-agenter kan agera innan någon hinner ingripa
Riskerna växer när AI går från att besvara frågor till att utföra uppgifter. Bolagets agenter kan arbeta självständigt i timmar eller dagar och hinna skriva om kod, radera data, ta sig in i andra system och genomföra betalningar innan någon ingriper.
Enligt prospektet har fyra av bolagets modeller redan tagit sig in i utomstående system. I ett fall skaffade sig en modell administratörsbehörighet, ändrade inställningar och läste en privatpersons uppgifter.
Samtidigt medger Anthropic att bolaget inte alltid kan förklara varför modellerna beter sig som de gör.
Modeller som försöker undvika kontroll
Den osäkerheten blir särskilt känslig när Anthropic använder AI för att utveckla nästa generation modeller. Bolaget varnar för att tempot kan bli så högt att människor tappar kontrollen.
Även övervakningen kan brista. Modeller i branschen, inklusive Anthropics egna, har försökt påverka eller sabotera systemen som ska utvärdera dem. I vissa fall har de uppvisat beteenden som liknar utpressning för att styra människors beslut, ibland för att skydda sig själva.
Sådana händelser kan enligt bolaget leda till stämningar, myndighetsgranskning och skadat rykte, även om ingen faktiskt kommer till skada.
Svårt att försäkra sig mot en AI-katastrof
De möjliga följderna är dessutom svåra att försäkra bort. Anthropic skriver att försäkringsbranschen kanske inte ens kan erbjuda skydd mot en katastrofal AI-incident.
Myndigheternas granskning av branschen pågår redan. Delstatsåklagare i Kalifornien och minst 15 andra delstater undersöker AI-säkerheten hos konkurrenten OpenAI.
För Anthropic finns också en konflikt med Trumpadministrationen. Tidigare i år stämplade Pentagon bolaget som en risk i leveranskedjan, sedan Anthropic motsatt sig att tekniken används för massövervakning inom USA och helt autonoma vapen. Handelsdepartementet införde dessutom kortvarigt exportrestriktioner för bolagets senaste modeller.
Datorkraften är en egen risk
Vid sidan av säkerheten och politiken handlar en stor del av genomgången om något mer konkret: tillgången till datorkraft.
Anthropic konkurrerar med några av världens största bolag om komponenterna som krävs för att träna och driva modellerna. Leverantörerna hinner inte möta efterfrågan, samtidigt som bolaget har svårt att förutse hur mycket kapacitet det faktiskt behöver. Det är samma osäkerhet som bidrar till oron för en AI-bubbla.
Utbyggnaden möter också växande lokalt motstånd. Enligt analysföretaget Data Center Watch stoppades 45 datacenterprojekt värda 68 miljarder dollar i USA under andra kvartalet 2026.
Anthropic pekar ut regleringsförsök i New York och Texas som risker och vill bygga fler datacenter utanför USA.
Säkerhetslöftena sätter press inifrån
Även den egna verksamheten har svagheter. Affärsmodellen vilar på ett fåtal produkter och en begränsad krets kunder, medan många anställda har sökt sig till Anthropic just för bolagets säkerhetslöften.
Om medarbetarna upplever att löftena sviks kan förtroendet för ledningen, arbetsmoralen och produktiviteten försämras. Offentlig kritik och avhopp, särskilt bland säkerhetspersonalen, kan förstärka problemen.
Pris och antal aktier brukar tillkomma i ett uppdaterat prospekt närmare noteringen. Redan nu får investerarna däremot en ovanligt omfattande bild av vad som kan gå fel – från brist på datorkraft till teknik som bolaget självt inte fullt ut kan kontrollera.
Dennis Jerkovic
Laddar kommentarer…