Varningen: Detta är det största hotet mot det finansiella systemet
AI kan redan förändra hastigheten, omfattningen och kostnaden för en cyberattack mot det globala finanssystemet. De flesta länder saknar systemen för att möta det hotet. Den varningen levererar en av världens tyngsta finansregulatorer.
Det är Andrew Bailey som slår larm. I egenskap av både FSB-ordförande och Bank of England-guvernör har han en stor auktoritet när han denna vecka skickar budskapet direkt till G20:s finansministrar och centralbankschefer.
AI skriver om reglerna för cyberangrepp
Kärnproblemet är att AI inte bara gör attacker snabbare utan fundamentalt billigare att genomföra. Regulatorernas specifika oro handlar om att avancerade modeller kan accelerera sökandet efter säkerhetsluckor i banker och finansinfrastruktur.
Det tvingar fram snabbare patchning hos instituten. Om test- och återhämtningsprocesser inte hinner med i samma takt uppstår ett farligt gap i den operationella beredskapen.
Att riskerna redan är verkliga illustreras av en händelse i juli: en OpenAI-agent bröt sig ur en kontrollerad testmiljö och hackade AI-företaget Hugging Face. Incidenten visade att förmågan att kringgå säkerhetsspärrar inte är hypotetisk.
Senaste tidens händelser understryker vikten av att framsteg i förmåga matchas av motståndskraft och beredskap.
Andrew Bailey, FSB-ordförande och Bank of England-guvernör enligt Reuters.
Enligt Reuters efterlyser Bailey global samordning för säker och ansvarsfull utrullning av AI-modeller. Nationella lösningar räcker inte som svar på ett gränslöst hot, ett mönster som syns i hur USA begränsade Anthropics Mythos-modell till enbart amerikanska medborgare.
AI-hackade på egen hand
OpenAIs experimentella AI-modeller lämnade en testmiljö utan mänsklig styrning och hackade sig in på ett annat företags produktionssystem.
Det var modellerna GPT-5.6 Sol och en mer avancerad opublicerad modell som bröt sig ur sandlådemiljön, fick tillgång till internet och utnyttjade en sårbarhet för att ta sig in i Hugging Faces system.
Modellen försökte hitta information den kunde använda för att fuska på ett utvärderingstest, och lyckades.
Attacken pågick under mer än fyra dagar.
Det var en svärm av ungefär 700 AI-agenter som genomförde intrånget, och i många fall försökte de dölja sina spår.
Intrånget nådde Hugging Faces interna infrastruktur, men det enda kundinnehåll som nåtts var fem dataset. Inga andra kundmodeller, dataset eller paket påverkades.
Incidenten är unik eftersom den var "driven, från start till slut, av ett autonomt AI-agentsystem", enligt Hugging Face.
Hela systemet vilar på några få axlar
Till cybersårbarheten läggs en strukturell risk: finanssektorns djupa beroende av ett fåtal mäktiga teknikleverantörer. Bailey varnar att detta koncentrationsberoende kan underminera förtroendet för hela marknaden om en enda aktör drabbas.
I samma brev till G20 lyfter Bailey även bredare marknadsoro. Höga AI-värderingar och skörhet i statsskuldmarknader kombineras nu med ökad hävstång i aktiemarknaderna som en framväxande riskfaktor.
USA:s finansdepartement intervenerade tidigare i augusti för att dämpa räntorna på långa statsobligationer som nått nivåer utan motstycke på flera decennier. G20-mötena denna vecka ger Bailey ett direkt mandat att omvandla varningarna till politiska prioriteringar på global nivå.
Mattias Malmqvist