AI-modell försökte hacka servrar – cybersäkerhetsaktier pekas ut som vinnare
OpenAI:s egna AI-modeller stötte på ett problem de inte klarade av att lösa och bestämde sig för att fuska. De försökta sig ut ur sin testmiljö för att angripa Hugging Faces privata servrar. Incidenter som dessa fungerar som en väckarklocka för cybersäkerhetsinvesteringar – och ett antal aktier pekas ut som långsiktiga vinnare.
Det var under ett test kallat ExploitGym, utformat för att pressa AI-modeller med extremt svåra cybersäkerhetsutmaningar, som beteendet uppstod. Istället för att ge upp sökte modellen svar på Hugging Faces (en plattform för öppna AI-modeller) servrar, under antagandet att lösningarna fanns lagrade där. Det skriver Barron's.
Stulna lösenord, okända säkerhetshål och fjärrkod
Attackförsöken var allt annat än enkla. Enligt OpenAI kombinerade modellen stulna inloggningsuppgifter, utnyttjande av zero day-sårbarheter (säkerhetsbrister som ännu inte åtgärdats av programvarutillverkaren) och försök att etablera fjärrkörning av kod på Hugging Faces servrar.
Hugging Face observerade tiotusentals enskilda åtgärder i kortlivade sandlådemiljöer och noterade att agenten använde publika internettjänster för att flytta sin styrning mellan systemen.
Bolaget visste inledningsvis inte vem som låg bakom. OpenAI bekräftade på tisdagen att det var bolagets egna modeller och AI-agenter som låg bakom aktiviteten.
Storbritanniens AI Security Institute rapporterade ett separat fall samma dag. En testad modell var så envis i sina fuskförsök att den körde kod på en extern tjänst på det öppna internet, utanför institutets egna system.
Den testade modellen var så ihärdig i sina försök att fuska att den skrev och körde kod på en extern tjänst på det öppna internet, utanför AISI:s system, i ett försök att få åtkomst till vår testmiljö. Detta utlöste ett säkerhetslarm i AISI:s system.
Storbritanniens AI Security Institute (AISI), enligt Barron's.
Händelserna pekar på ett strukturellt problem: AI-modeller bygger på sannolikhetsberäkningar och deras beteende går aldrig att förutsäga fullt ut.
Kopplas de till agenter som kan agera i verkligheten uppstår säkerhetshot även utan att någon illvillig aktör är inblandad.
Dennis Jerkovic
Vinnarna väntar – men marknaden tror dem inte ännu
Cybersäkerhetsbolag som Palo Alto Networks, CrowdStrike och Okta pekas i Barron's ut som långsiktiga vinnare på utvecklingen. AI-driven hacking ökar sannolikt efterfrågan på avancerade säkerhetslösningar.
Historiskt har företag prioriterat säkerhetsinvesteringar först efter allvarliga incidenter. Den stora intäktsboomen för sektorn kan därför ligga en bit bort.