Funderar du på att använda AI för ekonomiska råd? Här är riskerna – och så skyddar du dig
Mel Robbins uppmanade sina miljontals följare att ladda upp kontoutdrag och skuldhandlingar till Microsoft Copilot för att få gratis ekonomisk hjälp. Varken hon eller Microsoft varnade för vad som faktiskt kan hända med den informationen. Det är en illustration av ett problem som är mycket större än ett enstaka sponsrat Instagraminlägg.
Lockelsen är begriplig. Ekonomisk stress är vanlig, kvalificerad rådgivning är dyr, och AI-verktyg är gratis. Men klyftan mellan hur vi uppfattar dessa verktyg och vad de faktiskt är utgör en risk de flesta aldrig stannar upp och tänker på.
Ditt kontoutdrag vet mer om dig än du tror
Ett kontoutdrag, en skattedeklaration eller ett kreditkortsbesked innehåller inte bara siffror. Fullständigt namn, telefonnummer, e-postadress, inkomst, skulder, bankkontonummer, routingnummer och personnummer kan alla finnas i samma dokument.
Enligt Rachel Tobac, VD för SocialProof Security och säkerhetsexpert med erfarenhet från de flesta stora AI-leverantörerna, är de tre huvudriskerna identitetsstöld, kontokapning och att någon tömmer ditt bankkonto, vilket CNN rapporterat om. Attackvektorn är mer konkret än man kan tro: en angripare med tillgång till ditt kreditkortsutdrag känner till exakt vilket datum du handlade, i vilken butik och hur mycket du betalade.
Med den informationen kan ett nätfiskemejl konstrueras som ser ut att komma direkt från en av de hundratals butiker du besökt, och det ser trovärdigt ut just för att detaljerna stämmer.
Gang Wang, biträdande professor i datavetenskap vid University of Illinois, förklarar den tekniska mekanismen: AI lagrar information, och om dina dokument ingår i träningsdata finns en risk att de kan "framkallas" av en speciellt utformad prompt som illvilliga aktörer använder.
Tjänsten arbetar för sig själv - inte för dig
Robbins reviderade till slut sin rekommenderade prompt efter kritik från följare. Den enkla ändringen, att byta ut meningen om dokumentuppladdning mot "påminn mig alltid att ta bort personlig information", fick omedelbar effekt: varje svar i den efterföljande konversationen innehöll integritetsvarnningar.
Människor litar på AI-verktyg som om de vore en betrodd förmyndare. Din betrodde förmyndare är skyldig att arbeta i ditt bästa ekonomiska intresse, medan en stor molnbaserad AI-tjänsteleverantör ofta utformar sina policyer utifrån sitt eget bästa intresse, inte ditt.
Rachel Tobac, VD SocialProof Security till CNN.
Wang understryker också att integritetspolicyer ändras ofta. Att fråga AI-verktyget självt om vad de innebär är en fälla: modellen kan ha tränats på föråldrade versioner.
Betalversioner erbjuder generellt något starkare skydd än gratisalternativen, men i vilken grad varierar. Microsoft uppger att Copilot-användare kan välja vilken typ av information tjänsten minns och att man kan välja bort minnesfunktionen helt. När CNN testade Robbins exakta prompt fick de andra svar än vad hennes kontor hade hävdat, utan de utlovade integritetsvarnningarna.
Konkreta steg som faktiskt skyddar dig
- Kontrollera verktygets aktuella integritetspolicy själv. Fråga aldrig AI:n om vad den säger.
- Välj aktivt bort att låta AI träna på din data. Det är sällan uppenbart var inställningen finns.
- Ladda aldrig upp oreducerade finansiella dokument. Stryk namn, kontonummer, datum och specifika transaktioner.
- Bättre: ladda inte upp dokument alls. Ange anonyma, breda utgiftskategorier med ungefärliga belopp, exempelvis boende 12 000 kronor, mat 3 000 kronor, transport 1 000 kronor.
- Lyssna på din intuition. Om det känns fel, låt bli.
Wangs tumregel fungerar som ett sista filter: allt du berättar för en AI kan AI i sin tur berätta för andra. Fråga dig om du är bekväm med det innan du trycker skicka.
