Varning utfärdas: Så kan du bli lurad av "AI-kändisar"

AI-genererade deepfakes används nu för att lura investerare genom falska rekommendationer från kända ansikten. Dessa filmer sprids snabbt på sociala medier, vilket ökar risken för bedrägerier. Myndigheter och företag måste agera för att skydda konsumenter.

• Kändisar används i AI-genererade filmer för att lura investerare.
• Tekniken utvecklas snabbt och blir allt svårare att identifiera.
• Myndigheter och plattformar uppmanas att agera kraftfullare.

I ett färskt inlägg Nordnetbloggen skriver Frida Bratt, sparekonom på Nordnet, att  används AI för att skapa filmer där kändisar som Måns Zelmerlöw och Adam Gerge framstår som förespråkare av olika investeringar.

Dessa deepfakes, som ofta sprids på sociala medier, syftar till att lura människor att lämna ifrån sig sina kontaktuppgifter och investera i fejkade möjligheter.

AI-teknikens snabba utveckling

Tekniken bakom dessa filmer är fortfarande inte perfekt, vilket gör att tränade ögon kan upptäcka felen. Men utvecklingen går snabbt framåt, och snart kan de bli svårare att genomskåda.

Det handlar om AI-genererade filmer, så kallade deepfakes. Tekniken är ännu inte perfekt.

Frida Bratt, Nordnetbloggen

Det finns en oro för att deepfakes snart kan bli så realistiska att det blir svårt även för ett erfarna ögon att avgöra om filmerna är fejk. Detta ökar risken för att fler människor blir lurade, menar hon.

Finansprofiler utnyttjas i investeringsbedrägerier på sociala medier

Under sommaren har vi även i Di kunnat läsa om falska annonser med Christer Gardell och Claes Hemberg som sprids på Facebook och Instagram, där deras namn och bilder används för att locka användare till bluffade AI-investeringar. Trots polisanmälningar och upprepade varningar till Meta ligger annonserna kvar på plattformarna.

Enligt Gardell är orsaken att Meta tjänar pengar på annonserna, vilket minskar incitamentet att agera, säger han till Di.

Behovet av ökat ansvar och åtgärder

För att motverka dessa bedrägerier behöver både sociala medie-plattformar och myndigheter agera kraftfullare. Plattformarna har ett stort ansvar eftersom de är den primära spridningskanalen för dessa filmer, anser Frida.

Finansinspektionen har redan varnat för deepfakes i samband med investeringsbedrägerier, men frågan är om de når ut till de mest sårbara grupperna. Det krävs ett samlat grepp från samhället för att effektivt motverka dessa nya former av bedrägerier.