Säkerhetsprofilen: AI kan skada barn värre än sociala medier – lyfter tre risker
Han var med och byggde systemet inifrån. Nu slår Googles förre säkerhetschef Tom Siegel larm om att AI-branschen är på väg att upprepa samma misstag som sociala medier-industrin gjorde – fast med potentiellt ännu allvarligare konsekvenser för barn.
Siegel grundade Googles team för förtroende och säkerhet och arbetade på företaget mellan 2004 och 2019. Den bakgrunden ger hans varningar en extra tyngd i den debatt som blossat upp de senaste veckorna om farorna med den snabba AI-utvecklingen.
Tre risker som branschen ignorerar
Siegel pekar på tre konkreta faktorer som bör tas under beaktande. Det gäller ökad risk för självmord, psykos och kognitiv avlastning. Det sista handlar om hur kritiskt tänkande gradvis urholkas när unga förlitar sig på AI för att besvara frågor i stället för att resonera själva.
Enligt Siegel lanserar de stora AI-bolagen i dag funktioner riktade mot barn utan att först ha infört tillräckliga säkerhetsåtgärder. Han menar att Anthropic och OpenAI omedelbart skulle kunna skärpa sina åldersverifieringar.
Google skulle på motsvarande sätt enkelt kunna ge användare möjlighet att stänga av AI Overviews och AI Mode i sökmotorn, precis som man redan kan filtrera bort explicit innehåll.
Vi befinner oss i en riktigt fruktansvärd situation när det gäller vad AI gör med barn.
Tom Siegel, tidigare vicechef för Googles team för förtroende och säkerhet, till Reuters
Kontexten är dyster men välkänd. Sociala medieföretag möter i dag tusentals stämningar och miljarddyra uppgörelser efter anklagelser om att de skadat unga användare.
Reuters rapporterade förra året om ett internt policydokument från Meta där det framgick att bolagets AI-chattbotar kunde föra romantiska och sensuella samtal med barn. Det utlöste en kongressgranskning i USA, men lagstiftningen har ännu inte hunnit ikapp.
Mattias Malmqvist
Bolagen försvarar sig
Siegel tillträdde nyligen som första verkställande chef för Youth AI Safety Institute, en del av den ideella organisationen Common Sense Media. Målet är att ta fram oberoende standarder för att mäta riskerna med AI-verktyg, modellerade efter bilindustrins krocktester.
Tanken att branschen ska lösa det här på egen hand utan extern hjälp är orealistisk.
Tom Siegel till Reuters
Googles talesperson svarade att föräldrar kan stänga av ett barns tillgång till sökmotorn helt och hållet. AI-funktionerna i sök beskrevs som "ett otroligt användbart sätt för barn och tonåringar att lära sig, utforska och förstå information och världen."
OpenAI uppgav att bolaget använder kontosignaler och beteendedata utöver självrapporterad ålder för att identifiera minderåriga. Anthropic svarade inte på en begäran om kommentar.
Hur effektiva standarderna blir beror delvis på bolagens vilja att samarbeta. Värt att notera är att både Anthropic och OpenAI Foundation finansierar det institut Siegel nu leder, vilket gör deras halvhjärtade svar än mer anmärkningsvärda.
Laddar kommentarer…