Ledande AI-chefer uppmanar FN till gemensam strategi för säker teknik

Sam Altman och Dario Amodei vill se att världens ledare går samman för att säkerställa en säker användning av AI-teknkiken. Det var budskapet från de två cheferna för Open AI respektive Anthropic när de talade inför FN:s säkerhetsråd.

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade Altman till säkerhetsrådet sent på onsdagskvällen.

Liknande tongångar hördes från Amodei, som nyligen varnade för att AI-teknologin nu besitter förmågan att förbättra sig själv, vilket kan leda till människans förmåga att förstå och kontrollera systemen blir ifrånsprungen.

Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor.

Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. Delangue använde dock delar av sin talartid till att varna för att överreagera på den sortens händelser.

– Vi har en tydlig uppfattning om att narrativ grundade i rädsla inte är vägen framåt vad gäller att ta de rätta besluten om framtiden för en sådan central och möjlighetsskapande teknologi.

– Vi attackerades av AI, men vad viktigare är, att vi försvarade oss med hjälp av AI.