Anthropics vd varnar: AI-racet kan gå för snabbt för samhället

Utvecklingen av AI måste bromsas. Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar.

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN.

Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” och AI-teknologin besitter nu förmågan att förbättra sig själv.

”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet, om alls”, skriver han vidare.

Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen.

AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt.

”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X.