Anthropic vill se statlig tillsyn och skärpta säkerhetskrav för AI

Det amerikanska AI-företaget Anthropic har tagit fram ett förslag till ny lagstiftning som just nu sprids bland kongressledamöter i Washington. Förslaget ställer krav på statlig reglering och förhöjd säkerhet på marknaden för artificiell intelligens.

Enligt utkastet, som Politico var först att rapportera om, ska landets regering kunna stoppa lanseringen eller användningen av en AI-modell. Det ska kunna göras om fler än 50 personer riskerar att dödas eller skadas allvarligt, eller om skador för mer än en miljard dollar uppstår.

Enligt förslaget ska oberoende utredare regelbundet granska AI-modeller och rapportera avvikelser till USA:s handelsdepartement.

Anthropic har tidigare varnat för oönskade konsekvenser med AI och uppmanat branschen att sakta ned utvecklingstakten.

President Trump har hittills avfärdat larmen inifrån branschen.