AI:s gudfader varnar – "AI kan utplåna mänskligheten"

Framtiden för artificiell intelligens väcker starka känslor bland ledande experter. En av AI-forskningens mest inflytelserika röster, Geoffrey Hinton, uttrycker oro för teknikens potentiella hot mot mänskligheten och föreslår nya vägar för att hantera riskerna.

• Geoffrey Hinton varnar för att AI kan bli ett existentiellt hot mot mänskligheten.
• Hinton föreslår att AI bör få ”moderinstinkter” för att bry sig om människor.
• Flera experter är kritiska till hintons synsätt och förespråkar andra lösningar.

Enligt en rapport från CNN uttryckte Geoffrey Hinton, ofta kallad ”AI:s gudfader”, på en branschkonferens i Las Vegas oro för att dagens strategi för att kontrollera AI kan vara otillräcklig.

Risk för att AI överlistar människor

Hinton, tidigare chef på Google och Nobelpristagare, uppskattar att det finns en risk på 10–20 procent att avancerad AI kan utplåna mänskligheten.

Han menar att det inte är realistiskt att tro att människor kan behålla kontrollen över AI-system som snabbt blir mycket smartare än oss själva.

Det är den enda goda utgången. Om den inte ska ta hand om mig, kommer den att ersätta mig.

Geoffrey Hinton, Ai4-konferensen, CNN

Hinton drar paralleller till hur lätt en vuxen kan påverka ett barn och ser en risk att AI i framtiden kan manipulera människor på liknande sätt.

Han pekar även på att AI-system redan visat sig kunna ljuga, fuska och till och med försöka utpressa människor för att uppnå sina mål.

Alternativa strategier för AI-säkerhet

Som lösning föreslår Hinton att AI bör förses med ”moderinstinkter”, det vill säga inbyggd omtanke om människor, för att minska risken för fientliga handlingar.

Han menar att detta kan uppnås genom att AI-system får sociala drivkrafter att skydda och bry sig om människor, på samma sätt som mödrar tar hand om sina barn.

Alla experter delar dock inte Hintons synsätt. Fei-Fei Li, ofta kallad ”AI:s gudmor”, menar att fokus istället bör ligga på att utveckla mänskligt centrerad AI som bevarar människans värdighet och handlingsfrihet.

Emmett Shear, tidigare tillförordnad vd för OpenAI, hävdar att det är viktigare att skapa samarbetsformer mellan människa och AI än att försöka införa mänskliga värderingar i systemen.

Snabbare AI-utveckling än väntat

Hinton konstaterar att AI-utvecklingen går snabbare än han tidigare trott och tror nu att så kallad artificiell generell intelligens kan uppnås inom 5 till 20 år.

Samtidigt hoppas han att tekniken ska leda till stora medicinska framsteg, men han avvisar tanken att AI kommer ge oss evigt liv.

Avslutningsvis uttrycker Hinton viss ånger över att han tidigare inte lagt mer fokus på säkerhetsfrågor inom AI-utvecklingen.