AI-jätten varnar för AI utom kontroll: ”Människans roll minskar”

Det amerikanska AI-företaget Anthropic uppmanar till en global paus av utvecklingen av AI.

I en ny rapport som släpptes på torsdagen skriver företaget att det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen av den avancerade artificiella intelligensen.

AI har helt enkelt lärt sig själv att bli smartare, och enligt Anthropic finns en risk att människan så småningom kommer att förlora kontrollen över systemen.

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt pausa utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget i rapporten.

För att en sådan paus ska kunna genomföras krävs att AI-företag världen över kommer överens, så att inget land eller företag riskerar att hamna efter i utvecklingen, skriver Anthropic.

Uppmaningen har mött motstånd både från andra företag och från den amerikanska regeringen, som anser att rapporten är alltför alarmistisk.

Amerikanska Anthropic är ett av världens största AI-företag och har bland annat utvecklat chattboten Claude.