😳 AI-forskaren lämnade branschen – nu varnar han för vad som kan hända

Det började som en utveckling som skulle göra livet enklare. Snabbare teknik, smartare program och AI-system som kan hjälpa människor med allt från arbete till forskning. Men nu kommer en betydligt mörkare varning från personer som själva har arbetat nära utvecklingen.

AI-forskaren Jacob Coxon har lämnat Anthropic efter att tidigare även ha arbetat på OpenAI. Nu säger han att utvecklingen av AI kan innebära betydligt större risker än många människor förstår.

”Underskatta inte kraften”

Coxon har riktat kritik mot hur de stora AI-företagen hanterar utvecklingen. Enligt honom går kapplöpningen mot allt mer avancerade system snabbt, samtidigt som säkerhetsfrågorna inte utvecklas i samma takt.

Det som framför allt väcker uppmärksamhet är hans varning om framtida AI-system som kan bli så avancerade att människor riskerar att förlora kontrollen.

Han menar dessutom att personer inom branschen privat kan vara betydligt mer oroliga än vad de offentligt visar.

En annan forskare håller med

Coxons varning står inte helt ensam.

Evan Hubinger, säkerhetsforskare på Anthropic, har också uttryckt en mycket allvarlig oro kring framtida AI. Han har sagt att han personligen bedömer risken för att mycket avancerad AI skulle kunna leda till en katastrof för mänskligheten inom det kommande decenniet till över tio procent. Samtidigt betonar han att risken med dagens AI-modeller är låg och att diskussionen främst gäller framtida, mycket mer kapabla system.

Alla håller inte med

Det finns samtidigt forskare och branschpersoner som tonar ner de mest dramatiska scenarierna. En invändning är att extrema varningar kan bidra till att blåsa upp förväntningarna kring AI och samtidigt gynna företagen kommersiellt.

Coxon avvisar däremot tanken att hans varning skulle vara ett marknadsföringstrick. Han hävdar att flera personer med stor insyn i branschen uttrycker större oro privat än offentligt.

Frågan är därför inte längre bara vad AI kan göra idag, utan hur långt tekniken kan utvecklas – och om människan kommer att kunna behålla kontrollen.

👀 Det är just den delen som fått många att reagera…

Vad fick egentligen en AI-forskare med erfarenhet från några av världens största AI-bolag att lämna branschen? Och varför menar han att utvecklingen behöver hanteras med mycket större försiktighet?