AI-experter slår larm: Dolda risker kan hota mänsklighetens framtid

Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic

Sammanhang: ...AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic i protest. Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunna döda alla” Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. ...

Omnämnda personer: Jacob Coxon, Evan Hubinger.

Anthropic larmar: Människans kontroll över AI kan vara på väg att försvagas

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget.

Sammanhang: ...”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget. Anthropic menar att beslutet måste komma från hela branschen för att det ska kunna vara effektivt och för att enskilda länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen. ...

Meta i potentiell miljardaffär med Google – om AI-chip

Samtidigt överväger Meta möjligheten att börja hyra dessa chip från Googles molntjänster redan under nästa år. Utmanar Nvidias marknadsdominans Om affären blir verklighet skulle det innebära att TPU-chip från Google lyfts fram som ett alternativ till Nvidias

Sammanhang: ...Google har tidigare ingått ett avtal med AI-företaget Anthropic om att leverera upp till en miljon TPU-enheter. Trots detta är Nvidia fortsatt ledande på marknaden för denna typ av halvledare....

Omnämnda personer: Utmanar Nvidias.