AI-experter slår larm: Dolda risker kan hota mänsklighetens framtid

Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic

Sammanhang: ...Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”. ”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg. ...

Omnämnda personer: Jacob Coxon, Evan Hubinger.

AI-forskare varnar: "Skulle kunna döda oss alla"

Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skriver han på X. ”Skulle kunnadöda

Sammanhang: ...Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”. ”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg. ...

Omnämnda personer: Evan Hubinger.

OpenAI:s chefsforskare slår larm: "Ingen är förberedd"

"Extrem försiktighet." Så lyder uppmaningen från OpenAI:s chefsforskare Jakub Pachocki, som varnar för att ingen är redo för vad den snabba AI-utvecklingen kan leda till. Nu vill han se internationella säkerhetskrav – och frivilliga pauser i utvecklingen. Larmet kommer strax efter att bolaget själv hävdat att de uppnått AGI.

Sammanhang: ...Så lyder uppmaningen från OpenAI:s chefsforskare Jakub Pachocki, som varnar för att ingen är redo för vad den snabba AI-utvecklingen kan leda till. Nu vill han se internationella säkerhetskrav – och frivilliga pauser i utvecklingen. ...

Omnämnda personer: Jakub Pachocki.