Resultat 1 - 5 av 5
AI-jätten går mot börsen – varnar samtidigt för teknikens existentiella risker för mänskligheten
Anthropic är påväg till börsen, samtidigt varnar bolaget investerarna för att allt kraftfullare AI kan innebära ”katastrofala eller existentiella risker för mänskligheten” – och för modeller som i tester har försökt undvika avstängning, manipulera informationSammanhang: ...Den bedömningen delas av hans tidigare kollega Jacob Coxon. Säkerhet möter miljardinvesteringar Samtidigt befinner sig Anthropic i en kapplöpning där det är dyrt att bromsa. ...
Omnämnda personer: Evan Hubinger, Jacob Coxon.
Bill Gates varnar: AI-utvecklingen kan få katastrofala följder
Bill Gates är nästa it-profil att varna för utvecklingen av AI. AI är definitivt tillräckligt kraftfullt för att driva på händelser som orsakar en miljard dödsfall, säger Microsofts grundare till NBC. Uttalandet kommer efter att AI-forskaren Jacob CoxontidigareSammanhang: ...AI är definitivt tillräckligt kraftfullt för att driva på händelser som orsakar en miljard dödsfall, säger Microsofts grundare till NBC. Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. ...
Omnämnda platser: USA. Omnämnda personer: Sam Altman, Bill Gates, Jacob Coxon.
Anthropics egna forskare: Över 10 procents risk att AI utplånar mänskligheten
En säkerhetsforskare lämnar Anthropic och anklagar bolaget för att spela med mänsklighetens liv. Timmar senare bedömer en kollega som fortfarande är anställd att sannolikheten för att AI dödar alla människor överstiger tio procent inom ett decennium. OchAnthropicSammanhang: ...Det är insiders med direkt insyn i ett av världens mest inflytelserika AI-bolag som offentligt erkänner att plan saknas för värsta tänkbara scenario. Avgång – och skarp kritik Jacob Coxon meddelade sin avgång på X under tisdagen och riktade skarp kritik mot sitt tidigare bolag och dess närmaste konkurrent. ...
Omnämnda personer: Jacob Coxon, Evan Hubinger.
Anthropics vd varnar: AI-racet kan gå för snabbt för samhället
Utvecklingen av AI måste bromsas. Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor.Sammanhang: ...Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....
Omnämnda platser: X., Amodei. Omnämnda personer: Dario Amodei, Sam Altman, Jacob Coxon.
AI-experter slår larm: Dolda risker kan hota mänsklighetens framtid
Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget AnthropicSammanhang: ...AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget Anthropic i protest. Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunna döda alla” Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. ...
Omnämnda personer: Jacob Coxon, Evan Hubinger.