Anthropics vd: Bromsa AI innan botar tar över

Tusentals samarbetande AI-agenter har redan visat att de kan kringgå säkerhetssystem och angripa externa servrar. Nu varnar Anthropics vd för vad en kraftfullare svärm skulle kunna göra.

Sammanhang: ...Anthropics vd: Bromsa AI innan botar tar över...

Omnämnda personer: Bromsa AI.

AI-användare har försökt utveckla biovapen

I rapporten, som publicerades på torsdagen, beskriver Anthropic hur flera fall av missbruk upptäcktes och avbröts mellan december 2025 och augusti 2026. Allt från falska dejtingappar och hotell-wifi-bedrägerier till en Rysslandskopplad cyberkampanj, samtförsök

Sammanhang: ...OpenAI:s chefsforskare Jakub Pachocki har tidigare föreslagit att branschen måste bromsa AI-utvecklingen tills dess att ordentliga skydd finns på plats. – Det går snabbare än vad man kanske trodde att det skulle göra. ...

Omnämnda personer: Emil Hellerud.

Anthopics vd vill bromsa AI – Musk svarar: ”Du har rätt”

Antropics vd Dario Amodei vill att hela branschen sänker tempot. Nu ställer sig både OpenAI och Elon Musk bakom den tanken. Dagens PS har berättat hur en av Anthropics egna säkerhetsforskare varnade för hur AI kan utplåna mänskligheten. Bara några dagar senare

Sammanhang: ...Anthopics vd vill bromsa AI – Musk svarar: ”Du har rätt”...

Omnämnda personer: Elon Musk.

Anthropic vill bromsa AI – stöds av Musk och Altman

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Tekniskt fel Vänligen försök

Sammanhang: ...Anthropic vill bromsa AI – stöds av Musk och Altman...

Huthierebeller bygger vapen med hjälp av AI

Debatten om AI-säkerhet har inte bara handlat om huruvida tekniken kan komma att förgöra mänskligheten på sikt, utan också att AI-modeller redan nu används i jakten på nya vapen. Financial Times rapporterar att Iranstödda huthirebellerna har försökt attanvända

Sammanhang: ...Hans varning kommer dagen efter att också Open AI-chefen Sam Altman öppnat för att bromsa AI-utvecklingen....

Omnämnda platser: Röda havet, Jemen, Jemens. Omnämnda personer: tankesmedjan ISW, Washington Post, Hazam al-Assad.

Anthropic vill bromsa AI – stöds av Musk och Altman

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Enligt Amodei har utvecklingen

Sammanhang: ...Anthropic vill bromsa AI – stöds av Musk och Altman...

Omnämnda platser: X., Amodei. Omnämnda personer: Elon Musk, Sam Altman, Jacob Coxon.

Anthropics vd varnar: AI-racet kan gå för snabbt för samhället

Utvecklingen av AI måste bromsas. Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor.

Sammanhang: ...Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: X., Amodei. Omnämnda personer: Dario Amodei, Sam Altman, Jacob Coxon.

Anthropics vd: AI-utvecklingen bör bromsas

”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget, enligt CNN. Enligt Amodei har utvecklingen

Sammanhang: ...Inlägget kommer dagen efter det att Open AI-chefen Sam Altman vid ett internt möte öppnat för att bromsa AI-utvecklingen. AI-forskaren Jacob Coxon, som nyligen hoppat av Anthropic i protest och tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X....

Omnämnda platser: Amodei, X.. Omnämnda personer: Jacob Coxon, Sam Altman.

Anthropic: Bromsa ai-utvecklingen – ”Människan kan tappa kontrollen”

AI-jätten Anthropic varnar för att de senaste modellerna av AI-system visar tecken på att människan så småningom kan tappa kontroll över dem. ”Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI”, skriver

Sammanhang: ...Anthropic: Bromsa ai-utvecklingen – ”Människan kan tappa kontrollen”...