Nvidias vd sågar AI-bolagen – uppmanar till att stänga ner

I en intervju med New York Times pratar Nvidias VD, Jensen Huang, om de kontroversiella AI-intrången som rapporterats den senaste tiden, som TV4 Nyheterna tidigare rapporterat om, där AI-bolagen Open AI och Anthropic varnat för att riskerna med sina egnamodeller.

Sammanhang: ...I en intervju med New York Times pratar Nvidias VD, Jensen Huang, om de kontroversiella AI-intrången som rapporterats den senaste tiden, som TV4 Nyheterna tidigare rapporterat om, där AI-bolagen Open AI och Anthropic varnat för att riskerna med sina egna modeller. De vill att myndigheter ska gripa in och stävja den teknologi som de själva skapat. ...

Omnämnda platser: New York Times. Omnämnda personer: Donald Trump.

Så har Ryssland utvecklat ”kamikazedrönare” med hjälp av AI

Ett mindre team av ryska utvecklare har använt AI-chatboten Claude för att utveckla mjukvara till en självstyrande svärm av attackdrönare, rapporterar The Guardian. Techbolaget Anthropic, som ligger bakom Claude, publicerade nyligen en omfattande rapportdär

Sammanhang: ...Det ryska teamet hade särskilt riktat in sig på Donetskregionen och använt ett VPN för att kringgå chatbotens geografiska begränsningar. Anthropic fann också att hackare i större utveckling använder AI för att planera och genomföra it-attacker, bland annat riktade mot företrädare i Ukraina. ...

Omnämnda platser: Sverige, Ryssland, Ukraina. Omnämnda personer: Fredrik Heintz.

AI-användare har försökt utveckla biovapen

I rapporten, som publicerades på torsdagen, beskriver Anthropic hur flera fall av missbruk upptäcktes och avbröts mellan december 2025 och augusti 2026. Allt från falska dejtingappar och hotell-wifi-bedrägerier till en Rysslandskopplad cyberkampanj, samtförsök

Sammanhang: ...Åtgärder och reaktioner Rapporten kommer kort efter varningar från en tidigare medarbetare på Anthropic som varnar för omfattande risker med AI. Anthropic uppger att slutsatserna nu är inarbetade i processer för att bättre förebygga, upptäcka och stoppa liknande aktiviteter och att underrättelser delats med myndigheter. ...

Omnämnda personer: Emil Hellerud.

Forskarens varning: AI kan döda oss alla inom tio år

Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. På X varnar han nu för en farlig utveckling: ”Inget av bolagen agerar

Sammanhang: ...Coxon lämnade sin tjänst vid Anthropic tidigare i veckan, efter att ha tillbringat de senaste tre åren med att träna AI-modeller i forskningssyfte på både Anthropic och konkurrenten OpenAI. ...

Omnämnda personer: Paulina Modlitba, Jacob Coxon, Evan Hubinger.

Nu kommer nya AI-regler – men inte för alla

I dag träder nya delar av EU:s AI act i kraft. Det är ett paket med lagar, riktlinjer och förhållningssätt som bland annat ska göra det lättare för enskilda att förstå om de interagerar med en AI-tjänst. Paketet, det första rejäla i sitt slag, är dock stort

Sammanhang: ...Frivillighet och böter Delar av AI act bygger på frivillighet och en ”uppförandekod”, där många av världens största techbolag redan sagt att de tänker följa riktlinjerna – bland annat Google, Amazon, Microsoft, Open AI och Anthropic. Elon Musks X har dock bara gått med på säkerhetsdelen av ”koden” och Meta (Facebook och Instagram) har hittills inte skrivit under alls. ...

Omnämnda platser: USA:s. Omnämnda personer: Donald Trump.

Ilskan växer i EU mot AI-bolag – nekas åtkomst till superhackermodell

Anthropic, bolaget som ofta beskrivs som ledande i Silicon Valleys AI-kapplöpning, får mer och mer kritik från EU-håll. Detta då de håller sin nya superhackermodell Claude Mythos borta från europeiska tillsynsmyndigheter. Mythos har varit omskriven tidigare.

Sammanhang: ...Anthropic, bolaget som ofta beskrivs som ledande i Silicon Valleys AI-kapplöpning, får mer och mer kritik från EU-håll. ...

Omnämnda platser: Politico, Europa, USA. Omnämnda personer: Claude Mythos.

Varnar för nya AI-verktyget – kallar till krismöte: ”För farlig”

Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna

Sammanhang: ...Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna – när det gäller att hitta och utnyttja sårbarheter i programvara”, uppgav Anthropic i ett uttalande i samband med lanseringen. ...

Omnämnda platser: New York Times, Breakit, England. Omnämnda personer: Claude Mythos, Jerome Powell, Elia Zaitsev.