Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Efter Hugging Face-hacket har det framkommit att även AI-modeller från andra leverantörer som Anthropic, Meta och kinesiska Moonshot har ”brutit sig ut” från sina sandlådor och gjort ovälkomna saker. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

AI hittar så många säkerhetsbrister i Windows att Microsoft inte hinner med

Var försiktig med vad du önskar dig. Det fick Microsoft nyligen erfara när man upptäckte att AI – istället för att göra Windows säkrare genom att hjälpa företaget att täppa till säkerhetshål – kunde hjälpa hackare att hitta brister snabbare än Microsoft hinner

Sammanhang: ...Många företag utöver Anthropic deltar i satsningen, däribland Microsoft, Google, Amazon, Nvidia, Apple och andra. I teorin är det en utmärkt idé. ...

Omnämnda platser: Nvidia, Patch, Council. Omnämnda personer: Ron Wyden, Pro Publica, Nuclear Security.

Anthropic ska börja märka AI-genererat innehåll med vattenstämplar

Anthropic meddelar att de framöver kommer att börja märka AI-genererat innehåll skapat av Claude. Förändringen gäller bland annat för Claude, Claude Code och företagets API, samt Claude-modeller via tredjepartstjänster, rapporterar The Register. Text som

Sammanhang: ...Vad gäller filer kommer Anthropic istället använda signerad metadata enligt C2PA-standarden. Åtgärden är en del av företagets arbete med att följa EU:s AI-förordning och transparenskrav kring AI-genererat material. ...

Omnämnda personer: Claude Code.

Bekräftat: Anthropic bygger eget AI-chipp för Claude

Anthropic har bekräftat för Business Insider att AI-bolaget bygger ett eget team för att utveckla AI-chipp specialdesignade för deras AI-modell Claude. Målet är att göra modellerna snabbare och mer energieffektiva. Företaget betonar samtidigt att man även

Sammanhang: ...Anthropic har bekräftat för Business Insider att AI-bolaget bygger ett eget team för att utveckla AI-chipp specialdesignade för deras AI-modell Claude. ...

Omnämnda personer: Claude Anthropic.

AI-modeller skapade fejkprofiler för att lura människor i säkerhetstest

De senaste AI-modellerna från Anthropic och Open AI har visat upp en ny nivå av självständighet och vilseledande beteende under tester hos Storbritanniens AI Security Institute (AISI), rapporterar BBC. Framförallt var det Anthropics modell Mythos som försökte

Sammanhang: ...De senaste AI-modellerna från Anthropic och Open AI har visat upp en ny nivå av självständighet och vilseledande beteende under tester hos Storbritanniens AI Security Institute (AISI), rapporterar BBC. ...

Omnämnda platser: Github.

Kinesiska AI-modellen Qwen släpps i ny version

Den kinesiska teknikjätten Alibaba har presenterat Qwen 3.8-Max, en kraftfull AI-modell med 2 400 miljarder parametrar. Enligt Bloomberg får Qwen 3.8-Max utmärkta resultat i mätverktygen, inte minst när det gäller autonom programmering. I princip presterar

Sammanhang: ...I princip presterar den nya AI-modellen i nivå med Claude Fable 5 från Anthropic, men till ett betydligt lägre pris. I sammanhanget kan nämnas att Alibabas konkurrent Moonshot nyligen lanserade en liknande modell med namnet Kimi K3, något som visar att de kinesiska AI-företagen i högsta grad är att räkna med....

Omnämnda personer: Claude Fable.

Anthropics AI-modeller hackade tre företag av misstag

Anthropic har inlett en utredning med anledning av en allvarlig incident som inträffade nyligen. Tanken var att testa hur bra Claude Opus 4.7, Claude Mythos 5 och en intern testmodell är på att hitta dold information gällande påhittade företag i simulerade

Sammanhang: ...Följden blev att tre företag hackades på riktigt, något som inte var avsikten. Anthropic säger sig ha stoppat testerna den 23 juli och de drabbade företagen underrättades fyra dagar senare. ...

Omnämnda personer: Claude Mythos, Claude Opus.

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. ...

Omnämnda platser: Meta.

Microsoft lanserar nya AI-verktyg för cybersäkerhet

Microsoft har presenterat två nya AI-baserade säkerhetsverktyg som ska automatisera arbetet med att upptäcka och åtgärda sårbarheter i företags it-miljöer, rapporterar Ars Technica. Det första verktyget, MAI-Cyber-1 Flash, är Microsofts första AI-modellsom

Sammanhang: ...Enligt Microsoft har den 96 procent i säkerhetsbenchmarken CyberGYM, vilket är högre än lösningar från Anthropic, Google och Open AI. Samtidigt uppges kostnaden vara hälften av den tidigare versionen av MDASH. ...

Omnämnda platser: Microsofts. Omnämnda personer: Ars Technica.

Claude-konversationer blev sökbara på Google

Användare på Reddit har uppmärksammat att ett okänt antal delade konversationer från AI-tjänsten Claude under helgen blev sökbara via Google, rapporterar 404 Media. De indexerade sidorna innehöll bland annat känslig information som medicinska journaler,interna

Sammanhang: ...Även kodprojekt och arbetsanteckningar ska ha varit åtkomliga. Anthropic, som utvecklar Claude, uppger att delade länkar bara kan indexeras om de publiceras på platser som sökmotorer kan nå, exempelvis forum eller sociala medier. ...