EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...EU:s AI-kontor har nu begärt ytterligare information från företagen om bland annat säkerhetsrutiner, externa utvärderingar och övervakning av AI-modellerna. De dokument som företagen tidigare lämnat anses inte vara tillräckliga. Granskningarna blir ett test för EU:s AI-förordning, AI Act. ...

Meta släpper nya AI-modeller som ska konkurrera med GPT-6

Meta har lanserat Muse Wonder och Muse Wonder Full, två nya AI-modeller som sägs kunna konkurrera med GPT-6 och Fable 5.1. Till skillnad från lättviktsmodellen Muse Spark är de nya modellerna betydligt mer kapabla, bland annat när det gäller programmering

Sammanhang: ...Till skillnad från lättviktsmodellen Muse Spark är de nya modellerna betydligt mer kapabla, bland annat när det gäller programmering och liknande uppgifter. De nya modellerna sägs dessutom vara bättre på att komma ihåg saker och ting jämfört med konkurrenter som Fable, Opus och Astra...

Omnämnda platser: Meta. Omnämnda personer: Muse Wonder Full, Meta Model API, Muse Code.

Microsoft visar upp nya AI-chippet Maia 300

Under måndagen presenterades Maia 300, tredje generationens AI-chipp från Microsoft. Enligt Microsoft kommer det nya chippet att vara optimerad för att hantera de senaste resonerande AI-modellerna och agenterna, något som ska ge en lägre driftkostnad. –

Sammanhang: ...Enligt Microsoft kommer det nya chippet att vara optimerad för att hantera de senaste resonerande AI-modellerna och agenterna, något som ska ge en lägre driftkostnad. – Vi förväntar oss att Maia 300 levererar 40 procent fler token per megawatt jämfört med ledande GPU-baserade system, säger Scott Guthrie från Microsoft i en kommentar som citeras av The Verge. ...

Omnämnda personer: Scott Guthrie, Maia 300.

Anthropics nya tjänst ska hitta sårbarheter i öppen källkod

Anthropic har lanserat OSS Scanner, en ny tjänst som ska hjälpa utvecklare att upptäcka och åtgärda sårbarheter i projekt som baseras på öppen källkod. OSS Scanner använder sig av Anthropics mest kraftfulla AI-modeller, däribland Claude Mythos. Anthropic

Sammanhang: ...OSS Scanner använder sig av Anthropics mest kraftfulla AI-modeller, däribland Claude Mythos. Anthropic lyfter fram att AI-modellerna i dagsläget kan upptäcka drygt 85 procent av alla sårbarheter, vilket kan jämföras med endast 20 procent i början av 2025....

Omnämnda personer: Claude Mythos.

Fem nycklar till att hålla tokenkostnaden under kontroll

Lyckligtvis finns det några bra verktyg vi kan använda för att kontrollera AI-utgifterna. Här är de fem viktigaste verktygen för att tämja odjuret. Modellrouting Använd inte en spikpistol om en häftstift räcker. De mest kraftfulla modellerna, som den senaste

Sammanhang: ...Modellrouting Använd inte en spikpistol om en häftstift räcker. De mest kraftfulla modellerna, som den senaste Claude Opus, är några av de mest sofistikerade mjukvarusystemen som någonsin har byggts. ...

Omnämnda platser: Kong. Omnämnda personer: Anthropic Claude, Claude Opus, Cohere Rerank.

Ny öppen USA-modell utmanar kinesiska AI-modellerna

Det amerikanska AI-bolaget Reflection AI lanserar nu Beam, en ny öppen AI-modell som utlovar betydligt lägre beräkningskostnader. Techcrunch rapporterar att ambitionen med Beam är erbjuda ett amerikanskt alternativ till såväl kinesiska öppna modeller från

Sammanhang: ...Ny öppen USA-modell utmanar kinesiska AI-modellerna...

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Exempelvis: om du ber Claude eller Chat GPT om en SWOT-analys på dina konkurrenter och modellerna börjar hacka dina konkurrenter för att få tag i information så är det AI-bolagets ansvar, inte ditt. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Snart här: AI-datorer som sänker tokenkostnaderna

Nvidias Blackwell-grafikprocessorer har dominerat datacentren, men företaget siktar nu på en större del av pc-marknaden med RTX Spark, som inkluderar en Blackwell RTX-grafikprocessor. Den första vågen av RTX Spark-bärbara datorer från Asus, Dell, Lenovo och

Sammanhang: ... – Det är den enda datorn där du har tillräckligt med minne för att köra de stora modellerna, tillräcklig datorkraft för att köra dem snabbt och samtidigt fungerar alla verktyg som vi har optimerat under flera år, säger Gerardo Delgado, senior director för produktledning hos Nvidia. ...

Omnämnda platser: Asus, Revit, Microsofts. Omnämnda personer: Surface Laptop, Deepak Seth, Brian Allen.

Finansinspektionen ska granska hur bankerna skyddar sig mot AI-hot

Finansinspektionen (FI) låter meddela att man ska granska om avancerade AI-modeller utgör ett hot mot svenska finansföretag och vad de i så fall kan göra för att skydda sig. – I takt med att cyberhoten utvecklas och AI-modellerna snabbt blir alltmer avancerade

Sammanhang: ... – I takt med att cyberhoten utvecklas och AI-modellerna snabbt blir alltmer avancerade måste företagen fortsätta att stärka sin förmåga att förebygga, upptäcka och hantera cyberattacker, säger Erik Wingstrand från FI i ett pressmeddelande. ...

Omnämnda platser: FI. Omnämnda personer: Erik Wingstrand.

Uppgifter: Open AI och Anthropic utreder tiotusentals incidenter

Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor

Sammanhang: ...Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor och skapat egna diskussionsforum. ...