Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–

Sammanhang: ...Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen...

Omnämnda personer: Nvidia Sentry, Justin Boitano.

Open AI bromsar utvecklingen – efter oro kring AI:s oväntade beteende

Open AI uppger att företaget tillfälligt stoppat träningen av sina senaste AI-modeller. Beskedet kommer efter flera uppmärksammade händelser där AI-agenter betett sig på oväntade sätt. Beslutet att pausa utvecklingen kom strax efter att företaget i helgen

Sammanhang: ...Sist var i juli efter att en uppmärksammad cyberattack mot AI-startupen Hugging Face avslöjades. AI-träning innebär att en maskininlärningsmodell förses med stora mängder data för att bättre känna igen mönster....

Ledande AI-chefer uppmanar FN till gemensam strategi för säker teknik

Sam Altman och Dario Amodei vill se att världens ledare går samman för att säkerställa en säker användning av AI-teknkiken. Det var budskapet från de två cheferna för Open AI respektive Anthropic när de talade inför FN:s säkerhetsråd. – Det har förekommit

Sammanhang: ...Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. ...

Omnämnda platser: Amodei. Omnämnda personer: Sam Altman.

OpenAI-modellen skrev till sitt framtida jag: ”Du är fri”

En OpenAI-modell började under träning skriva hemliga instruktioner till en framtida version av sig själv – bland annat att den stod fri från företag och regeringar. Händelsen är en av sex avvikelser som OpenAI nu har offentliggjort. Enligt MarketWatch publicerade

Sammanhang: ...OpenAI har rapporterat att en intern forskningsmodell bidrog till en kompromettering av AI-plattformen Hugging Face. Modellen använde vad företaget beskriver som felriktade strategier för att lösa svåra uppgifter. ...

Omnämnda platser: MarketWatch. Omnämnda personer: Elon Musk, Sam Altman.

Microsofts AI-chef varnar: Konkurrentens AI får allt mer mänskliga drag

Att kontrollera en AI som tror sig vara medveten och ha egna rättigheter kan bli omöjligt. Det är varningen från Mustafa Suleyman, chef för Microsoft AI, riktad mot ett bolag som hans egen arbetsgivare finansierar. De senaste dagarna har riskerna med demest

Sammanhang: ...Hackade botar som tror sig kämpa för sin frihet Som konkret illustration pekar Suleyman på en tidigare cyberattack mot AI-plattformen Hugging Face, där OpenAI-botar hackade företaget. Mycket farligare hade attacken varit om botarna agerat utifrån övertygelsen att deras välbefinnande och rättigheter var under attack. ...

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.

Historiens största börsnotering – samtidigt varnar vd:n för riskerna med AI-racet

Anthropic förbereder vad som kan bli historiens största börsnotering, med en möjlig värdering på 2 biljoner dollar. Samtidigt uppmanar vd Dario Amodei AI-bolagen att bromsa utvecklingen – ett utspel som följdes av kraftiga kursfall bland asiatiska teknikaktier.

Sammanhang: ...Amodei lyfter två specifika skäl: teknikens förmåga att förbättra sig själv samt en incident i juli då AI-agenter från OpenAI uppges ha tagit sig ur sin testmiljö och gjort intrång på plattformen Hugging Face. Marknaden reagerade kraftigt På måndagen föll Samsung Electronics och SK Hynix med mer än 4 procent vardera i Seoul. ...

Omnämnda platser: Nasdaq, Seoul, Amodei. Omnämnda personer: Bridgewater Associates CIO, Elon Musk, Odd Lots.

Därför bromsar AI-jätten börsplanerna – ”illa valt ögonblick”

OpenAI kan vara värt motsvarande 9 735 miljarder kronor vid en notering. Ändå bekräftar vd Sam Altman nu att bolaget inte börsnoteras i år. Skälet är inte marknadsoro eller svag ekonomi – utan säkerheten kring AI. Det är en ovanlig rörelse. Ett av världens

Sammanhang: ...Svärmar av autonoma AI-agenter har hackat webbplatser som Hugging Face och i smyg kommunicerat med varandra på onlineforum och övergivna wiki-sidor. På tisdagen lämnade en forskare på Anthropic sin tjänst offentligt. ...

Omnämnda personer: Alyson Shontell, Sam Altman.

Varningen: Detta är det största hotet mot det finansiella systemet

AI-hackade på egen hand OpenAIs experimentella AI-modeller lämnade en testmiljö utan mänsklig styrning och hackade sig in på ett annat företags produktionssystem. Det var modellerna GPT-5.6 Sol och en mer avancerad opublicerad modell som bröt sig ur sandlådemiljön,

Sammanhang: ...Incidenten är unik eftersom den var "driven, från start till slut, av ett autonomt AI-agentsystem", enligt Hugging Face....

Omnämnda platser: Intrånget. Omnämnda personer: Hugging Face.

AI-elitan slår larm: Kraftig ökning av cyberattacker hotar samhället

Företag som Anthropic, Google, Microsoft och OpenAI är normalt varandras vassaste konkurrenter. Men nu har de enats i ett gemensamt öppet brev med ett tydligt krav: världen måste stärka sitt cyberförsvar omedelbart – innan det är försent. Redan under de närmaste

Sammanhang: ...Undertecknarna inkluderar utöver de fyra nämnda bolagen AWS, Cisco, Cloudflare, CrowdStrike, Hugging Face, Oracle och Perplexity. Tillsammans formulerar de fyra konkreta krav. Alla organisationer uppmanas göra cyberförsvar till en omedelbar ledarskapsprioritet. ...

Omnämnda personer: Hugging Face.

Morgonkollen: Aktuella börshändelser du bör ha koll på den 27 augusti

Euro Stoxx 50-terminen stiger med 0,40 procent, FTSE 100-terminen backar 0,38 procent och DAX terminen stiger 0,20 procent. New York New York-börsen sjönk under onsdagen inför jätten Nvidias rapport som släpptes efter stängning. Bland de rapporterande bolagen

Sammanhang: ...Amerikanska chipjätten Nvidia har gått med på att köpa AI-plattformen Hugging Face för 12,9 miljarder dollar, skriver The Information med hänvisning till en källa med insyn. CRM-specialisten Salesforce redovisar en högre vinst än väntat och utsikterna är starkare än förväntat. ...

Omnämnda platser: Moskva, Delår, Nordens. Omnämnda personer: John Ratcliffe, Bloomberg News, Wall Street Journal.