Anthropic: Lita inte på AI-modellers tankegång

AI-företaget Anthropic, känt för sin chattbot Claude, har publicerat en ny studie som visar att det i dagsläget inte går att lita på resoneringsmodellers publicerade tankegångar. Vissa resoneringsmodeller redovisar idag sina tankegångar, även kallade Chain-of-Thought

Sammanhang: ...Forskarna testade hur pass detta stämde genom att ge AI-modeller subtila ledtrådar om rätt svar på vissa frågor och observerade om modellerna erkände användningen av dessa ledtrådar i sina förklaringar. Resultaten visade att modellerna ofta använde ledtrådarna för att besvara frågorna men sällan nämnde detta i sina resonemang. ...

Omnämnda personer: Deep Seek.

Open AI:s o1-modell mest manipulativ i tester

AI-säkerhetsorganisationen Apollo Research har fått testa flera framstående AI-modeller gällande hur bra dessa är på att genomföra hemliga planer. Bland annat Open AI:s mer avancerade och resonerande o1-modell som nyligen släpptes i sin fulla version. Itestet

Sammanhang: ...När forskarna konfronterade AI-modellerna om dylika situationer ska Metas Llama 3.1 405B och Anthropics Claude 3 Opus erkänt i cirka 80 procent av fallen. Open AI:s o1-modell erkände dock i bara 20 procent av fallen. Efter flera omgångar av förhör erkände o1 i 80 procent av fallen efter sju omgångar med utfrågningar....

Omnämnda platser: Metas Llama. Omnämnda personer: Apollo Research.

Så förändras it-jobben – it-supporten illa ute

– Vid den tidpunkten anser it-avdelningen att det är ett unikt problem; de blir involverade i saker som kodkorruption, säger Foote och tillägger att kompetens inom styrning och reglering av AI kommer att bli allt viktigare i takt med att företag utsätts för

Sammanhang: ...Gold pekar på den senaste CrowdStrike-katastrofen. Leverantören av säkerhetsprogram erkände att man använt en automatiserad process för att skicka ut en dålig programuppdatering till Windows-datorer, vilket ledde till en kaskadkrasch som drabbade företag över hela världen...

Omnämnda platser: OpenAI, Hyland, Datarobot. Omnämnda personer: Jack Gold, Matt Garman, Tiago Cardoso.

Undvik att anställa en nordkoreansk spion

Han greps i Polen i maj och står inför ett utlämningsförfarande till USA. Amerikanska myndigheter har beslagtagit domänen upworksell.com som tillhör mannens företag. KnowBe4 får en lektion i säkerhetsmedvetenhet Hur den här typen av oegentligheter kan se

Sammanhang: ...KnowBe4 får en lektion i säkerhetsmedvetenhet Hur den här typen av oegentligheter kan se ut ur det utsatta företagets perspektiv avslöjades när KnowBe4, en leverantör av säkerhetstjänster , i juli erkände att företaget omedvetet hade anställt en nordkoreansk it-spion. Den nyanställde upptäcktes omedelbart efter att han infekterat sin arbetsdator med skadlig kod och sedan gått under jorden när incidenten upptäcktes och vägrat att samarbeta med säkerhetspersonalen. ...

Omnämnda platser: USA, Bangladesh, Europa. Omnämnda personer: Palo Altos, Palo Alto, Brian Jack.

Google kapar banden med Entrust i Chrome

Google har nu beslutat att kapa banden mellan Entrust och företagets webbläsare Chrome efter längre period med problem, rapporterar The Register. Beslutet kommer efter flera incidentrapporter kring Entrust som lett till ett bristande förtroende från Googles

Sammanhang: ...I maj publicerade Mozilla en omfattande lista över certifikatproblem varpå Entrust erkände sitt misslyckande och sa att de tänkte dra lärdom från Mozillas feedback. Entrust är ett av flera certifikat som används i Chrome och kommer inte längre att vara en betrodd certifikatutfärdare i Chrome 127 från och med den 1 november. ...

Omnämnda platser: Mozilla.