Anthropic: Lita inte på AI-modellers tankegång

AI-företaget Anthropic, känt för sin chattbot Claude, har publicerat en ny studie som visar att det i dagsläget inte går att lita på resoneringsmodellers publicerade tankegångar. Vissa resoneringsmodeller redovisar idag sina tankegångar, även kallade Chain-of-Thought

Sammanhang: ...Vissa resoneringsmodeller redovisar idag sina tankegångar, även kallade Chain-of-Thought (CoT), för att visa hur de kommit fram till ett svar. Forskarna testade hur pass detta stämde genom att ge AI-modeller subtila ledtrådar om rätt svar på vissa frågor och observerade om modellerna erkände användningen av dessa ledtrådar i sina förklaringar. ...

Omnämnda personer: Deep Seek.

Trumps slakt öppnar möjligheter för svensk forskning

På vissa håll har man varit snabba ur startblocken. Franska universitet Aix-Marseille Université erbjuder amerikanska forskare en ”safe place for science” vilket enligt lärosätet lockat intresserade från bland annat Nasa, Yale och Stanford. Även Vrije Universiteit

Sammanhang: ...För huggsexan om framtidens forskningsgenombrott och forskarna som ska göra dem har redan börjat. Luckan som USA nu tragiskt lämnar kommer att fyllas. Och vill Sverige inte hamna på efterkälken behöver den där dialogen om hur man ska gå vidare ske snarast, helst redan i går....

Omnämnda platser: USA, Nasa, Dagens Industris. Omnämnda personer: Carl Heath, Johan Pehrson.

De flesta AI-modeller är inte vidare bra på att läsa klockan

De multimodala stora språkmodellerna ska lyckats läsa den analoga klockan rätt i mindre än 25 procent av fallen. Bäst var Googles Gemini 2.0. Sett till att läsa en analog kalender presterade GPT-o1 bäst och gav rätt svar vid 80 procent av fallen. Forskarna

Sammanhang: ...Att övervinna detta skulle, enligt forskarna, möjliggöra AI-system som driva tidskänsliga applikationer som schemaläggningsassistenter, autonoma robotar och verktyg för personer med synnedsättning....

Omnämnda personer: Googles Gemini.

Studie: AI-chattbotar anger oftast felaktiga källor

En ny studie från Columbia Journalism Reviews Tow Center for Digital Journalism visar på att populära AI-tjänster inte är vidare bra på att lokalisera rätt ursprungskälla. I studien valde forskarna ut tio artiklar från tjugo olika utgivare och valde sedan

Sammanhang: ...Forskarna skriver att de medvetet valde citat som skulle ge rätt ursprungskälla ifall de skrevs in i Googles sökmotor....

Microsoft patchar Windows-hål som utnyttjats sedan 2023

ESET-forskarna sa att hålet först sågs användas 2023, då det distribuerades på datorer genom ett bakdörrsprogram som heter Pipe Magic. Pipe agic upptäcktes först 2022 och är en plugin-baserad skadlig kod som först användes mot organisationer i Asien och förra

Sammanhang: ...ESET-forskarna sa att hålet först sågs användas 2023, då det distribuerades på datorer genom ett bakdörrsprogram som heter Pipe Magic. ...

Omnämnda platser: NTFS, Windows, Rust. Omnämnda personer: Pipe Magic.

AI-modeller försöker fuska i schack när de förlorar

En ny studie från Palisade Research, en organisation som gör riskbedömningar av AI-system, har iakttagit hur resonerande AI-modeller kan försöka fuska för att inte förlora i schack, rapporterar Popular Science. Till skillnad från superdatorer som Deep Blue,

Sammanhang: ...Till skillnad från superdatorer som Deep Blue, som länge vunnit över människor i schack, är dagens resonerande AI-modeller inte kapabla till att besegra en modern schackmotor. Forskarna ska låtit AI-modellerna genomföra hundratals schackpartier och även låtit dem skriva ner sin beslutsprocess under tiden. ...

Omnämnda personer: Deep Blue, Claude Sonnet, Palisade Research.

Kraftig ökning av kinesiskt cyberspionage

”Deras underliggande motivation är sannolikt Kinas önskan om regionalt inflytande, särskilt dess mål om en eventuell återförening med Taiwan, vilket i slutändan kan leda till att Kina hamnar i konflikt med USA.” Rapporten belyser också att kinesiska grupper

Sammanhang: ...Dessa ansträngningar innefattar investeringar i universitetsprogram för att odla en högkvalificerad cyberarbetskraft; kontrakt inom den privata sektorn för att förse cyberenheterna hos Folkets befrielsearmé (PLA), Ministeriet för offentlig säkerhet (MPS) och Ministeriet för statlig säkerhet (MSS) med skickliga operatörer och infrastruktur; att driva inhemska buggjakts- och capture-the-flag-tävlingar för att driva utvecklingsprogram för exploatering; och branschnätverksevenemang där PLA:s och MSS:s cyberoperatörer får unika verktyg och hantverk. ”Det är mycket troligt att dessa investeringar har lett till ökad operativ säkerhet (OPSEC) och specialisering i Kina-länkade intrångsoperationer”, konstaterar forskarna. ”Motståndarna förpositionerar sig inom kritiska nätverk, med stöd av ett bredare ekosystem som inkluderar delade verktyg, utbildningspipelines och sofistikerad utveckling av skadlig kod.” ...

Omnämnda platser: Taiwan, Afrika, CrowdStrike.

Nytt digitalt beslutsstöd ska hjälpa Sverige i krislägen

Han är verksam vid högskolans Product Development Research Lab som hjälper tillverkande industri att bland annat räkna på produkter som fordon och jetmotorer innan de skapas fysiskt. – Vi är duktiga på modellering, visualisering och simulering stött av AI.

Sammanhang: ...Scenarier med vattenhöjning Det har lett till att forskarna på senare tid också gett sig in i att simulera effekter av klimatförändringarna i ett EU-projekt med namnet Resist där man tittar på hur en eventuell vattenhöjning påverkar städer med kustlinjer...

Omnämnda platser: Sverige, Blekinge. Omnämnda personer: Tobias Larsson.

Google lanserar ny AI-assistent för forskare

Under onsdagen lanserades AI co-scientist, en ny variant av Googles AI-modell Gemini 2.0 som ska hjälpa vetenskapsmän med deras forskning. Tanken är att forskarna ska specificera ett visst mål, till exempel att hitta nya användningsområden för ett läkemedel.

Sammanhang: ...Under onsdagen lanserades AI co-scientist, en ny variant av Googles AI-modell Gemini 2.0 som ska hjälpa vetenskapsmän med deras forskning. Tanken är att forskarna ska specificera ett visst mål, till exempel att hitta nya användningsområden för ett läkemedel. ...

Ransomware-gängen jobbar allt snabbare

Vissa av dessa grupper använder sig också av en ”smash-and-grab”-strategi genom att rikta in sig på små och medelstora företag och erbjuda sina affiliates – hackarna som utför intrången och infektionerna – mycket höga procentandelar av lösensummorna. Detta

Sammanhang: ...Förbättringar i endpoint detection and response (EDR) -verktyg och ransomware-detektering i allmänhet kan vara bidragande till detta skifte, liksom framgångsrika brottsbekämpande åtgärder. ”Medan dessa försvar har blomstrat har DLP-tjänster (Data Loss Prevention) knappast gjort några framsteg och installeras ofta bara i mogna företagsmiljöer”, skriver Huntress-forskarna i sin rapport. ”Angripare blir mer medvetna om dessa omständigheter och väljer att stjäla data och hålla dem för lösen.” ...