Google släpper språkmodell som skyddar integriteten bättre

När stora AI-modeller tränas på känslig användardata eller upphovsrättsskyddat material finns en risk att de senare oavsiktligt ”återger” innehållet. Det kan leda till både integritets- och juridiska problem. För att motverka detta används metoden differential

Sammanhang: ...Resultatet av denna forskning är Vault Gemma, en ny språkmodell baserad på Googles Gemma 2. Modellen har omkring en miljard parametrar och presterar i nivå med liknande icke-privata modeller, trots integritetsskyddet. ...

Omnämnda personer: Googles Gemma.

Långa meningar och dålig grammatik räcker för att lura LLM:er

– Sanningen om många av de största språkmodellerna där ute är att den snabba säkerheten är ett dåligt byggt stängsel med så många hål att laga att det är ett oändligt spel med whack-a-mole, säger David Shipley från Beauceron Security. – Den halvfärdiga

Sammanhang: ...Faktum är att forskarna rapporterade en 80 procent till 100 procent framgångsgrad med denna taktik med en enda prompt och “nästan ingen promptspecifik inställning” mot en mängd olika vanliga modeller inklusive Googles Gemma, Metas Llama och Qwen. Metoden hade också en “enastående framgångsgrad” på 75 procent mot OpenAI: s senaste öppen källkodsmodell, gpt-oss-20b. ...

Omnämnda platser: Metas Llama, Beauceron Security. Omnämnda personer: Palo Alto Networks, David Shipley, Googles Gemma.

Mistral släpper öppen AI-modell för programmering

Mistral släpper nu en ny AI-modell fokuserad på programmering, Devstral. Techcrunch skriver att enligt den franska AI-startupen ska modellen prestera bättre än både amerikanska Googles Gemma 3 27B och kinesiska Deepseeks V3 i mätningen SWE-Bench Verified.

Sammanhang: ...Techcrunch skriver att enligt den franska AI-startupen ska modellen prestera bättre än både amerikanska Googles Gemma 3 27B och kinesiska Deepseeks V3 i mätningen SWE-Bench Verified. Devstral har över 24 miljarder parametrar och är optimerad för att kunna köras lokalt på ett enda Nvidia RTX 4090-grafikkort eller en Mac med 32 gigabyte RAM. ...

Omnämnda personer: Googles Gemma 3.