Långa meningar och dålig grammatik räcker för att lura LLM:er

– Sanningen om många av de största språkmodellerna där ute är att den snabba säkerheten är ett dåligt byggt stängsel med så många hål att laga att det är ett oändligt spel med whack-a-mole, säger David Shipley från Beauceron Security. – Den halvfärdiga

Sammanhang: ...“Detta visar med kraft att det är en otillräcklig strategi att enbart förlita sig på en LLM:s interna anpassning för att förhindra toxiskt eller skadligt innehåll”, skriver forskarna och betonade att logit-gapet gör det möjligt för “beslutsamma motståndare” att kringgå interna skyddsräcken....

Omnämnda platser: Metas Llama, Beauceron Security. Omnämnda personer: Palo Alto Networks, David Shipley, Googles Gemma.