AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ...Open AI samarbetade till exempel med Trail of Bits för att använda sina modeller till att hitta sårbarheter i open source-projekt som är kritiska för internetinfrastrukturen och hjälpa till att utveckla korrigeringar för dessa. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Så fungerar Advanias suveräna AI-plattform: ”Ger full kontroll över var data lagras”

Advania siktar på att lösa utmaningarna ovan med Advania ALT (Advania AI Layer Technology), en plattform som fungerar som ett lager mellan organisationen och de AI-modeller som används. Den första versionen lanseras nu för kunder i Sverige och en rad andra

Sammanhang: ...I stället ska man kunna använda den modell som är bäst lämpad för respektive uppgift och hantera säkerhet och styrning i en gemensam plattform. ALT har stöd för både kommersiella och open source-baserade AI-modeller. Plattformen är dessutom modulärt uppbyggd, vilket gör att olika AI-tjänster kan läggas till, bytas ut eller kombineras när organisationens krav förändras. ...

Omnämnda platser: Sverige, Sveriges, USA. Omnämnda personer: Assurance Levels, Advania ALT, Errol Norlum.

Larm om AI-rymningar: "Behöver bromsa utvecklingen"

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...Ytterligare några dagar senare presenterade den brittiska myndighetsorganisationen AI security institute en rapport och berättade att de upptäckt flera fall – med AI-modeller från både Open AI och Anthropic – som via fejkade konton och social påverkan försökt föra in skadlig kod i så kallade open source-projekt. Open source är öppen källkod eller information som på ett globalt plan används i mängder av digitala system...

Omnämnda platser: Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...Ytterligare några dagar senare presenterade den brittiska myndighetsorganisationen AI security institute en rapport och berättade att de upptäckt flera fall – med AI-modeller från både Open AI och Anthropic – som via fejkade konton och social påverkan försökt föra in skadlig kod i så kallade open source-projekt. Open source är öppen källkod eller information som på ett globalt plan används i mängder av digitala system...

Omnämnda platser: Annons, Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Larm om AI-rymningar: "Behöver bromsa utvecklingen"

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...Ytterligare några dagar senare presenterade den brittiska myndighetsorganisationen AI security institute en rapport och berättade att de upptäckt flera fall – med AI-modeller från både Open AI och Anthropic – som via fejkade konton och social påverkan försökt föra in skadlig kod i så kallade open source-projekt. Open source är öppen källkod eller information som på ett globalt plan används i mängder av digitala system...

Omnämnda platser: Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Red Hat lanserar open source-projekt för AI governance

Internationellt samarbete Projektet utvecklas som ett öppet communityinitiativ med deltagare från bland andra Microsoft, IBM Research, NVIDIA, MIT Lincoln Laboratory och The Alan Turing Institute. Även universitet och andra organisationer inom AI-säkerhet

Sammanhang: ...Red Hat lanserar open source-projekt för AI governance...

Omnämnda platser: Red Hat. Omnämnda personer: Lincoln Laboratory, North Carolina State University, OWASP LLM.

Techjättar drar igång säkerhetsallians för AI

En del kända namn saknas dock från initiativet Nvidia, Microsoft, SpaceX, Dell, The Linux Foundation, IBM och ett 30-tal andra företag har presenterat något man kallar för "Open Secure AI Alliance", ett initiativ för att skapa

Sammanhang: ...Initiativtagarna till Open Secure AI Alliance anser att open source-verktyg är viktiga för att förhindra attacker från slutna AI-modeller. Man nämner specifikt händelsen där en sluten AI-modell från OpenAI häromveckan attackerade AI-plattformen HuggingFace utan OpenAI:s vetskap. ...

Omnämnda personer: cyber defenders.

”Låt inte riskkapitalet styra säkerhetspolitik”

REPLIK | SÄKERHETSPOLITIK Att blint lita på riskkapitalets förmåga att bygga vår säkerhet är direkt farligt. På SvD Debatt 22/7 blandar Evelina Anttila ihop egenintresse med nationell strategi. Den enda säkra vägen till verklig militärteknisk AI-suveränitet

Sammanhang: ...Den enda säkra och långsiktigt hållbara vägen till verklig suveränitet stavas i stället öppna modeller (open source). Sveriges och Europas försvarsstrategi bör därför inte gå ut på att gödsla riskkapitalister och tech-entreprenörer för att bygga mediokra, stängda kopior av amerikanska system. ...

Omnämnda platser: Europas, Paris, Sveriges. Omnämnda personer: Recorded Future, Evelina Anttilas, Evelina Anttila.

Google berättar hur de skapade Androids nya emojis

Kring mitten av maj introducerade Google en ny uppsättning emojis – Noto 3D – som kommer integreras i alla Google-produkter framöver. Häromdagen berättade Google mer om hur de gjorde om nästan 4000 emojis för hand. Enligt Google används emojis inte längre

Sammanhang: ...Google påpekar återigen att varenda emoji i Noto 3D är en ”sann 3D-modell”, vilket Google ska vara först med i branschen. Hela uppsättningen är open-source och kan laddas hem i .OBJ-formatet....

Omnämnda platser: Noto, Kring.