16 techjättar skriver under löfte om säker utveckling av AI

I samband med konferensen AI Seoul Summit i Sydkorea så har 16 stora teknikföretag nu skrivit under avtalet “Frontier AI Safety Commitments” där de lovar att ägna sig åt säker utveckling av AI-teknik. Bland företagen syns stora namn från Nordamerika, Asien,

Sammanhang: ...I samband med konferensen AI Seoul Summit i Sydkorea så har 16 stora teknikföretag nu skrivit under avtalet “Frontier AI Safety Commitments” där de lovar att ägna sig åt säker utveckling av AI-teknik. Bland företagen syns stora namn från Nordamerika, Asien, Europa och Mellanöstern. ...

Omnämnda platser: Asien, Meta, Naver. Omnämnda personer: Samsung Electronics.

Googles känga mot Microsoft – myndighetskritik blir säljargument

Google skriver i ett nytt blogginlägg att de uppmanar organisationer inom den offentliga sektorn att inte bara förlita sig på en enda teknikleverantör med tanke på säkerheten. Som bakgrund refererar Google till den senaste rapporten från amerikanska Cyber

Sammanhang: ...Som bakgrund refererar Google till den senaste rapporten från amerikanska Cyber Safety Review Board (CSRB) som listar betydande säkerhetsbrister och systematiska svagheter hos en med Googles ord “långvarig leverantör”, vilket är Microsoft. ...

Lätt att komma runt AI-chattbotars säkerhet enligt forskare

En ny granskning gjord av Storbritanniens nyligen etablerade AI-säkerhetsinstitut, AI Safety Institute, har testat fem stora språkmodeller och kommit fram till att samtliga är “högst sårbara” mot jailbreak-attacker som kan komma runt deras säkerhetsspärrar,

Sammanhang: ...En ny granskning gjord av Storbritanniens nyligen etablerade AI-säkerhetsinstitut, AI Safety Institute, har testat fem stora språkmodeller och kommit fram till att samtliga är “högst sårbara” mot jailbreak-attacker som kan komma runt deras säkerhetsspärrar, rapporterar The Guardian. ...

Omnämnda platser: Storbritanniens.

Storbritannien släpper verktyg för att testa AI-modellers säkerhet

AI Safety Institute, Storbritanniens nyligen etablerade säkerhetsmyndighet för AI, släpper nu en ny testplattform, Inspect, som kan användas för att utvärdera en AI-modells säkerhet. Inspect är ett mjukvarubibliotek som kan granska en modells specifika kapabiliteter

Sammanhang: ...AI Safety Institute, Storbritanniens nyligen etablerade säkerhetsmyndighet för AI, släpper nu en ny testplattform, Inspect, som kan användas för att utvärdera en AI-modells säkerhet. ...

Omnämnda platser: Storbritannien, Storbritanniens.

Efter skarpa kritiken mot Microsofts säkerhet – kommer företaget att lyssna?

I rapporten dras slutsatsen att företagets säkerhet är ”otillräcklig och kräver en översyn”. Det finns en lång historia av utländska regeringar som utnyttjar Microsofts säkerhetshål för att hacka högt uppsatta regeringstjänstemän och privata företag. (Ijanuari

Sammanhang: ...Vad Microsoft gjorde för fel Rapporten från DHS Cyber Safety Review Board beskriver det kinesiska hacket och Microsofts svar i detalj och avslöjar vad Washington Post kallar Microsofts ”slarviga cybersäkerhetsrutiner, slappa företagskultur och en avsiktlig brist på transparens”. ...

Omnämnda platser: Microsofts. Omnämnda personer: Enterprise Exchange, Washington Post, Outlook Web.

USA och Storbritannien inleder samarbete för AI-säkerhet

USA och Storbritannien meddelar att ländernas säkerhetsinstitut för AI framöver kommer att samarbeta sömlöst med varandra vad gäller forskning, utvärdering och vägledning för AI-säkerhet. Beslutet följer åtaganden som gjordes vid AI Safety Summit i november

Sammanhang: ...USA och Storbritannien meddelar att ländernas säkerhetsinstitut för AI framöver kommer att samarbeta sömlöst med varandra vad gäller forskning, utvärdering och vägledning för AI-säkerhet. Beslutet följer åtaganden som gjordes vid AI Safety Summit i november 2023. Samarbetet innebär att länderna kommer att harmonisera sina vetenskapliga tillvägagångssätt och arbeta nära varandra för att snabbt utveckla och revidera utvärderingar för AI-modeller, system och agenter. ...

Omnämnda platser: Storbritannien, USA.