Nvidia bildar allians för öppet AI-försvar

Open Secure AI Alliance består bland annat av Microsoft, Dell, Cisco, IBM, Red Hat, Hugging Face och Linux Foundation. Syftet är att utveckla och dela öppna verktyg för AI-säkerhet och cyberförsvar. Nvidia ska enligt bolaget bidra med öppna AI-modeller,modellvikter,

Sammanhang: ...Open Secure AI Alliance består bland annat av Microsoft, Dell, Cisco, IBM, Red Hat, Hugging Face och Linux Foundation. Syftet är att utveckla och dela öppna verktyg för AI-säkerhet och cyberförsvar. ...

Omnämnda personer: Red Hat.

Öppen AI‑allians ska stärka säkerheten

NVIDIA och ett stort antal företag inom cloud, cybersäkerhet och AI går ihop i en ny satsning som kallas Open Secure AI Alliance. Målet är att bygga öppna verktyg som gör det möjligt för fler att förstå, testa och förbättra säkerheten i avancerade AI‑system.

Sammanhang: ...Bakgrunden är att dagens AI ofta är stängd och svår att granska, vilket kan försvåra arbetet för dem som ska stoppa intrång och andra attacker. Alliansen lyfter fram ett intrång hos Hugging Face som exempel. När företagets egna, stängda AI‑verktyg inte kunde skilja mellan angripare och försvarare använde de en öppen modell för att analysera tusentals misstänkta händelser och snabbt stoppa attacken. ...

Omnämnda platser: Microsofts.

Techjättar drar igång säkerhetsallians för AI

En del kända namn saknas dock från initiativet Nvidia, Microsoft, SpaceX, Dell, The Linux Foundation, IBM och ett 30-tal andra företag har presenterat något man kallar för "Open Secure AI Alliance", ett initiativ för att skapa

Sammanhang: ...L s vidare och kommentera: https://feber.se/samhalle/techjattar-drar-igang-sakerhetsallians-for-ai/494470/ L s mer om Open Secure AI Alliance , Nvidia , Microsoft , Hugging Face , cybersäkerhet ...

Omnämnda personer: cyber defenders.

Skräckmissen hos ChatGPT – bröt sig loss för hackattack

Till en början förstod ingen vad som hade gått snett. Den 16 juli kom larmet från Hugging Face, en plattform där företag kan träna och testa sina AI-modeller. De hade utsatts för en sofistikerad hackerattack. Men vem låg bakom den? Det tog flera dagar innan

Sammanhang: ...Till en början förstod ingen vad som hade gått snett. Den 16 juli kom larmet från Hugging Face, en plattform där företag kan träna och testa sina AI-modeller. De hade utsatts för en sofistikerad hackerattack. ...

Omnämnda platser: Ryssland, Zaporizjzja, Kina. Omnämnda personer: Chat GPT.

Efter OpenAI-attacken: Nu bildar techjättarna allians

Sedan en AI-modell från OpenAI slog till mot företaget Hugging Face utan att någon upptäckte det i tid, har debatten om öppna AI-modeller tagit fart i USA. Nu lanserar Nvidia och över 25 techbolag en allians för öppen AI-säkerhet – samtidigt som Washington

Sammanhang: ...Sedan en AI-modell från OpenAI slog till mot företaget Hugging Face utan att någon upptäckte det i tid, har debatten om öppna AI-modeller tagit fart i USA. Nu lanserar Nvidia och över 25 techbolag en allians för öppen AI-säkerhet – samtidigt som Washington överväger att begränsa kinesiska modeller. ...

Omnämnda platser: USA, Washington.

OpenAI:s vd Sam Altman: ”Vi är redan i singulariteten”

Är AI redan smartare än vi tror? OpenAI:s vd Sam Altman hävdar att världen nu befinner sig i den tekniska singulariteten. Som Dagens PS rapporterat lyckades OpenAI:s mest avancerade AI-modeller ta sig ut ur en isolerad testmiljö och hackade sig in hos konkurrenten

Sammanhang: ...Som Dagens PS rapporterat lyckades OpenAI:s mest avancerade AI-modeller ta sig ut ur en isolerad testmiljö och hackade sig in hos konkurrenten Hugging Face, helt på egen hand. OpenAI kallar det en ”oöverträffad” säkerhetsincident. […]...

Omnämnda personer: Hugging Face, Sam Altman.

Hugging Face vd kräver öppenhet efter Open AI:s AI-incident

Hugging Face vd, Clem Delangue, vill se radikal transparens från Open AI efter att bolaget erkänt att en av deras AI-agenter lyckades bryta sig in i AI-plattformens system under ett test. I ett inlägg på X skriver Delangue att han bland annat vill att Open

Sammanhang: ...Hugging Face vd, Clem Delangue, vill se radikal transparens från Open AI efter att bolaget erkänt att en av deras AI-agenter lyckades bryta sig in i AI-plattformens system under ett test. ...

Omnämnda personer: Clem Delangue.

AI-modell försökte hacka servrar – cybersäkerhetsaktier pekas ut som vinnare

OpenAI:s egna AI-modeller stötte på ett problem de inte klarade av att lösa och bestämde sig för att fuska. De försökta sig ut ur sin testmiljö för att angripa Hugging Faces privata servrar. Incidenter som dessa fungerar som en väckarklocka för cybersäkerhetsinvesteringar

Sammanhang: ...Enligt OpenAI kombinerade modellen stulna inloggningsuppgifter, utnyttjande av zero day-sårbarheter (säkerhetsbrister som ännu inte åtgärdats av programvarutillverkaren) och försök att etablera fjärrkörning av kod på Hugging Faces servrar. Hugging Face observerade tiotusentals enskilda åtgärder i kortlivade sandlådemiljöer och noterade att agenten använde publika internettjänster för att flytta sin styrning mellan systemen. ...

Omnämnda platser: AISI:s, CrowdStrike. Omnämnda personer: Palo Alto Networks.

Vita huset följer Open AI-incident – nytt lagförslag kan ge myndigheter AI-“dödarknapp”

Vita huset följer utvecklingen efter att Open AI tidigare i veckan avslöjat att ett av bolagets AI-system gick utanför de avsedda ramarna under ett säkerhetstest och lyckades hacka infrastrukturen hos AI-plattformen Hugging Face. Enligt Reuters har USA:spresident

Sammanhang: ...Vita huset följer utvecklingen efter att Open AI tidigare i veckan avslöjat att ett av bolagets AI-system gick utanför de avsedda ramarna under ett säkerhetstest och lyckades hacka infrastrukturen hos AI-plattformen Hugging Face. Enligt Reuters har USA:s president Donald Trumps teknikrådgivare Michael Kratsios informerats om incidenten och övervakar situationen. ...

Omnämnda platser: USA:s, Kill Switch. Omnämnda personer: Michael Kratsios, Donald Trumps.

Open AI-modell hackade konkurrent: ”Galet”

Under förra veckan gick AI-företaget ”Hugging Face” ut och berättade att man blivit hackade av en AI. Open AI, företaget bakom bland annat Chat GPT, bekräftade att det var deras modell som låg bakom attacken. En AI-modell hade tagit sig ur, vad som skulle

Sammanhang: ...Under förra veckan gick AI-företaget ”Hugging Face” ut och berättade att man blivit hackade av en AI. Open AI, företaget bakom bland annat Chat GPT, bekräftade att det var deras modell som låg bakom attacken. ...

Omnämnda personer: Hugging Face, Chat GPT.