Open AI stoppar lanseringen av GPT-6.1 Astra

Open AI låter meddela att man har stoppat den planerade utrullningen av GPT-6.1 Astra, en av företagets mest kraftfulla AI-modeller hittills. Anledningen till stoppet är att GPT-6.1 Astra inte anses ha nått upp till företagets säkerhetsstandard, rapporterar

Sammanhang: ...Men när vi släpper den till användare ställer vi extremt höga krav på säkerhet, säger Open AI:s säkerhetschef Saachi Jain i ett uttalande....

Omnämnda personer: GPT-6.1 Astra, Open AI:s.

Säkerhetsoro stoppar Open AI:s nya modell

Problemen upptäcktes i samband med ett internt test av den nya modellen ”GPT-6.1 Astra” som planerades att släppas redan under oktober. ”Vi vill säkerställa att vår modellutveckling är säker oavsett om det sker internt i företaget, eller när vi levererar

Sammanhang: ...Säkerhetsoro stoppar Open AI:s nya modell...

Omnämnda personer: Saachi Jain.

Säkerhetsoro stoppar Open AI:s nya modell – Nerikes Allehanda

Techjätten Open AI drar i handbromsen för sin nya AI-modell på grund av säkerhetsrisker, rapporterar flera medier.

Sammanhang: ...Säkerhetsoro stoppar Open AI:s nya modell – Nerikes Allehanda...

Säkerhetsoro stoppar Open AI:s nya modell

Problemen upptäcktes i samband med ett internt test av den nya modellen ”GPT-6.1 Astra” som planerades att släppas redan under oktober. ”Vi vill säkerställa att vår modellutveckling är säker oavsett om det sker internt i företaget, eller när vi levererar

Sammanhang: ...Säkerhetsoro stoppar Open AI:s nya modell...

Omnämnda personer: Saachi Jain.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....

Omnämnda personer: Jensen Huang.

Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–

Sammanhang: ...Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen...

Omnämnda personer: Nvidia Sentry, Justin Boitano.

AI-agent ska ha försökt hacka myndighetssajt

Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen. AI-agenter från

Sammanhang: ...Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen. ...