Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–

Sammanhang: ...Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter – autonoma robotar skapade i AI-modeller – har tillgång till och stänga av agenter som bryter mot regelverket. Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. ...

Omnämnda personer: Nvidia Sentry, Justin Boitano.