Meta satsar på säker AI med Purple Llama

Nu har Meta presenterat projektet Purple Llama som ska uppmuntra till en mer säker och ansvarsfull utveckling av generativa AI-modeller. Detta kommer att göras möjligt genom diverse verktyg och utvärderingstekniker som AI-utvecklare kommer att kunna använda

Sammanhang: ...Människorna som bygger AI system kan inte tillkännage utmaningen av AI i ett vakuum, vilket är vad vi vill jämna ut och skapa ett center för massan för att skapa tillit och säkerhet. – Meta. Purple Llama har även släppt Llama Guard som är en säkerhetsklassificerare för filtrering av data som strömmar in och ut. Det innebär att Llama Guard redan är programmerad att hindra generativa AI-modeller från att producera potentiellt riskabelt innehåll. ...

Omnämnda personer: Llama Guard, Hugging Face, Purple Llama.