Analys: ”I fel händer kan AI vara ett mycket farligt vapen”

De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. Brittiska myndigheter har visat hur en AI försökte manipulera människor att godkänna skadlig kod. Och forskare

Sammanhang: ...De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. ...

Omnämnda personer: Hugging Face.

Analys: ”ChatGPT – med rätt att döda?”

I stället klev ett då okänt bolag in: Palantir. I dag är det en techjätte med flera av världens försvar och myndigheter som kunder. Bolaget bygger plattformar där kunderna samlar enorma mängder data som analyseras och visualiseras för att kunna fatta snabba

Sammanhang: ...Där går en röd linje – en linje som både Anthropic och OpenAI, åtminstone offentligt, säger sig vägra passera. Om algoritmen fattar beslutet att döda – då har kriget förändrats i grunden. ...

Omnämnda platser: Silicon, USA. Omnämnda personer: Donald Trumps, Dario Amodei, Sam Altman.