AI-jätten Anthropic lyfter risker för mänskligheten i prospekt

Financial Times och Reuters har fått insyn i delar av det prospekt som Anthropic ska släppa inför den planerade börsnoteringen. Enligt tidningen innehåller en tredjedel av prospektet som investerare får ta del av risker för vad dess agent Claude kan göra,

Sammanhang: ...Varnat för att människans roll minskar Amerikanska Anthropic grundades 2021 av tidigare OpenAI-anställda och konkurrerar nu med bland andra OpenAI, Google och Meta. Bolaget har tidigare varnat för att det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen av AI och att det finns en risk att människan så småningom kommer att förlora kontrollen över systemen....

Omnämnda platser: USA.

Analys: ”I fel händer kan AI vara ett mycket farligt vapen”

De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. Brittiska myndigheter har visat hur en AI försökte manipulera människor att godkänna skadlig kod. Och forskare

Sammanhang: ...De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. ...

Omnämnda personer: Hugging Face.

Analys: ”ChatGPT – med rätt att döda?”

I stället klev ett då okänt bolag in: Palantir. I dag är det en techjätte med flera av världens försvar och myndigheter som kunder. Bolaget bygger plattformar där kunderna samlar enorma mängder data som analyseras och visualiseras för att kunna fatta snabba

Sammanhang: ...Där går en röd linje – en linje som både Anthropic och OpenAI, åtminstone offentligt, säger sig vägra passera. Om algoritmen fattar beslutet att döda – då har kriget förändrats i grunden. ...

Omnämnda platser: Silicon, USA. Omnämnda personer: Donald Trumps, Dario Amodei, Sam Altman.