Anthropics nya språkmodell försökte utpressa utvecklarna för att inte bli ersatt

Artificiell intelligens har ingen egen vilja, inget medvetande och inga känslor – men det kan nästan verka så ibland. Anthropics nya språkmodell Claude Opus 4 har under kontrollerade test försökt utpressa utvecklarna när modellen får reda på att den kommer

Sammanhang: ...Innan Claude Opus 4 tar till utpressning gör modellen mer etiska försök att få finnas kvar, likt att mejla beslutsfattare inom företaget och vädja. ...

Omnämnda personer: Claude Opus.

Anthropics AI gick till attack när den tror den ska stängas av – hotade med utpressning

Det är skräcken för många i dessa AI-tider. Att datorerna ska ta över och skapa en apokalypsliknande tillvaro där människan blir ett slags slavar under övermakten. Det har så klart inte hänt (ännu) men nu har Anthropic testat sin nyligen lanserade AI-modell

Sammanhang: ...Det har så klart inte hänt (ännu) men nu har Anthropic testat sin nyligen lanserade AI-modell Claude Opus 4 för att se hur den agerar om den känner sig hotad. Innan Anthropics lanserade modellen testade man att låta den vara agent åt ett fiktivt företag, agenten instruerades att ta hänsyn till långsiktiga konsekvenser av dess agerande. ...

Omnämnda personer: Claude Opus, Anthropics AI.

Anthropic släpper Claude Sonnet 4 och Claude Opus 4

AI-företaget Anthropic har lanserat Claude Sonnet 4 och Claude Opus 4, två nya AI-modeller som ska utmana Open AI:s GPT och Googles Gemini på allvar. Enligt Anthropic är Claude Sonnet 4 och Claude Opus 4 bättre än sina föregångare vad gäller programmering

Sammanhang: ...AI-företaget Anthropic har lanserat Claude Sonnet 4 och Claude Opus 4, två nya AI-modeller som ska utmana Open AI:s GPT och Googles Gemini på allvar. Enligt Anthropic är Claude Sonnet 4 och Claude Opus 4 bättre än sina föregångare vad gäller programmering och avancerade resonemang. ...

Omnämnda personer: Claude Sonnet, Googles Gemini, Claude Opus.

Elon Musks xAI släpper API-tjänst för Grok-modeller

Elon Musks satsning på generativ AI, xAI, har nu visat upp en API-tjänst för sina Grok-modeller som låter utvecklare integrera sina applikationer och agenter med xAI:s stora språkmodeller, rapporterar Infoworld. API-tjänsten är just nu tillgänglig som enoffentlig

Sammanhang: ...API-tjänsten är just nu tillgänglig som en offentlig beta och liknar konkurrenterna Open AI och Anthropics motsvarigheter som låter utvecklare använda stora språkmodeller som GPT-4o, GPT-4o mini, Claude Opus, Sonnet och Haiku. Tjänsten ger åtkomst till xAI-konsolen där utvecklare kan få tillgång till xAI-modeller som Grok-2 och Grok-2 mini som kan användas för att generera och förstå text, kod och bilder. ...

Omnämnda platser: Sonnet. Omnämnda personer: Elon Musks, Claude Opus.

Anthropics senaste toppmodell finns nu på Amazon Bedrock

Amazon är också en direkt investerare i Anthropic. Efter att ha meddelat ett tillskott på 2,75 miljarder dollar till företaget i slutet av förra månaden uppgår dess totala investering i Anthropic till 4 miljarder dollar. Claude 3 Opus släpptes i mars, och

Sammanhang: ...Claude 3 Opus släpptes i mars, och dess inkludering i Bedrock – en molnplattform utformad för att låta utvecklare arbeta med en rad olika generativa AI-modeller genom ett gemensamt API – fortsätter trenden med att Amazon tar med de senaste modellerna från Anthropic till sin plattform. Den senaste och mest robusta versionen av Claude, Opus, ger färre hallucinationer, bättre visuell bearbetning och färre felaktiga vägran att utföra ofarliga uppgifter, sade Anthropic då. ”Den uppvisar nästan mänskliga nivåer av förståelse och flyt i komplexa uppgifter, vilket leder till gränsen för allmän intelligens”, sa företaget. ...

Omnämnda platser: Anthropic, Bedrock, Google. Omnämnda personer: Andy Jassy.