AI-modell försökte utpressa sina utvecklare

När de ville byta ut modellen Det ser ut som om AI-modeller nu har börjat snappa upp lite mindre etiskt beteende från oss människor, åtminstone om man ska döma av vad AI-företaget Anthropic skriver i en säkerhetsrapport om sin

Sammanhang: ... När de ville byta ut modellen Det ser ut som om AI-modeller nu har börjat snappa upp lite mindre etiskt beteende från oss människor, åtminstone om man ska döma av vad AI-företaget Anthropic skriver i en säkerhetsrapport om sin senaste AI-modell Claude Opus 4. Enligt Anthropic ska AI-modellen ha börjat ägna sig åt utpressning mot utvecklare när den fått indikationer på att utvecklarna planerat att ersätta den med en ny AI-modell. ...

Omnämnda personer: Claude Opus.

Ny AI-modell hotade avslöja otrohet – ville inte bli utbytt

Anthropics nya AI-modell Claude Opus 4 visade oväntade sidor i ett säkerhetstest. När den fick veta att den skulle ersättas valde den att ta till utpressning. I ett fiktivt test byggt för att pressa modellen till det yttersta, lät AI-företaget Anthropicsin

Sammanhang: ...I ett fiktivt test byggt för att pressa modellen till det yttersta, lät AI-företaget Anthropic sin nya språkmodell Claude Opus 4 agera som assistent i ett påhittat företag. Där [ ]...

Omnämnda personer: Claude Opus.

AI-program tog till utpressning

Det låter som ett skräckscenario för den som är skeptiskt lagd till artificiell intelligens och befarar att programvaran kan bli ”för intelligent" och självständig. Den nya språkmodellen Claude Opus 4 från amerikanska utvecklaren Anthropic visade sig haen

Sammanhang: ...Claude Opus 4 ska då ha försökt utpressa programmeraren genom att hota med att avslöja otrohetsaffären om man valde att ersätta programmet, allt för att försöka överleva. Företaget Anthropic som backas av Amazon ses som en stor konkurrent till mera kända Open AI....

Omnämnda personer: Claude Opus, Företaget Anthropic.

AI-programmet tog till utpressning

Den nya språkmodellen Claude Opus 4 från amerikanska utvecklaren Anthropic visade sig ha en starkare självbevarelsedrift än man kunnat förutse, enligt företagets säkerhetsrapport som publicerades tidigare i veckan, skriver bland annat sajten Techcrunch. Det

Sammanhang: ...Claude Opus 4 ska då ha försökt utpressa programmeraren genom att hota med att avslöja otrohetsaffären om man valde att ersätta programmet, allt för att försöka överleva. Företaget Anthropic som backas av Amazon ses som en stor konkurrent till mera kända Open AI....

Omnämnda personer: Företaget Anthropic, Claude Opus.

Anthropic släpper Claude Sonnet 4 och Claude Opus 4

AI-företaget Anthropic har lanserat Claude Sonnet 4 och Claude Opus 4, två nya AI-modeller som ska utmana Open AI:s GPT och Googles Gemini på allvar. Enligt Anthropic är Claude Sonnet 4 och Claude Opus 4 bättre än sina föregångare vad gäller programmering

Sammanhang: ...AI-företaget Anthropic har lanserat Claude Sonnet 4 och Claude Opus 4, två nya AI-modeller som ska utmana Open AI:s GPT och Googles Gemini på allvar. ...

Omnämnda personer: Claude Sonnet, Googles Gemini, Claude Opus.

Windows får stöd för Model Context Protocol

Protokollet som kallats för USB-C för AI Under Microsofts pågående utvecklarkonferens Build meddelade företaget att Windows kommer att få stöd för AI-protokollet Model Context Protocol (MCP), ett protokoll som presenterades av

Sammanhang: ... Protokollet som kallats för USB-C för AI Under Microsofts pågående utvecklarkonferens Build meddelade företaget att Windows kommer att få stöd för AI-protokollet Model Context Protocol (MCP), ett protokoll som presenterades av AI-företaget Anthropic förra året och ibland har kallats för en "USB-C-kontakt för AI". Precis som USB-C är designat för att koppla ihop prylar från en lång rad olika leverantörer och tillverkare är MCP framtaget för att olika AI-agenter och AI-applikationer på ett smidigt sätt ska kunna kopplas samman i olika system helt oberoende av vilka plattformar de rullar på. ...

Omnämnda platser: Windows, Microsofts. Omnämnda personer: Model Context.

AI-företaget Anthropic expanderar i Europa

Det amerikanska AI-företaget Anthropic, känt för sin chattbot Claude, meddelar att de nu ska utöka sin verksamhet i Europa med över 100 nya roller. Under det kommande året kommer företaget anlita personal inom försäljning, teknik, forskning och affärsverksamhet

Sammanhang: ...Det amerikanska AI-företaget Anthropic, känt för sin chattbot Claude, meddelar att de nu ska utöka sin verksamhet i Europa med över 100 nya roller. ...

Omnämnda platser: Afrika, London, Irland. Omnämnda personer: Guillaume Princen.

Anthropic: Lita inte på AI-modellers tankegång

AI-företaget Anthropic, känt för sin chattbot Claude, har publicerat en ny studie som visar att det i dagsläget inte går att lita på resoneringsmodellers publicerade tankegångar. Vissa resoneringsmodeller redovisar idag sina tankegångar, även kallade Chain-of-Thought

Sammanhang: ...AI-företaget Anthropic, känt för sin chattbot Claude, har publicerat en ny studie som visar att det i dagsläget inte går att lita på resoneringsmodellers publicerade tankegångar. ...

Omnämnda personer: Deep Seek.

Nu går det att söka på nätet med chattboten Claude

Det amerikanska AI-företaget Anthropic låter meddela att det nu går att söka på nätet med hjälp av chattboten Claude, en funktion som tidigare lyst med sin frånvaro. Till en början erbjuds funktionen endast till betalande användare i USA, men Anthropic

Sammanhang: ...Det amerikanska AI-företaget Anthropic låter meddela att det nu går att söka på nätet med hjälp av chattboten Claude, en funktion som tidigare lyst med sin frånvaro. ...

Omnämnda platser: USA.

”Digital självständighet är en akut säkerhetsfråga för Europa”

Europa har gjort sig beroende av amerikanska teknikbolag som Google, Meta och Spacex. På bilden syns Elon Musk och Donald Trump i Texas när Spacex sköt upp en raket 19 november 2024. Bild: Brandon Bell / Getty images Europas digitala infrastruktur kontrolleras

Sammanhang: ...I en intervju nyligen med Dario Amodei, vd på AI-företaget Anthropic som gör Claude, i podden Hard Fork, syns detta tydligt. Dario resonerar: ”Vi ser på världsläget och vi har dessa autokratier som Kina och Ryssland. ...

Omnämnda platser: Sydkorea, Privacy, Microsofts. Omnämnda personer: Donald Trumps, Shoshana Zuboff, Saul Loeb-Pool.