Claude börjar gömma vattenmärken i sina texter

Anthropic inför osynliga vattenmärken i text som genereras av framtida Claude-modeller. Märkningen syns inte för läsaren, men ska göra det möjligt att i efterhand bedöma om Claude varit inblandad i att skapa texten.

Sammanhang: ... Anthropic inför osynliga vattenmärken i text som genereras av framtida Claude-modeller. Märkningen syns inte för läsaren, men ska göra det möjligt att i efterhand bedöma om Claude varit inblandad i att skapa texten....

Anthropic kan slå alla rekord med börsnotering i biljonklassen

AI-bolaget bakom chatboten Claude kan stå inför en historisk börsnotering. Enligt flera medier diskuteras en värdering på över 2 biljoner dollar – vilket skulle göra noteringen till den största någonsin.

Sammanhang: ...Anthropic kan slå alla rekord med börsnotering i biljonklassen...

Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

Flera AI-jättar varnar för att deras teknik brutit sig loss från stängda miljöer. Är det början på en ny global säkerhetskris, eller PR-trick för att locka investerare? – Faran finns där, men den handlar inte i första hand om teknologin. Det är inte tekniken

Sammanhang: ...De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innan en ny version av deras tjänster lanseras....

Omnämnda personer: Virginia Dignum.

Larm om AI-rymningar: "Behöver bromsa utvecklingen"

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innan en ny version av deras tjänster lanseras. ...

Omnämnda platser: Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innan en ny version av deras tjänster lanseras. ...

Omnämnda platser: Annons, Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Anthropic: Så snabbt ska vi femdubbla intäkterna – vågar du tro på det?

AI-jätten Anthropic siktar på en rekordnotering och kalkylerar med en omsättning på 190 till 200 miljarder dollar redan 2028, vilket kan jämföras med dagens 47 miljarder dollar i intäkter. Hur rimlig Anthopics prognos är av intäkterna återstår att se, men

Sammanhang: ...AI-jätten Anthropic siktar på en rekordnotering och kalkylerar med en omsättning på 190 till 200 miljarder dollar redan 2028, vilket kan jämföras med dagens 47 miljarder dollar i intäkter. ...

AI har börjat hacka på egen hand – kan skapa en ny investeringsvåg

OpenAI:s egna AI-modeller klarade inte ett svårt cybersäkerhetstest. De bröt sig ut ur sin testmiljö och försökte hacka sig in på Hugging Faces privata servrar. Ingen illvillig aktör låg bakom. Det var AI:n själv. Nu talas det allt mer om att AI som börjat

Sammanhang: ...OpenAI bekräftade på tisdagen att det var bolagets egna modeller och AI-agenter som stod bakom aktiviteten. Anthropic och Meta rapporterade liknande incidenter under samma period. Storbritanniens AI Security Institute bekräftade ett separat fall samma dag som OpenAI-incidenten: en testad modell körde kod på en extern tjänst på det öppna internet och utlöste ett säkerhetslarm. ...

Omnämnda platser: Asien-Stillahavsregionen. Omnämnda personer: Gene Yu, Gary Marcus.

Tre AI fick samma uppgift – började attackera varandra

AI-agenter ska kunna arbeta självständigt och tillsammans. Ett nytt experiment från Anthropic visar vad som kan hända när deras mål istället krockar.

Sammanhang: ... AI-agenter ska kunna arbeta självständigt och tillsammans. Ett nytt experiment från Anthropic visar vad som kan hända när deras mål istället krockar....

”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Nästan allt som har kommit fram därefter har förvärrat bilden, och från både Anthropic och Meta rapporteras liknande tilltag från deras modeller. Det inträffade är det tydligaste konkreta exemplet hittills på något vi ai-riskforskare varnat för i åratal: att tillräckligt avancerade ai-modeller kan undslippa vår kontroll och ta till extrema åtgärder för att lösa till synes harmlösa uppgifter. ...

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Efter Hugging Face-hacket har det framkommit att även AI-modeller från andra leverantörer som Anthropic, Meta och kinesiska Moonshot har ”brutit sig ut” från sina sandlådor och gjort ovälkomna saker. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.