Anthropic larmar: Människans kontroll över AI kan vara på väg att försvagas

”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget.

Sammanhang: ...”Vi anser att det vore bra för världen att ha möjligheten att bromsa eller tillfälligt avbryta utvecklingen av banbrytande AI, så att samhällsstrukturerna och forskningen om etisk anpassning hinner hålla jämna steg med teknikens framsteg”, skriver företaget. Anthropic menar att beslutet måste komma från hela branschen för att det ska kunna vara effektivt och för att enskilda länder och företag ska slippa slitas mellan säkerhet och att hamna på efterkälken i utvecklingen. ...

Anthropic tar första steget mot börsen

Det amerikanska AI-företaget Anthropic låter meddela att man har skickat in en registrering till U.S. Securities and Exchange Commission som ett förberedande steg inför en börsintroduktion. Anthropic är för närvarande värderat till 965 miljarder dollar,

Sammanhang: ...Det amerikanska AI-företaget Anthropic låter meddela att man har skickat in en registrering till U.S. Securities and Exchange Commission som ett förberedande steg inför en börsintroduktion. ...

”Farliga” AI:n har hittat tiotusentals sårbarheter

Den 7 april ringde det amerikanska AI-företaget Anthropic i larmklockan. Deras nya AI-modell Claude Mythos förmåga att koda var så pass hög att den var obehagligt bra på att hitta – och utnyttja – säkerhetshål. Mythos hittade sårbarheter i alla stora operativsystem

Sammanhang: ...Den 7 april ringde det amerikanska AI-företaget Anthropic i larmklockan. Deras nya AI-modell Claude Mythos förmåga att koda var så pass hög att den var obehagligt bra på att hitta – och utnyttja – säkerhetshål. ...

Omnämnda personer: Gerald Mako.

Orkar du inte höra mer om eländet i den svenska skolan? Här är boken för dig – Sydsvenskan

Böcker Orkar du inte höra mer om eländet i den svenska skolan? Här är boken för dig Antologin ”Den spanande ugglan”, med Jenny Maria Nilsson som redaktör, handlar om vinsterna med bildning och att sätta kunskapen först. Vill du ligga i framkant? Då skadu

Sammanhang: ...Tidigare i år intervjuades Daniela Amodei, vd för AI-företaget Anthropic, i amerikansk tv. Hon fick frågan om hon ångrade att hon studerat engelsk litteratur på universitetet. ...

Omnämnda platser: Tiktok, Annons, Höganäs. Omnämnda personer: Jenny Maria Nilssons, Klas Ekman, Ming Lorentzson.

JUST NU: Google varnar hela världen – finns nu överallt

JUST NU: Google varnar hela världen – finns nu överallt På enbart ett par månader har allt eskalerat. Nu måste hela världen vara på sin vakt. Det framhåller Google i en ny rapport där teknikjätten varnar för att AI-drivna hackerförsök gått från ett mindre

Sammanhang: ...Vågade inte Ett exempel på allvaret i varningen är när AI-företaget Anthropic förra månaden vägrade att släppa en av sina nyare modeller, Mythos. Skälet var att man helt enkelt inte vågade. ...

Omnämnda platser: Ryssland, Kina. Omnämnda personer: John Hultquist, Google Cloud, Elon Musk.

Google ska langa in mer pengar i Anthropic

Planerar att investera upp till 40 miljarder dollar i AI-företaget Google fortsätter att investera i AI-företaget Anthropic och planerar nu att plöja ner ytterligare 40 miljarder dollar i AI-företaget, rapporterar nyhetsbyrån

Sammanhang: ... Planerar att investera upp till 40 miljarder dollar i AI-företaget Google fortsätter att investera i AI-företaget Anthropic och planerar nu att plöja ner ytterligare 40 miljarder dollar i AI-företaget, rapporterar nyhetsbyrån Bloomberg. ...

Omnämnda platser: Bloomberg, Google, Anthropic.

Amazon langar in mer pengar i Anthropic

Partnerskapet utökas Amazon meddelade under gårdagen att man kommer att investera upp till 25 miljarder dollar i AI-företaget Anthropic och att Anthropic i sin tur kommer att köpa både chip och tjänster från Amazons molntjänst

Sammanhang: ... Partnerskapet utökas Amazon meddelade under gårdagen att man kommer att investera upp till 25 miljarder dollar i AI-företaget Anthropic och att Anthropic i sin tur kommer att köpa både chip och tjänster från Amazons molntjänst AWS. ...

Omnämnda platser: Anthropic.

Varnar för nya AI-verktyget – kallar till krismöte: ”För farlig”

Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna

Sammanhang: ...Det amerikanska AI-företaget Anthropic dröjer med att släppa sin nya AI-modell Claude Mythos till allmänheten. Orsaken: den anses vara för farlig. ”AI-modeller har nått en nivå av programmeringsförmåga där de kan överträffa alla – utom de mest skickliga människorna – när det gäller att hitta och utnyttja sårbarheter i programvara”, uppgav Anthropic i ett uttalande i samband med lanseringen. ...

Omnämnda platser: New York Times, Breakit, England. Omnämnda personer: Claude Mythos, Jerome Powell, Elia Zaitsev.

Anthropic vill göra det enklare att bygga AI-agenter

Introducerar Claude Managed Agents AI-företaget Anthropic har presenterat något som man kallar för "Claude Managed Agents" vilket man hoppas ska göra det smidigare för företag att utveckla olika typer av AI-agenter

Sammanhang: ... Introducerar Claude Managed Agents AI-företaget Anthropic har presenterat något som man kallar för "Claude Managed Agents" vilket man hoppas ska göra det smidigare för företag att utveckla olika typer av AI-agenter till sin verksamhet. ...

Omnämnda personer: Claude Managed.

Anthropic lanserar säkerhetsinitiativet Glasswing

Använder AI för att hitta kritiska säkerhetsbuggar AI-företaget Anthropic har presenterat ett säkerhetsinitiativ som kallas "Project Glasswing" där man använder AI för att hitta och fixa säkerhetsluckor i många

Sammanhang: ... Använder AI för att hitta kritiska säkerhetsbuggar AI-företaget Anthropic har presenterat ett säkerhetsinitiativ som kallas "Project Glasswing" där man använder AI för att hitta och fixa säkerhetsluckor i många av de program, appar och tjänster som används i stor omfattning, bland annat i mjukvara från företag som Google, Apple, Microsoft, Amazon (AWS), Nvidia och Linux Foundation. ...

Omnämnda platser: Apple. Omnämnda personer: Linux Foundation, Mythos Preview, Claude Mythos Preview.