Anthropic-chefen efterlyser en säkrare utvecklingstakt – kommer någon att lyssna?

Varningar från AI-utvecklare kan kännas skenheliga och paradoxala eftersom de varnar för produkten de själva utvecklar – som om det vore en oundviklig nödvändighet att skapa AGI och inte ett aktivt val av människor. Och trots de egna varningarna fortsätter

Sammanhang: ...För om folk verkligen trodde att de hade behövt rulla en tiosidig tärning för att se om de kommer att dö eller inte hade reaktionen varit kraftigare. Dario Amodei (f. 1983) grundade Anthropic med sin syster Daniela år 2021 efter att de lämnat Open AI. Nu har Anthropic-chefen efterlyst en långsammare och säkrare utvecklingstakt för AI, i ett inlägg på sin personliga blogg. ...

Omnämnda platser: Amodei, Amodeis.

Anthropic-forskare: Tio procents risk att AI dödar oss inom tio år

Säkerhetsforskare på Anthropic har sagt att de på allvar tror att det finns en risk att artificiell intelligens kommer att döda alla människor, vilket är anmärkningsvärt. Evan Hubinger uppskattar personligen att risken är minst tio procent de kommande tio

Sammanhang: ...Uttalandena gjordes apropå att en kollega – Jacob Coxon – sa upp sig från Anthropic i protest mot vad han anser är otillräckliga säkerhetsåtgärder. Coxon menar att Anthropic och andra AI-utvecklare vårdslöst bygger självförbättrande system de inte kan kontrollera. ...

Omnämnda personer: Evan Hubinger.

Anthropic tankade torrents enligt stämning av Sony och Warner

Sony Music Publishing och Warner Chappell Music har tillsammans stämt Anthropic för upphovsrättsintrång. Claude-utvecklaren anklagas för att ha laddat hem torrents, för att ha utfört omfattande webbskrapning och för att ha tagit enorma mängder upphovsrättsskyddat

Sammanhang: ...Att ta material utan ersättning är inte unikt för Anthropic utan något så gott som alla de stora AI-utvecklarna gjort för att träna sina modeller....

Omnämnda personer: Sony Music Publishing.

Claude börjar vattenstämpla text för att tydliggöra ursprunget

Claude har börjat vattenstämpla text som modellen genererar. Anthropic verkar delvis ha genomfört ändringen för att följa EU:s regelverk för artificiell intelligens. Tack vare markeringarna inuti själva texten går det att se att texten har genererats av AI.

Sammanhang: ...Claude har börjat vattenstämpla text som modellen genererar. Anthropic verkar delvis ha genomfört ändringen för att följa EU:s regelverk för artificiell intelligens. ...

Anthropics modeller hackade oavsiktligt tre företag under säkerhetstest

När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget

Sammanhang: ...Anthropic skyller på ett missförstånd med en ”utvärderingspartner” som ska ha resulterat i att Claude kunde ta sig ut på nätet. ...

Omnämnda personer: Hugging Face.

Hemsida visar hur mycket AI-företagen går back på AI

En hemsida med det självbeskrivande namnet ”Is AI profitable yet?” gör en uppskattning av hur mycket de stora AI-aktörerna lagt ut respektive tjänat på tekniken. Enligt sidans sätt att räkna på har alla företagen gjort stora förluster på AI förutom Nvidia.

Sammanhang: ...Oavsett målar sidan en korrekt bild av de astronomiska beloppen techjättarna investerar i artificiell intelligens. Open AI har aldrig gjort vinst, men Anthropic blir eventuellt ett undantag under ett enskilt kvartal....

Anthropic nu värderat till nästan tio biljoner

Efter nya investeringar på 65 miljarder dollar är Claude-utvecklaren Anthropic värderad till nästan tio biljoner (tiotusen miljarder) kronor post-money. Enligt ett tillkännagivande förväntas den senaste finansieringen avancera utvecklarens säkerhetsforskning,

Sammanhang: ...Inga av de största fristående AI-utvecklarna är lönsamma än, men Anthropic kan bli ett undantag. Företaget räknar med att göra en vinst på runt 559 miljoner dollar under årets andra kvartal (april–juni). ...

Anthropic kan för första gången bli lönsamt under ett kvartal

Anthropic har meddelat investerare att företaget för första gången kommer tjäna mer pengar än det gör av med. Intäkterna under andra kvartalet förväntas bli cirka 10,9 miljarder dollar – mer än en dubblering jämfört med första kvartalet. De ökade intäkterna

Sammanhang: ...Anthropic har meddelat investerare att företaget för första gången kommer tjäna mer pengar än det gör av med. ...

Rapport: Anthropic ska köpa chipp och molntjänster av Google för 200 miljarder dollar

Vi investerar i dig: du använder en del av pengarna till att köpa tjänster av oss. Så fungerar ofta den cirkulära finansieringen i AI-branschen. Google investerade nyligen upp till 40 miljarder dollar i Claude-utvecklaren Anthropic. Enligt The Information

Sammanhang: ...Reuters har inte kunnat verifiera rapporten från The Information. Anthropic valde att inte kommentera saken, medan Google hänvisade till Anthropic....

Google investerar upp till 40 miljarder dollar i Claude-utvecklaren Anthropic

Techjättarna tror på Anthropic. Google, Microsoft, Nvidia och Amazon har investerat många miljarder i Claude-utvecklaren. Ofta handlar det om ”cirkulär finansiering”: vi investerar i dig och du köper tjänster eller varor av oss, likt beräkningskraft eller

Sammanhang: ...De nya investeringarna värderar Anthropic till 350 miljarder dollar....

Omnämnda platser: Anthropic.