Anthropic ger externa AI-granskare full tillgång till interna system

Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering, rapporterar Techcrunch. Forskarnas

Sammanhang: ...Upplägget kommer efter flera uppmärksammade händelser där AI-agenter agerat utanför sina instruktioner. I september presenterade Anthropics vd Dario Amodei ett förslag om att just släppa in oberoende granskare i AI-laboratorier....

Europeiska AI-bolag säger nej till inbromsning

Flera europeiska AI-bolag vänder sig mot de amerikanska uppmaningar som kommit om att bromsa utvecklingen av artificiell intelligens, rapporterar Reuters. Anthropics vd Dario Amodei har uppmanat ledande AI-företag att dra ner på takten vad gäller att utveckla

Sammanhang: ...Flera europeiska AI-bolag vänder sig mot de amerikanska uppmaningar som kommit om att bromsa utvecklingen av artificiell intelligens, rapporterar Reuters. Anthropics vd Dario Amodei har uppmanat ledande AI-företag att dra ner på takten vad gäller att utveckla allt kraftfullare modeller. ...

Omnämnda platser: Frankrikes. Omnämnda personer: Sam Altman, Elon Musk.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med alignment för superintelligens och är inte tydligt på väg att göra det”, skrev Evan Hubinger, som leder Anthropics alignment-forskning. Och när helgen kom publicerade Anthropics vd Dario Amodei en essä där han förespråkar en inbromsning av AI-utvecklingen för att riskhanteringen ska hinna med. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

EU-kommissionen välkomnar AI-broms

EU-kommissionens ordförande Ursula von der Leyen säger att hon ställer sig bakom uppmaningarna att bromsa utvecklingen av de mest avancerade AI-modellerna av säkerhetsskäl. Hon planerar nu att bjuda in ledande AI-företag till samtal om hur riskerna med tekniken

Sammanhang: ...Sedan tidigare har flera framträdande personer inom AI-branschen själva efterlyst en långsammare utveckling. Bland annat Anthropics vd Dario Amodei, som även fått stöd av Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. – De modeller som håller på att utvecklas kommer att möjliggöra hackning på en nivå som vi aldrig trodde var möjlig. ...

Omnämnda platser: Frankrike, Strasbourg. Omnämnda personer: Elon Musk, Sam Altman, Ursula von.

Anthropic-chefen vill att AI-branschen lättar på gasen

Anthropics vd Dario Amodei vill att AI-branschen sänker tempot för utvecklingen av allt mer avancerade AI-modeller, rapporterar Reuters. I en längre text skriver han att den snabba utvecklingen kan göra det svårare att hinna bygga tillräckliga skydd mot missbruk

Sammanhang: ...Anthropics vd Dario Amodei vill att AI-branschen sänker tempot för utvecklingen av allt mer avancerade AI-modeller, rapporterar Reuters. ...

Omnämnda platser: Amodei, USA, Kina. Omnämnda personer: Sam Altman, Elon Musk.

Techjättarna vill ha vår el – vad får vi tillbaka?

Motståndet mot nya datacenter sprids och blir allt starkare i framför allt USA (men inte bara där) och det är lätt att tro att det hela drivs av en AI-backlash. I den amerikanska techdebatten har det exempelvis nu börjat lyftas kritik mot Anthropics Dario

Sammanhang: ...I den amerikanska techdebatten har det exempelvis nu börjat lyftas kritik mot Anthropics Dario Amodei och Open AI:s Sam Altman för att de skrämt upp folk för mycket med sitt prat om att AI kommer ta alla jobb. ...

Omnämnda platser: Sverige, Sundsvall, USA. Omnämnda personer: Sam Altman, Niklas Wykman.

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral och Hugging Face. Vd:n Dario Amodei skriver att regleringen istället bör utgå från en AI-modells faktiska kapacitet och risker. ...

Omnämnda platser: Meta.

Trump ser inte längre Anthropic som ett säkerhetshot

USA:s president Donald Trump säger i en intervju med Axios att han inte längre ser AI-bolaget Anthropic som ett nationellt säkerhetshot. I intervjun säger Trump att han möjligen såg Anthropic som ett säkerhetshot för en vecka sedan, men att han har ändrat

Sammanhang: ...Förra veckan beordrade Trumpadministrationen Anthropic att blockera utländska användare från att använda modellerna, vilket fick företaget att stänga av åtkomsten för samtliga användare. Presidenten berömde samtidigt Anthropics vd Dario Amodei för att ha svarat ”mycket snabbt” och ”ansvarsfullt” på administrationens exportkontrollkrav....

Omnämnda personer: Trumpadministrationen Anthropic.

EU:s nya tillväxtfond ska förhindra att startups lämnar Europa

Satsningen är en del av en bredare satsning för att stärka EU:s techsektor efter Draghis rapport om konkurrenskraft från 2024. Andra initiativ inkluderar EU Inc-förslag som syftar till att minska byråkratin för nystartade företag och ett paket för teknisk

Sammanhang: ...Europeiska tech-startups lider av en ”svag kultur av privat finansiering för entreprenörskap” i EU, säger Forrester-analytikern Dario Maisto, som fokuserar på molntjänster och digital suveränitet. Offentliga finansieringsmekanismer belönar ofta administrativ efterlevnad snarare än kommersiellt bärkraftiga företag, säger han. ...

Omnämnda platser: USA, Europa, Nordamerika. Omnämnda personer: Scaleup Europe, Richard Stevens.

Anthropic tar Trump-administrationen till domstol

Nu är det officiellt att Pentagon har klassat Anthropic som en nationell säkerhetsrisk. Bakgrunden är en konflikt mellan Trumpadministrationen och Anthropic om hur bolagets AI får användas, där Anthropic vill se restriktioner som förbjuder Claude att användas

Sammanhang: ...Vi är båda engagerade i att främja USA:s nationella säkerhet och försvara det amerikanska folket, skriver Anthropic-grundaren Dario Amodei. ...

Omnämnda platser: Trumpadministrationen. Omnämnda personer: Dario Amodei.