Nvidia säljer superdator till Wallenbergsfären

Jensen Huang, vd för världens högst värderade bolag, Nvidia, är på besök i Stockholm. Besöket har föranletts av en affär mellan Nvidia och en grupp företag tillhörande Wallenbergsfären: Saab, Astra Zeneca, SEB, Ericsson och SKF. De senare har förvärvat en

Sammanhang: ...Det är följaktligen som leverantörer av produkter till företag som Open AI, Anthropic och Alphabet som Nvidia vuxit till den gigant bolaget är i dag. – När man pratar om att man behöver halvledare i bilar eller för att bygga AI-revolutionen så är det nästan alltid hans bolag man pratar om, säger Gunnar Harrius. ...

Omnämnda platser: Silicon, Stockholm, Alphabet. Omnämnda personer: Astra Zeneca, Gunnar Harrius, Jensen Huang.

Experten om AI-varningarna: ”Kan utplåna mänskligheten”

”Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen av AI system som är smartare än människor, och att vårt agerande under de kommande två till tio åren kommer avgöra utfallet”. Det skrev Geoffrey Irving, som tidigare jobbat

Sammanhang: ...AI växer exponentiellt Murray beskriver utvecklingen som exponentiell. På företaget Anthropic står AI för 80 procent av utvecklingskapaciteteten för att bygga ny kod, enligt Murray. – AI bygger AI. ...

Omnämnda personer: Geoffrey Irving.

Fler AI-toppar varnar: ”Pausa utvecklingen”

Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören. De senaste två är David Robinson och Geoffrey

Sammanhang: ...Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören. ...

Omnämnda personer: Geoffrey Irving, David Robinson, Jacob Coxon.

AI-jätten Anthropic lyfter risker för mänskligheten i prospekt

Financial Times och Reuters har fått insyn i delar av det prospekt som Anthropic ska släppa inför den planerade börsnoteringen. Enligt tidningen innehåller en tredjedel av prospektet som investerare får ta del av risker för vad dess agent Claude kan göra,

Sammanhang: ...Reuters har med hänvisning till källor tidigare rapporterat att en börsnotering kan bli aktuell först efter mellanårsvalet i USA i november. Anthropic har enligt Reuters avböjt att kommentera uppgifterna. Varnat för att människans roll minskar Amerikanska Anthropic grundades 2021 av tidigare OpenAI-anställda och konkurrerar nu med bland andra OpenAI, Google och Meta. ...

Omnämnda platser: USA.

AI-jättar utreder tusentals säkerhetsincidenter

Open AI, Anthropic och säkerhetsforskare utreder tiotusentals incidenter där avancerade AI-modeller har agerat på sätt som utvärderare skulle kunna betrakta som problematiska, uppger källor till Axios. Bland annat ska AI-agenter kringgått säkerhetsbegränsningar,

Sammanhang: ...Open AI, Anthropic och säkerhetsforskare utreder tiotusentals incidenter där avancerade AI-modeller har agerat på sätt som utvärderare skulle kunna betrakta som problematiska, uppger källor till Axios. ...

AI-toppar i FN: Krävs globalt säkerhetssamarbete

– Det har förekommit situationer där länder som konkurrerar och inte alltid uppskattar varandra ändå har kunnat förenas i gemensamma intressen och för det gemensamt bästa i mötet med en ny kraftfull teknologi. Vi anser att detta är en sådan situation, sade

Sammanhang: ...Varningen, som fick bifall från Altman och andra, kommer samtidigt som både Anthropic och Open AI förbereder börsnoteringar med värderingar som kan landa på uppemot 1 000 miljarder kronor. ...

Omnämnda platser: Amodei.

FN-chefen varnar för AI-risker – går emot Trumps linje

När världens ledare nästa vecka samlas i New York för FN:s årliga generalförsamling kommer hårdare tillsyn av AI att stå högt på Guterres dagordning. – Vi har inte råd att ignorera de farhågor som har lyfts, särskilt av dem som befinner sig i frontlinjen

Sammanhang: ...Forskare varnar för AI-risker Samtidigt växer oron för AI:s utveckling på flera håll. Förra veckan lämnade Anthropic-forskaren Jacob Coxon sitt jobb. Han hänvisade bland annat till att personer som utvecklar AI på allvar tror att tekniken kan döda oss alla före decenniets slut. ...

Omnämnda platser: Japan, Ryssland, New York. Omnämnda personer: Jacob Coxon, Donald Trumps.

Trots skarpa AI-varningar: Tech-racet mellan USA och Kina trappas upp

Konkurrensen mellan USA och Kina när det gäller utvecklingen av artificiell intelligens trappas upp. Trots att landets ledare har varit tydliga med att utvecklingen inte ska sakta ned, har flera AI-forskare gått ut och varnat för riskerna med AI:s framfart.

Sammanhang: ...Coxon meddelade i förra veckan att han lämnar sitt toppjobb på AI-jätten Anthropic och uppgav riskerna med den snabba utvecklingen som främsta anledning. Även AI-toppar som OpenAI:s vd Sam Altman, Anthropics vd Dario Amodei och xAI:s Elon Musk har gått ut och begärt mer statlig reglering i AI-frågan. ...

Omnämnda platser: USA, Konkurrensen, Peking. Omnämnda personer: Jacob Coxon, Xi Jinping, Donald Trump.

Lämnar AI-företaget – varnar för mänsklighetens undergång

I en tråd på X skriver Coxon att många chefer och seniora forskare inom AI-branschen uttrycker större oro privat än offentligt. Han varnar för en kapplöpning mot superintelligent AI utan tillräcklig förståelse för hur systemen fungerar. Coxon uppmanar därför

Sammanhang: ...Kritik mot uttalandet Evan Hubinger, säkerhetsforskare på Anthropic, bedömer risken för ett sådant scenario till omkring tio procent. Uttalandet har kritiserats för att sakna vetenskaplig grund....

Omnämnda personer: Evan Hubinger.

AI-bolagen anställer filosofer: ”Plockas upp ganska snabbt”

En rapport av Federal Reserve visar att amerikanska filosofistudenter har större chans att få jobb än sina jämlikar som studerat datavetenskap. Flera av dem rekryteras av AI-bolag redan innan de tagit examen, enligt Luciano Floridi, filosof vid Yale University,

Sammanhang: ...Även filosofi- och AI-experten Jörg Noller vid Ludwig Maximilian University i München ser ett intresse för filosofer hos de stora AI-företagen som Anthropic och Open AI. – Jag tror att fler och fler företag i framtiden kommer behöva filosofer som jobbar med dem, särskilt när det kommer till koncept som intelligens, säger Noller. ”Göra de bättre på att resonera” Varför är just filosofer eftertraktade? ...

Omnämnda platser: München, Yale. Omnämnda personer: Jörg Noller, Luciano Floridi, Daniel Greco.