De hackade Open AI med Claude: ”Vi är bara tre killar”

Intrånget utfördes av tre anställda på säkerhetsföretaget Hacktron AI. Forskarna, som deltog i Open AI:s program för säkerhetstester, utnyttjade en bugg i ett bildbibliotek som används till programmet Discourse. Det är en öppen källkods-mjukvara för diskussionsforum

Sammanhang: ...Intrånget utfördes av tre anställda på säkerhetsföretaget Hacktron AI. Forskarna, som deltog i Open AI:s program för säkerhetstester, utnyttjade en bugg i ett bildbibliotek som används till programmet Discourse. ...

Omnämnda platser: Outlook, Wall Street Journal, Kina. Omnämnda personer: Google Drive, Mohan Pedhapati.

Varnar: Räcker inte att bromsa – AI måste stoppas

I helgen publicerade AI-jätten Anthropics vd Dario Amodei ett långt blogginlägg där han uppmanade till en gemensam inbromsning av AI-tekniken. “Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas förmågor. Framstegen kommer fortfarande attverka

Sammanhang: ...Framstegen kommer fortfarande att verka snabba, och vi måste använda tiden vi vinner på ett klokt sätt”, skriver Amodei. I inlägget, som fått stöd av både Open AI:s vd Sam Altman och techmiljardären Elon Musk, pekar Amodei på att AI nu har en “växande förmåga” att utveckla sig självt. ...

Omnämnda platser: Meta, Amodei. Omnämnda personer: Sam Altman, Olle Häggström, Elon Musk.

Zuckerberg och Huang går emot AI-topparna: Vill inte bromsa utvecklingen

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Annons Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Dario Asmodei, Sam Altman.

Topparna går emot konkurrenterna om AI

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänskligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Sam Altman, Dario Asmodei.

Zuckerberg och Huang säger nej till att sakta ned AI – går emot branschen

Mark Zuckerberg och Jensen Huang, vd för Meta respektive Nvidia, tycker inte att AI-utvecklingen ska bromsas. De går därmed emot sina konkurrenter i frågan. Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Mark Zuckerberg, Dario Asmodei, Sam Altman.

Topparna går emot konkurrenterna om AI

Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller som utvecklas, men att utvecklingen inte behöver bromsas genom branschöverskridande regelverk. ”Vi väntade i flera månader med att lansera Muse (Metas AI-tjänst)

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten....

Omnämnda platser: X., Metas. Omnämnda personer: Sam Altman, Dario Asmodei.

Trump till nytt angrepp mot krav på AI-broms

”Den enda kontroll eller ’skyddsräcke’ som AI behöver är en stark och smart (högt IQ) president och det har USA, i övermått!” skriver Trump i ett inlägg på Truth Social. Han beskriver det som avgörande med en ohämmad teknologiutveckling för att ”vinna” över

Sammanhang: ...Utspelet är det senaste där den amerikanske presidenten tonar ner behovet av att bromsa AI, något som flera branschtoppar – bland dem Open AI:s Sam Altman, entreprenören och miljardären Elon Musk och Anthropics vd Dario Amodei – efterlyst de senaste dagarna med hänvisning till säkerhetsrisker. ...

Omnämnda platser: Amodei, Kina, USA. Omnämnda personer: Sam Altman.

AI-oro får börserna att skaka – Nvidia faller

AI-boomen har utlöst investeringar på hundratals miljarder i chip och datacenter. Men på måndagen föll flera av bolagen som tjänat mest på utbyggnaden. Detta efter nya krav på att bromsa utvecklingen av de mest avancerade AI-modellerna. Bakgrunden är ett

Sammanhang: ...Utspelet fick snabbt stöd från flera konkurrenter. Open AI:s vd Sam Altman skrev att han höll med, och lovade att Open AI ska ge oberoende granskare långtgående tillgång till bolagets modeller. ...

Omnämnda platser: Ipek Ozkardeskaya, Alphabet, Europa. Omnämnda personer: Sam Altman, D.A. Davidson, Gil Luria.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026...

Omnämnda personer: Sam Altman.

Open AI:s agenter ska ha attackerat mjukvaruplattform redan i maj

En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. Då attackerades nämligen pakethanteraren Ruby

Sammanhang: ...Som en direkt följd av attacken tvingades Ruby Gems att sätta stopp för nya användare under en period på fyra dagar. I en kommentar till The Verge ifrågasätter Open AI:s talesperson Kayla Wood uppgifterna och säger att företaget ska genomföra en egen utredning av incidenten....

Omnämnda personer: Ruby Gems.