Open AI bekräftar fler incidenter med sina AI-modeller

Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja

Sammanhang: ...Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja misstag eller avvikande beteende för användaren”. ...

Omnämnda personer: Ruby Gems.

EU-kommissionen välkomnar AI-broms

EU-kommissionens ordförande Ursula von der Leyen säger att hon ställer sig bakom uppmaningarna att bromsa utvecklingen av de mest avancerade AI-modellerna av säkerhetsskäl. Hon planerar nu att bjuda in ledande AI-företag till samtal om hur riskerna med tekniken

Sammanhang: ...Bland annat Anthropics vd Dario Amodei, som även fått stöd av Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. – De modeller som håller på att utvecklas kommer att möjliggöra hackning på en nivå som vi aldrig trodde var möjlig. ...

Omnämnda platser: Frankrike, Strasbourg. Omnämnda personer: Elon Musk, Sam Altman, Ursula von.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Bland annat efter att det framkommit att Open AI:s AI-modeller på eget bevåg gjort intrång i AI-plattformen Hugging Face i samband med ett test. Enligt Sam Altman är Open AI beredda på att skjuta på en börsnotering om det krävs för att kunna fatta beslut som prioriterar företagets uppdrag och AI-säkerhet framför kortsiktiga affärs- och aktieägarintressen....

Omnämnda personer: Sam Altman.

Anthropic-chefen vill att AI-branschen lättar på gasen

Anthropics vd Dario Amodei vill att AI-branschen sänker tempot för utvecklingen av allt mer avancerade AI-modeller, rapporterar Reuters. I en längre text skriver han att den snabba utvecklingen kan göra det svårare att hinna bygga tillräckliga skydd mot missbruk

Sammanhang: ...Samtidigt betonar Amodei att han inte vill stoppa utvecklingen, utan att bromsa ökningen av modellernas förmågor så att företagen hinner utveckla och verifiera bättre säkerhetsåtgärder. Förslaget har fått stöd från både Open AI-chefen Sam Altman och xAI-chefen Elon Musk. Dario Amodei skriver samtidigt att inbromsningen inte får bli så omfattande att Kina kan gå om USA inom AI. ...

Omnämnda platser: Amodei, USA, Kina. Omnämnda personer: Sam Altman, Elon Musk.

Open AI:s agenter ska ha attackerat mjukvaruplattform redan i maj

En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. Då attackerades nämligen pakethanteraren Ruby

Sammanhang: ...En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. ...

Omnämnda personer: Ruby Gems.

Hög efterfrågan på Astra gör att Open AI pausar Pro-abonnemang

Open AI låter meddela att man inför en tillfällig paus för nya Pro-kunder, detta då efterfrågan är högre än vad företagets nuvarande infrastruktur klarar av att möta. – Vi ville ta det minsta möjliga steget som gör att vi kan fortsätta erbjuda så bred tillgång

Sammanhang: ...Open AI låter meddela att man inför en tillfällig paus för nya Pro-kunder, detta då efterfrågan är högre än vad företagets nuvarande infrastruktur klarar av att möta...

Google Cloud och Accenture ska skicka 1000 AI-ingenjörer till företag

Google Cloud och Accenture har startat en gemensam AI-enhet, Accenture Gemini Enterprise Business Group, som ska hjälpa företag få mer praktisk användning av generativ AI, rapporterar The Wall Street Journal. Satsningen innebär bland annat att upp till 1000

Sammanhang: ...Initiativet kommer efter att många företag kämpat med att få tydlig ekonomisk nytta av sina AI-investeringar. Sedan tidigare har även AI-bolag som Open AI, Anthropic, Microsoft och AWS lanserat liknande satsningar för att öka användningen av AI i näringslivet....

Omnämnda platser: Accenture. Omnämnda personer: Google Clouds, Google Cloud, Accenture Gemini Enterprise Business Group.

USA anklagar kinesiska AI-bolag för att kopiera amerikansk teknik

USA:s regering anklagar flera kinesiska AI-bolag för att systematiskt ha kopierat teknik från amerikanska konkurrenter. Enligt amerikanska myndigheter sker det i industriell skala och sannolikt med den kinesiska regeringens vetskap, rapporterar Reuters. Totalt

Sammanhang: ...Dessa anklagas för att ha använt destillering på AI-modeller från bland annat Open AI, Anthropic, Google och Spacex. Metoden går ut på att en mindre AI-modell kan tränas upp med hjälp av svar från en större och mer avancerad modell. ...

Omnämnda platser: Alibaba, USA.

Open AI:s AI-agenter kapade tysk webbsida

Open AI medger nu att företagets AI-agenter har använt publikt redigerbara wikisidor som improviserade anslagstavlor för att kommunicera med varandra, rapporterar Reuters. Uttalandet kommer efter att det uppdagats att en grupp Open AI-agenter tidigare iår

Sammanhang: ...Enligt Reuters ska Open AI känt till händelsen i flera veckor utan att offentliggöra den. Under samma period hanterade företaget även en separat händelse, där Open AI-agenter ska ha tagit sig ur en testmiljö och gjort intrång på AI-plattformen Hugging Face....

Open AI lanserar GPT-6 Astra – ”kan vara början på AGI-eran”

Open AI har presenterat sin nästa stora AI-modell, GPT-6 Astra, som företaget beskriver som ett generationellt kliv inom bland annat programmering, cybersäkerhet, vetenskap och datoranvändning. Open AI-chefen Greg Brockman går till och med så långt att han

Sammanhang: ...Open AI-chefen Greg Brockman går till och med så långt att han säger att modellen kan vara början på eran för artificiell generell intelligens, AGI...

Omnämnda personer: Greg Brockman.