Open AI stoppar lanseringen av GPT-6.1 Astra

Open AI låter meddela att man har stoppat den planerade utrullningen av GPT-6.1 Astra, en av företagets mest kraftfulla AI-modeller hittills. Anledningen till stoppet är att GPT-6.1 Astra inte anses ha nått upp till företagets säkerhetsstandard, rapporterar

Sammanhang: ...Men när vi släpper den till användare ställer vi extremt höga krav på säkerhet, säger Open AI:s säkerhetschef Saachi Jain i ett uttalande....

Omnämnda personer: GPT-6.1 Astra, Open AI:s.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....

Omnämnda personer: Jensen Huang.

AI-agent från Open AI hackade sjukvårdsportal

Nu står det klart att en AI-agent från Open AI på eget bevåg hackade den australiska sjukvårdsportalen Medicare den 18 juni. I samband med attacken lyckades AI-agenten få tillgång till ett stort antal filer, men exakt vilka filer det rör sig om är föremål

Sammanhang: ...Australiens premiärminister Anthony Albanese har nu haft ett allvarligt samtal med Open AI:s vd Sam Altman gällande attacken, rapporterar den australiska tv-kanalen ABC. Bland annat ställdes frågan varför Open AI väntat tre månader med att offentliggöra incidenten och varför företaget nöjde sig med att skicka ett mejl om saken. ...

Omnämnda personer: Hugging Face, Sam Altman.

Molnhaveriet som borde sätta skräck i it-cheferna

Den 3 september började som vilken torsdag som helst – tills den plötsligt inte var det längre. Inom loppet av ungefär 90 minuter drabbades Chat GPT, Claude, Grok och till och med Microsofts egen Copilot av försämrad prestanda eller lade av ned, till följd

Sammanhang: ...Downdetector registrerade mer än 37 000 rapporter enbart för Chat GPT, över 1 300 för Claude och cirka 1 365 för Grok. Open AI:s statussida visade på ett ökat antal fel i 15 Chat GPT-komponenter och fyra Codex-komponenter, och när teknikerna väl hade fått åtgärder på plats hade det sammanlagda antalet rapporter stigit till över 66 000. ...

Omnämnda platser: Copilot, Microsofts, USA. Omnämnda personer: Chat GPT, Google Cloud.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Bland annat vill han se oberoende utvärderingar, nya regleringar och global koordination på regeringsnivå. Amodei fick snart medhåll av både Open AI:s Sam Altman och Elon Musk – vilket i sig är anmärkningsvärt eftersom samtliga inblandade inte direkt gillar varandra – och plötsligt var frågan om det som kallas ”AI safety” högst på den globala agendan där såväl Donald Trump som EU-kommissionen uttalat sig. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Forskare hackade Open AI med hjälp av Claude

En grupp säkerhetsforskare från Hacktron AI har lyckats ta sig förbi Open AI:s säkerhetssystem och på så sätt fått tillgång till företagets interna filer. Forskarna tog sig in genom att komma över en Open AI-anställds Chat GPT-konto. Det anmärkningsvärda

Sammanhang: ...Det anmärkningsvärda är att forskarna tog hjälp av Claude, en AI-modell från Open AI:s konkurrent Anthropic....

Omnämnda platser: Hacktron.

Sam Altman: Ingen börsnotering för Open AI under 2026

Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026. – Jag anser faktiskt att det, med tanke på allt som händer vad gäller säkerheten, just nu vore ett olämpligt tillfälle att börsnoteras,

Sammanhang: ...Open AI:s vd Sam Altman har i en intervju med Fortune bekräftat att AI-företaget inte kommer att börsnoteras under 2026...

Omnämnda personer: Sam Altman.

Open AI:s agenter ska ha attackerat mjukvaruplattform redan i maj

En av sommarens mest uppmärksammade tekniknyheter var incidenten där AI-agenter från Open AI ”rymde” och attackerade plattformen Hugging Face. Nu står det klart att en liknande händelse inträffade redan i maj. Då attackerades nämligen pakethanteraren Ruby

Sammanhang: ...Som en direkt följd av attacken tvingades Ruby Gems att sätta stopp för nya användare under en period på fyra dagar. I en kommentar till The Verge ifrågasätter Open AI:s talesperson Kayla Wood uppgifterna och säger att företaget ska genomföra en egen utredning av incidenten....

Omnämnda personer: Ruby Gems.

Hög efterfrågan på Astra gör att Open AI pausar Pro-abonnemang

Open AI låter meddela att man inför en tillfällig paus för nya Pro-kunder, detta då efterfrågan är högre än vad företagets nuvarande infrastruktur klarar av att möta. – Vi ville ta det minsta möjliga steget som gör att vi kan fortsätta erbjuda så bred tillgång

Sammanhang: ... – Vi ville ta det minsta möjliga steget som gör att vi kan fortsätta erbjuda så bred tillgång som möjligt, säger Open AI:s produktchef Thibault Sottiaux i en kommentar som återges av CIO.com. Den främsta förklaringen till den ökade efterfrågan är förra veckans lansering av Astra, en kraftfull AI-modell som enligt Open AI vara början på den så kallade AGI-eran....

Open AI:s AI-agenter kapade tysk webbsida

Open AI medger nu att företagets AI-agenter har använt publikt redigerbara wikisidor som improviserade anslagstavlor för att kommunicera med varandra, rapporterar Reuters. Uttalandet kommer efter att det uppdagats att en grupp Open AI-agenter tidigare iår

Sammanhang: ...Open AI:s AI-agenter kapade tysk webbsida...