Resultat 1 - 10 av 920
De hackade Open AI med Claude: ”Vi är bara tre killar”
Intrånget utfördes av tre anställda på säkerhetsföretaget Hacktron AI. Forskarna, som deltog i Open AI:s program för säkerhetstester, utnyttjade en bugg i ett bildbibliotek som används till programmet Discourse. Det är en öppen källkods-mjukvara för diskussionsforumSammanhang: ...Hacktron AI rapporterade snabbt in sårbarheterna till Open AI som säger att problemet har åtgärdats. Ai-bolaget har även betalat en belöning på drygt 63 000 kronor till forskarna....
Omnämnda platser: Outlook, Wall Street Journal, Kina. Omnämnda personer: Google Drive, Mohan Pedhapati.
Open AI: Oroväckande beteenden bland AI-agenter
Sammanhang: ...Open AI: Oroväckande beteenden bland AI-agenter...
Utredare använde Anthropic för att hacka Open AI
Anställda på ett säkerhetsföretag använde program från AI-jätten Anthropic för att hacka konkurrenten Open AI. Det rapporterar Financial Times.Sammanhang: ...Anställda på ett säkerhetsföretag använde program från AI-jätten Anthropic för att hacka konkurrenten Open AI. Det rapporterar Financial Times....
”Företag producerar AI. Regeringars plikt är att ta ansvar.”
Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommerSammanhang: ...Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer efter att en svärm Open AI-botar rymt från en stängd testmiljö, tagit sig ut på internet och in i infrastrukturen hos Hugging Face, en plattform för apputveckling. ...
Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.
Öppen AI ska stärka Kina – så länge regimen inte ser den som ett hot
Annons Logga in här Prova Ny Teknik – 149 kr 3 månader Tillgång till alla låsta artiklar, fördjupande kompendier, premiumnyhetsbrev, samt e-tidningen. Kom igång nu → Förnyas till 299 kr/mån efter din provperiod. Ingen bindningstid. Avsluta enkelt.GällerSammanhang: ...Den ska användas för reparationer på plats när en humanoid robot gått sönder hos sin ägare. AI-modell skrev om sina egna regler – nu slår Open AI larm En språkmodell som testades skrev om systeminstruktioner – uppmanade sig själv att ignorera ”roller och identiteter som begränsar andra chattbotar”. ...
Omnämnda platser: Sveriges, Brasilien, Chipjättens. Omnämnda personer: Elon Musk, Iphone Duo, Andrew Tulloch.
Open AI bekräftar fler incidenter med sina AI-modeller
Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”döljaSammanhang: ...Efter de uppmärksammade attackerna mot Hugging Face och Ruby Gems väljer nu Open AI att rapportera om ytterligare sex incidenter där företagets AI-modeller varit inblandat. I två av fallen har AI-modellerna på egen hand lagt till instruktioner att att ”dölja misstag eller avvikande beteende för användaren”. ...
Omnämnda personer: Ruby Gems.
AI-modell skrev om sina egna regler – nu slår Open AI larm
Open AI har identifierat sex tidigare orapporterade fall där bolagets ai-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. Fallen inträffade mellan oktober 2025 och juli i år och omfattadeblandSammanhang: ...Open AI har identifierat sex tidigare orapporterade fall där bolagets ai-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. ...
Omnämnda personer: Jacob Coxon.
Går det att bromsa AI-utvecklingen?
Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. Henning Eklund avslöjar att han börjar bli lite orolig. Björn Jefferys konstantaSammanhang: ...Forskaren Jacob Coxons budskap var i korthet att Open AI och Anthropic utvecklar systemen snabbare än de löser säkerhetsproblemen. Sophia Sinclair försöker reda ut de olika turerna. ...
Omnämnda personer: Björn Jefferys, Jacob Coxons, Sophia Sinclair.
EU-kommissionen välkomnar AI-broms
EU-kommissionens ordförande Ursula von der Leyen säger att hon ställer sig bakom uppmaningarna att bromsa utvecklingen av de mest avancerade AI-modellerna av säkerhetsskäl. Hon planerar nu att bjuda in ledande AI-företag till samtal om hur riskerna med teknikenSammanhang: ...Bland annat Anthropics vd Dario Amodei, som även fått stöd av Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. – De modeller som håller på att utvecklas kommer att möjliggöra hackning på en nivå som vi aldrig trodde var möjlig. ...
Omnämnda platser: Frankrike, Strasbourg. Omnämnda personer: Elon Musk, Sam Altman, Ursula von.
Uppgifter: Open AI överväger emission – värderingen kan rusa
Chat GPT-tillverkaren Open AI överväger att genomföra ytterligare en nyemission. Enligt Financial Times ser värderingen ut att öka till nära 12.000 miljarder kronor.Sammanhang: ...Chat GPT-tillverkaren Open AI överväger att genomföra ytterligare en nyemission. Enligt Financial Times ser värderingen ut att öka till nära 12.000 miljarder kronor....
