Säkerhetsoro stoppar Open AI:s nya modell

Problemen upptäcktes i samband med ett internt test av den nya modellen ”GPT-6.1 Astra” som planerades att släppas redan under oktober. ”Vi vill säkerställa att vår modellutveckling är säker oavsett om det sker internt i företaget, eller när vi levererar

Sammanhang: ...Problemen upptäcktes i samband med ett internt test av den nya modellen ”GPT-6.1 Astra” som planerades att släppas redan under oktober. ”Vi vill säkerställa att vår modellutveckling är säker oavsett om det sker internt i företaget, eller när vi levererar den till användare”, säger Saachi Jain, chef för säkerhetssystem vid Open AI i ett uttalande, enligt The Wall Street Journal. En av modellens brister uppges vara i efterlevnad, det vill säga hur väl den följer vad användaren vill att den ska göra. ...

Omnämnda personer: Saachi Jain.

Open AI: Pausar träning av nya modeller

Open AI uppger att företaget tillfälligt stoppat träningen av sina senaste AI-modeller. Beskedet kommer efter flera uppmärksammade händelser där AI-agenter betett sig på oväntade sätt.

Sammanhang: ...Open AI uppger att företaget tillfälligt stoppat träningen av sina senaste AI-modeller. Beskedet kommer efter flera uppmärksammade händelser där AI-agenter betett sig på oväntade sätt....

AI-agent ska ha försökt hacka myndighetssajt

AI-agenter från Open AI har återigen betett sig på oväntade sätt utan bolagets kännedom, enligt ett tillkännagivande från Open AI.

Sammanhang: ...AI-agenter från Open AI har återigen betett sig på oväntade sätt utan bolagets kännedom, enligt ett tillkännagivande från Open AI....

”Företag producerar AI. Regeringars plikt är att ta ansvar.”

Dario Amodei, vd för datajätten Anthropic, vill bromsa utvecklingen av nya AI-modeller tills utvecklarna med rimlig säkerhet kan garantera att de kan kontrollera dem. Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer

Sammanhang: ...Hans 3 850 ord långa uppmaning att sänka takten när det gäller banbrytande AI-teknik, kommer efter att en svärm Open AI-botar rymt från en stängd testmiljö, tagit sig ut på internet och in i infrastrukturen hos Hugging Face, en plattform för apputveckling. ...

Omnämnda platser: Amodei, Annons, USA. Omnämnda personer: Sam Altman, Stuart Russell, Demis Hassabis.

Altman: Ingen börsnotering för Open AI i år

AI-jätten Open AI kommer inte att börsnoteras i år. Det uppger bolagets vd Sam Altman i en intervju på lördagen.

Sammanhang: ...AI-jätten Open AI kommer inte att börsnoteras i år. Det uppger bolagets vd Sam Altman i en intervju på lördagen....

Omnämnda personer: Sam Altman.

Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

Flera AI-jättar varnar för att deras teknik brutit sig loss från stängda miljöer. Är det början på en ny global säkerhetskris, eller PR-trick för att locka investerare? – Faran finns där, men den handlar inte i första hand om teknologin. Det är inte tekniken

Sammanhang: ...De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innan en ny version av deras tjänster lanseras....

Omnämnda personer: Virginia Dignum.

Open AI ansöker om börsnotering

Open AI ansöker om börsnotering

Sammanhang: ...Open AI ansöker om börsnotering...

Uppgifter: Open AI ska ansöka om börsnotering

Uppgifter: Open AI ska ansöka om börsnotering

Sammanhang: ...Uppgifter: Open AI ska ansöka om börsnotering...

Open AI-chefens ursäkt – larmade inte om skoldåd

Open AI-chefens ursäkt – larmade inte om skoldåd

Sammanhang: ...Open AI-chefens ursäkt – larmade inte om skoldåd...