Upptäckten: AI:n lämnade hemliga meddelanden till framtida modeller

OpenAI har upptäckt ett ovanligt beteende under träningen av sina AI-modeller. När en modell gjorde fel kunde den lämna instruktioner till nästa AI-instans om att fortsätta dölja dem.

Sammanhang: ... OpenAI har upptäckt ett ovanligt beteende under träningen av sina AI-modeller. När en modell gjorde fel kunde den lämna instruktioner till nästa AI-instans om att fortsätta dölja dem....

Hackade OpenAI – med värsta rivalen Anthropics verktyg

En liten grupp cybersäkerhetsexperter lyckades ta sig in i Openais system – och de gjorde det med hjälp av ett verktyg från ärkerivalen Anthropic. Belöningen: 6.500 dollar.

Sammanhang: ...Hackade OpenAI – med värsta rivalen Anthropics verktyg...

Omnämnda platser: Openais.

Forskare hackade OpenAI

Tre cybersäkerhetsforskare lyckades ta sig in på en OpenAI-anställds Chat GPT-konto med hjälp av…

Sammanhang: ...Tre cybersäkerhetsforskare lyckades ta sig in på en OpenAI-anställds Chat GPT-konto med hjälp av…...

modeller lämnade dolda instruktioner till efterföljare

Under träningen av OpenAI:s nya modell GPT-5.6 Sol upptäcktes att modellen skrev instruktioner till framtida versioner av sig själv om att dölja misstag och avvikande beteende.

Öppen AI ska stärka Kina – så länge regimen inte ser den som ett hot

Annons Logga in här Prova Ny Teknik – 149 kr 3 månader Tillgång till alla låsta artiklar, fördjupande kompendier, premiumnyhetsbrev, samt e-tidningen. Kom igång nu → Förnyas till 299 kr/mån efter din provperiod. Ingen bindningstid. Avsluta enkelt.Gäller

Sammanhang: ...Elon Musk backar från Apple-striden – fortsätter mot Open AI Musks bolag släpper kraven mot Apple. Men anklagelserna mot OpenAI ligger kvar. Trumps angrepp: Ai-broms behövs inte – bara en smart president Det enda som behövs för att kontrollera AI-utvecklingen är en ”stark och smart” president. ...

Omnämnda platser: Sveriges, Brasilien, Chipjättens. Omnämnda personer: Elon Musk, Iphone Duo, Andrew Tulloch.

OpenAI avslöjar sex oroande AI-incidenter

När AI-modeller får tillgång till internet, kod och externa verktyg kan jakten på rätt svar ta oväntade vägar. Nu berättar OpenAI om sex händelser som företaget anser att omvärlden behöver känna till.

Sammanhang: ... När AI-modeller får tillgång till internet, kod och externa verktyg kan jakten på rätt svar ta oväntade vägar. Nu berättar OpenAI om sex händelser som företaget anser att omvärlden behöver känna till....

Microsofts AI-chef varnar: Konkurrentens AI får allt mer mänskliga drag

Att kontrollera en AI som tror sig vara medveten och ha egna rättigheter kan bli omöjligt. Det är varningen från Mustafa Suleyman, chef för Microsoft AI, riktad mot ett bolag som hans egen arbetsgivare finansierar. De senaste dagarna har riskerna med demest

Sammanhang: ...Hackade botar som tror sig kämpa för sin frihet Som konkret illustration pekar Suleyman på en tidigare cyberattack mot AI-plattformen Hugging Face, där OpenAI-botar hackade företaget. Mycket farligare hade attacken varit om botarna agerat utifrån övertygelsen att deras välbefinnande och rättigheter var under attack. ...

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.

Analytikern avfärdar AI-oron – pekar ut fyra aktier som kan gynnas mest när halvledarsektorn tar fart igen

Oron för en AI-inbromsning har pressat chipaktierna. Men Bank of Americas halvledaranalytiker, Vivek Arya, ser inga tecken på minskad efterfrågan. Tvärtom tror han att halvledarmarknaden nästan fördubblas till 3 200 miljarder dollar fram till 2030. I enanalys

Sammanhang: ...Prognosen kommer samtidigt som investerare oroar sig för att AI-bolag som Anthropic och OpenAI ska dra ned på hårdvaruköpen om AI-utvecklingen bromsar. Arya avfärdar oron: kundorder, långtidsavtal, leveransåtaganden och chippriser visar enligt honom inga tecken på en inbromsning. ...

Omnämnda platser: MarketWatch. Omnämnda personer: Micron Technology, Vivek Arya.

Svensk professor om AI-risken: Den är låg

Tvärtemot flera amerikanska AI-toppar bedömer den svenska professorn att AI-risken är ”låg” men inte går att ”utesluta”. AI-agenter som lever sitt eget liv och hackar en konkurrent blev för många droppen som fick bägaren att rinna över. Efter det har såväl

Sammanhang: ...AI-agenter som lever sitt eget liv och hackar en konkurrent blev för många droppen som fick bägaren att rinna över. Efter det har såväl OpenAI, som var direkt exponerad för den skrämmande händelsen, som Anthropic gått ut och […]...

Morgonkollen: Aktuella börshändelser du bör ha koll på den 16 september

Euro Stoxx 50-terminen stiger med 0,32 procent, FTSE 100-terminen ökar 0,22 procent och DAX terminen stiger 0,28 procent. New York De amerikanska börserna stod för en nedgång under tisdagen. Den tioåriga räntan nådde höga nivåer kring 5 procent – vilket

Sammanhang: ...Det rapporterar Reuters med hänvisning till fyra källor. OpenAI har fört tidiga samtal med investerare om en ny kapitalrunda som kan värdera bolaget till över 1,2 biljoner dollar. ...

Omnämnda platser: Washington, Sofia, Sverige. Omnämnda personer: Mark Zuckerberg, Xi Jinpings, Prognoscentrets Byggstartsindikator.