AI-modell skrev om sina egna regler – nu slår Open AI larm

Open AI har identifierat sex tidigare orapporterade fall där bolagets ai-modeller agerat i strid med avsedda instruktioner och inför nu ett ramverk för att offentliggöra sådana incidenter. Fallen inträffade mellan oktober 2025 och juli i år och omfattadebland

Sammanhang: ...Open AI har samtidigt varnat för att ai-branschen ännu inte löst problemen kring säker anpassning och övervakning tillräckligt väl för att fortsätta utvecklingen i maximal takt. ”Spelar med våra liv som insats” Under de senaste veckorna har frågan om farorna med den nuvarande ai-utvecklingen diskuterats livligt. Ai-forskaren Jacob Coxon, tidigare anställd hos Anthropic, har anklagat sin tidigare arbetsgivare samt Open AI för att agera vårdslöst och att de ”spelar med våra liv som insats”....

Omnämnda personer: Jacob Coxon.

AI-forskaren hoppade av i protest: ”Tekniken skulle kunna döda oss alla”

Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunnadöda

Sammanhang: ...Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunna döda alla” Han får medhåll av Evan Hubinger, säkerhetsforskare på Anthropic. ”Vi tror verkligen på fullt allvar att AI skulle kunna döda alla människor”, skriver Hubinger på X. ...

Omnämnda personer: Evan Hubinger, Jacob Coxon.