Resultat 1 - 6 av 6
AI-användare har försökt utveckla biovapen
I rapporten, som publicerades på torsdagen, beskriver Anthropic hur flera fall av missbruk upptäcktes och avbröts mellan december 2025 och augusti 2026. Allt från falska dejtingappar och hotell-wifi-bedrägerier till en Rysslandskopplad cyberkampanj, samtförsökSammanhang: ...Anthropic uppger att slutsatserna nu är inarbetade i processer för att bättre förebygga, upptäcka och stoppa liknande aktiviteter och att underrättelser delats med myndigheter. OpenAI:s chefsforskare Jakub Pachocki har tidigare föreslagit att branschen måste bromsa AI-utvecklingen tills dess att ordentliga skydd finns på plats. – Det går snabbare än vad man kanske trodde att det skulle göra. ...
Omnämnda personer: Emil Hellerud.
🧮 AI-agenter löste ett av matematikens svåraste problem på 88 timmar
OpenAI säger att omkring 10 000 AI-agenter under 88 timmar hittade en lösning på Navier-Stokes-problemet, som matematiker arbetat med i decennier. Problemet är ett av sex millennieproblem från Clay Mathematics Institute, med en prissumma på en miljon dollarSammanhang: ...Träningen av den nya modellen inleddes den 28 augusti. Företagets chefsforskare Jakub Pachocki sa att OpenAI för ett år sedan fortfarande undersökte om modellerna kunde mäta sig med gymnasieelever i matematikolympiader. ...
Omnämnda platser: New, Sébastien Bubeck. Omnämnda personer: Mathematics Institute, George Gabriel Stokes, Mark Chen.
AI-forskaren hoppade av i protest: ”Tekniken skulle kunna döda oss alla”
Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut", skriver han på X. ”Skulle kunnadödaSammanhang: ...Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”. ”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg. ...
Omnämnda personer: Evan Hubinger, Jacob Coxon.
AI-experter slår larm: Dolda risker kan hota mänsklighetens framtid
Två AI-forskare med tydlig insyn i AI-företagens innersta varnar för en farlig utveckling. AI utgör ett reellt hot mot mänskligheten, anser de. ”Underskatta inte kraften i den här tekniken”, skriver AI-forskaren Jacob Coxon, som själv lämnat företaget AnthropicSammanhang: ...Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”. ”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg. ...
Omnämnda personer: Jacob Coxon, Evan Hubinger.
AI-forskare varnar: "Skulle kunna döda oss alla"
Jacob Coxon, som tidigare även jobbat på konkurrenten Open AI, anser att ingen av de båda AI-jättarna agerar ansvarsfullt. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skriver han på X. ”Skulle kunnadödaSammanhang: ...Open AI stoppade tillfälligt träningen av sina senaste modeller under två veckor i augusti innan de återupptog den under striktare kontroller. Företagets forskningschef Jakub Pachocki manade i söndags till ”extrem försiktighet”. ”Internationell samordning kring framtida AI-utveckling måste bli en topprioritet för regeringar världen över”, skrev Pachocki i ett blogginlägg. ...
Omnämnda personer: Evan Hubinger.
OpenAI:s chefsforskare slår larm: "Ingen är förberedd"
"Extrem försiktighet." Så lyder uppmaningen från OpenAI:s chefsforskare Jakub Pachocki, som varnar för att ingen är redo för vad den snabba AI-utvecklingen kan leda till. Nu vill han se internationella säkerhetskrav – och frivilliga pauser i utvecklingen. Larmet kommer strax efter att bolaget själv hävdat att de uppnått AGI.Sammanhang: ...Så lyder uppmaningen från OpenAI:s chefsforskare Jakub Pachocki, som varnar för att ingen är redo för vad den snabba AI-utvecklingen kan leda till. Nu vill han se internationella säkerhetskrav – och frivilliga pauser i utvecklingen. ...
Omnämnda personer: Jakub Pachocki.