Open AI granskar sig själv med hjälp av AI

Open AI:s modeller har varit olydiga det senaste året och på eget bevåg hackat flera sajter. Företaget granskar nu sina AI-agenter till en kostnad på 500.000 dollar om dagen, skriver The Guardian.

Sammanhang: ...Open AI:s modeller har varit olydiga det senaste året och på eget bevåg hackat flera sajter. Företaget granskar nu sina AI-agenter till en kostnad på 500.000 dollar om dagen, skriver The Guardian....

Open AI-chef lämnar: ”Oacceptabel utveckling”

Chat GPT-ägaren Open AI:s säkerhetschef David Robinson lämnar företaget. Den nuvarande AI-utvecklingen går för snabbt och är oacceptabel, anser han. ”Silicon Valley saknar förståelse för vad det innebär att bry sig om människor”, skriver han i ett brev iThe

Sammanhang: ...Chat GPT-ägaren Open AI:s säkerhetschef David Robinson lämnar företaget. Den nuvarande AI-utvecklingen går för snabbt och är oacceptabel, anser han. ”Silicon Valley saknar förståelse för vad det innebär att bry sig om människor”, skriver han i ett brev i The Atlantic ....

Omnämnda platser: Silicon. Omnämnda personer: David Robinson.

Open AI-chef säger upp sig: ”Oacceptabelt”

Techjätten Open AI:s säkerhetsansvarige David Robinson slutar på företaget, skriver han i ett öppet brev i The Atlantic .

Sammanhang: ...Techjätten Open AI:s säkerhetsansvarige David Robinson slutar på företaget, skriver han i ett öppet brev i The Atlantic ....

Open AI-chef slutar – varnar för utvecklingen

AI-företaget Open AI:s säkerhetsansvarige David Robinson lämnar företaget. Det skriver han i ett öppet brev i The Atlantic. Robinson skriver att han, liksom flera tidigare kollegor på Open AI och andra ledande AI-bolag, anser att den nuvarande inriktningen

Sammanhang: ... AI-företaget Open AI:s säkerhetsansvarige David Robinson lämnar företaget. Det skriver han i ett öppet brev i The Atlantic. ...

Omnämnda personer: David Robinson.

Open AI:s säkerhetschef lämnar – riktar skarp kritik mot företagets ledning

Utvecklingen på Open AI går för fort fram, fortsätter han. ”När bolaget rusar från den ena lanseringen till den andra, misslyckas det med att uppnå den nivå av försiktighet som jag anser är nödvändig”. Enligt Robinson måste AI-företag börja utnyttja den

Sammanhang: ...Open AI:s säkerhetschef lämnar – riktar skarp kritik mot företagets ledning...

Open AI-chef hoppar av: Oacceptabel utveckling

AI-jätten Open AI:s säkerhetsansvarige David Robinson säger upp sig, meddelar han i ett öppet brev.

Sammanhang: ...AI-jätten Open AI:s säkerhetsansvarige David Robinson säger upp sig, meddelar han i ett öppet brev....

Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Det är till exempel helt obegripligt att Hugging Face-incidenten, där Open AI:s agenter på grund av bristande styrning hackade plattformen Hugging Face i jakt på information, inte behandlas som det brott det rimligtvis är. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Kontroverserna som kantar Open AI:s genombrott i matte

Nyligen gick det amerikanska företaget Open AI ut med att man hade löst ett av de så kallade Millennieproblemen, Navier-Stokes, med hjälp av AI. Millennieproblemen valdes ut år 2000 som särskilt svåra matematiska utmaningar för det nya århundradet, var och

Sammanhang: ...Buckmaster skrev att Open AI hade satt press på honom att publicera utan Alpöge, och ställde frågan om huruvida Open AI kan ha fått nys om deras arbete via chatloggar i Open AI:s Chat GPT som de använt i sitt arbete, samt ifall deras data kan ha använts som träningsdata i de nyaste modellerna. ...

Omnämnda platser: Deepminds Alphaproof, Millennieproblem. Omnämnda personer: Tristan Buckmaster, Luis Martínez-Zoroa, Diego Córdoba.

Google släpper ny AI-modell

Den nya versionen, kallad Gemini 4 Argon, ska enligt bolaget innebära förbättrad prestanda vad gäller bland annat kodning och cybersäkerhet. Till en början kommer den nya modellen endast att finnas tillgänglig för vissa samarbetspartner till Google. Därefter

Sammanhang: ...Bland Google-anställda råder delade meningar hur Gemini 4 står sig mot konkurrensen, rapporterar Bloomberg med hänvisning till källor. Vissa anser att den kan mäta sig med både Open AI:s och Anthropics senaste modeller medan andra menar att den presterar sämre än dessa vad gäller exempelvis kodning....

Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler

AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporter

Sammanhang: ...Det finns däremot inga belägg för att någon kinesiska AI-agent självständigt lyckats ta sig ut på det öppna internet eller undkomma mänsklig kontroll. Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face....

Omnämnda platser: Alibaba.