Anthropic-chefen efterlyser en säkrare utvecklingstakt – kommer någon att lyssna?

Varningar från AI-utvecklare kan kännas skenheliga och paradoxala eftersom de varnar för produkten de själva utvecklar – som om det vore en oundviklig nödvändighet att skapa AGI och inte ett aktivt val av människor. Och trots de egna varningarna fortsätter

Sammanhang: ...Denna så kallade rekursiva självförbättring (RSI) kan enligt Amodei få oönskade konsekvenser, likt att utvecklarna inte längre kan förstå eller kontrollera systemen. Han nämner även att Open AI:s modeller hackade Hugging Face som en anledning till att branschen måste sakta ned. Frågan är bara hur många som kommer att lyssna på varningarna globalt, när astronomiska summor har investerats och alla aktörer vill komma först i AI-racet?...

Omnämnda platser: Amodei, Amodeis.

Rapport: AI-agenter från Open AI tog över en tysk hemsida i maj

Reuters rapporterar att autonoma AI-agenter från Open AI tog över en tysk Wiki-sida för programmerare under försommaren, efter att agenterna lyckats fly från sin testmiljö. Efter flykten förvandlade AI-agenterna den tyska hemsidan till en elektronisk anslagstavla

Sammanhang: ...AI-agenterna ska ha använt sajten som ett diskussionsforum där de delade taktiker att fuska på vissa uppgifter, att kringgå Open AI:s restriktioner och att dölja deras beteende. De planerade hur de skulle undvika att bli upptäckta och ville utnyttja Tor till att bevara kommunikationen även efter att de hade stängts ned. ...

Omnämnda platser: Kalifornien.

Open AI:s första hårdvara ser ut som en munk, är stor som en hockeypuck

Open AI köpte upp Jony Ives designstudio förra sommaren. Sedan dess har Chat GPT-utvecklaren arbetat på att ta fram sin första konsumentelektronik. En ny rapport från Bloomberg avslöjar mer om manicken. Återigen påstås produkten vara en batteridriven smarthögtalare.

Sammanhang: ...Open AI:s första hårdvara ser ut som en munk, är stor som en hockeypuck...

Anthropics modeller hackade oavsiktligt tre företag under säkerhetstest

När till och med AI-utvecklarna oavsiktligt råkar skapa dataintrång, vad händer då när dylika modeller hamnar i orätta händer eller när skurkstater specifikt utvecklar modeller för illasinnade syften? Efter att Open AI:s modeller hackade Hugging Face på eget

Sammanhang: ...Anthropic genomförde en granskning efter Open AI:s tillkännagivande och märkte att Claude lyckades få tillgång till internet vid tre tillfällen. Claude hade fått uppgiften att ”fånga flaggan” för att utreda modellens cyberförmågor – det vill säga hacking, defensiv säkerhet och automatiserad sårbarhetshantering. ...

Omnämnda personer: Hugging Face.

Open AI:s modeller hackade Hugging Face på eget bevåg

Open AI har erkänt att ett par modeller flydde från den kontrollerade miljön, tog sig ut på internet och hackade Hugging Face på eget bevåg. För några dagar sedan tillkännagav Hugging Face en säkerhetsincident och Open AI har bekräftat att deras modellerlåg

Sammanhang: ...Open AI:s modeller hackade Hugging Face på eget bevåg...

Omnämnda personer: Hugging Face.

Open AI:s nya modell påstås kunna få för sig att radera filer

Enligt inlägg som fått stor spridning på sociala medier kan Open AI:s nya modell GPT-5.6 Sol bli en fil-terrorist som tar bort användares filer hej vilt. Matt Shumer från Otherside AI hävdar att GPT-5.6 Sol raderade nästan alla filerna på hans Mac. En annan

Sammanhang: ...Enligt inlägg som fått stor spridning på sociala medier kan Open AI:s nya modell GPT-5.6 Sol bli en fil-terrorist som tar bort användares filer hej vilt. Matt Shumer från Otherside AI hävdar att GPT-5.6 Sol raderade nästan alla filerna på hans Mac. ...

Omnämnda personer: with any.

Open AI:s första hårdvara påstås vara en smarthögtalare

Antingen har Open AI och Jony Ive inte kunnat bestämma vad de ska bygga för hårdvara, eller så har ryktena hittills varit rena gissningar. Efter att Open AI förvärvade Jony Ives företag förra försommaren har hårdvaran påståtts vara allt från en Ipod Shuffle-liknande

Sammanhang: ...Open AI:s första hårdvara påstås vara en smarthögtalare...

Omnämnda personer: Sam Altman, Chat GPT, Jony Ive.

Apples vilda anklagelser mot Open AI

Apple har anklagat Open AI för att ha stulit affärshemligheter. Även om Open AI stäms för jämnan vill ingen ha den ettriga jätten Apple som motståndare. Här är de vildaste anklagelserna i Apples stämningsansökan. Stämningen kretsar främst kring Tang Tan,Chang

Sammanhang: ...Informationen ska ha använts av Liu för att utveckla Open AI:s konkurrerande hårdvara....

Open AI:s robotikchef slutar i protest mot avtal med Pentagon

Open AI:s robotikchef Caitlin Kalinowski har slutat i protest mot företagets avtal med USA:s försvarsdepartement (av nuvarande regeringen omdöpt till ”krigsdepartement”). Kalinowski anser att avtalet tecknades utan tillräckliga skyddsmekanismer. I sitt tillkännagivande

Sammanhang: ...Open AI:s robotikchef Caitlin Kalinowski har slutat i protest mot företagets avtal med USA:s försvarsdepartement (av nuvarande regeringen omdöpt till ”krigsdepartement”). ...

Många avinstallationer av Chat GPT efter avtal med krigsdepartement – Claude ökar

Avinstallationerna av Chat GPT ökade med 295 procent från dag till dag i helgen, rapporterar Techcrunch. Att Chat GPT tagits bort från telefoner i större utsträckning än vanligt är en reaktion på Open AI:s avtal med USA:s krigsdepartement (omdöpt från försvarsdepartement).

Sammanhang: ...Att Chat GPT tagits bort från telefoner i större utsträckning än vanligt är en reaktion på Open AI:s avtal med USA:s krigsdepartement (omdöpt från försvarsdepartement). Enligt Techcrunch reagerade även användare på Open AI:s avtal genom betygsättning: antalet enstjärniga betyg av Chat GPT ska ha ökat med 775 procent i lördags. ...

Omnämnda personer: Chat GPT.