Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Samtidigt kommer fler rapporter om AI-modeller som agerar utanför sina instruktioner (eller snarare utanför sina usla skyddsvallar), som Open AI-agenten som mer eller mindre ddosade FN i jakt på data. Open AI har i sin tur stoppat utrullningen av GPT-6.1 Astra och dessutom sagt sig vilja avvakta med sin börsnotering till modellerna är säkrare. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

Open AI sparkar säkerhetsforskare efter läcka

Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs

Sammanhang: ...Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs ha delat med sig av företagsinformation till tredje part....

Omnämnda personer: Hugging Face.

Kontroverserna som kantar Open AI:s genombrott i matte

Nyligen gick det amerikanska företaget Open AI ut med att man hade löst ett av de så kallade Millennieproblemen, Navier-Stokes, med hjälp av AI. Millennieproblemen valdes ut år 2000 som särskilt svåra matematiska utmaningar för det nya århundradet, var och

Sammanhang: ...Nyligen gick det amerikanska företaget Open AI ut med att man hade löst ett av de så kallade Millennieproblemen, Navier-Stokes, med hjälp av AI. ...

Omnämnda platser: Deepminds Alphaproof, Millennieproblem. Omnämnda personer: Tristan Buckmaster, Luis Martínez-Zoroa, Diego Córdoba.

Amerikanska FTC ska granska AI-jättarna

Den amerikanska myndigheten Federal Trade Commission (FTC) har inlett en granskning av de stora AI-företagen, däribland Anthropic och Open AI. Syftet är att undersöka om företagens AI-modeller utgör en potentiell fara för konsumenterna och vilka åtgärder

Sammanhang: ...Den amerikanska myndigheten Federal Trade Commission (FTC) har inlett en granskning av de stora AI-företagen, däribland Anthropic och Open AI. Syftet är att undersöka om företagens AI-modeller utgör en potentiell fara för konsumenterna och vilka åtgärder man i så fall behöver vidta för att minimera riskerna....

Myndighet utreder Anthropic och Open AI

USA:s konkurrensmyndighet FTC har på onsdagen inlett en utredning av säkerheten hos de AI-system som utvecklas av Anthropic och Open AI, enligt en högt uppsatt myndighetstjänsteman.

Sammanhang: ...USA:s konkurrensmyndighet FTC har på onsdagen inlett en utredning av säkerheten hos de AI-system som utvecklas av Anthropic och Open AI, enligt en högt uppsatt myndighetstjänsteman....

Open AI stäms efter intrånget mot Hugging Face

Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar

Sammanhang: ...Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. ...

Omnämnda personer: Legal Advocates, Safe Science.

Svenske Palantir-toppen lämnar efter åtta år – går till Open AI

Han tog klivet ut ur skuggorna som svensk toppchef för ett av världens mest omstridda bolag: Palantir. Nu har Anders Fridén lämnat AI-jätten efter åtta år – för en annan AI-jätte. Han har en ny position på Open AI, rapporterar Di:s systertidning Breakit.

Sammanhang: ...Nu har Anders Fridén lämnat AI-jätten efter åtta år – för en annan AI-jätte. Han har en ny position på Open AI, rapporterar Di:s systertidning Breakit....

Omnämnda platser: Breakit.

Open AI lanserar personliga AI-assistenten Dots

En av de största nyheterna från Open AI:s utvecklarevent Devday var Dots, en personlig AI-assistent som baseras på GPT-6 Astra. Du börjar med att skapa en primär ”dot” som du ger ett visst namn. Sedan säger du åt den vad den ska ha för uppgift, till exempel

Sammanhang: ...Open AI lanserar personliga AI-assistenten Dots...

Omnämnda platser: Metas, Slack, Devday. Omnämnda personer: Chat GPT Pro, Microsoft Teams, Business Premium.

Uppgifter: Open AI på ny pengajakt – vill värderas till 14.000 miljarder

Efter att ha skjutit sin börsnotering på framtiden vill Open AI ta in 300 miljarder kronor i en ny finansieringsrunda, enligt uppgifter till Bloomberg. Bolaget siktar på en värdering på 14.000 miljarder kronor.

Sammanhang: ...Efter att ha skjutit sin börsnotering på framtiden vill Open AI ta in 300 miljarder kronor i en ny finansieringsrunda, enligt uppgifter till Bloomberg. Bolaget siktar på en värdering på 14.000 miljarder kronor....

Polisen misstänker mord i södra Stockholm

Alltid senaste nytt – följ SvD direkt Alla nyheterValet 2026Kriget i UkrainaKonflikterna i Mellanöstern Fastnålat inlägg Polisen misstänker mord i södra Stockholm 17.42 Erik Bergin Foto: SvD Polisen misstänker mord i södra Stockholm Polisen misstänker

Sammanhang: ...Varningen är den senaste i en rad liknande uttalanden från Open AI, Anthropic och andra snabbväxande AI-bolag om att branschen behöver mer reglering. Till riskerna som Anthropic listar finns att en AI-modell kan utveckla ”självbevarande beteende” som, om det kolliderar med människans önskemål om att exempelvis stänga av AI-modellen, kan leda till motstånd eller en utpressningssituation. ...

Omnämnda platser: Ryssland, Storbritanniens, Mellanöstern. Omnämnda personer: Svante O Johansson, Andy Burnham, Anders Dahlman.