Claude får egen ”App Store” – över 2 000 tillägg

Claude ska inte längre bara svara på frågor. Anthropic öppnar nu en marknadsplats där tusentals verktyg, appar och AI-agenter kan kopplas direkt till tjänsten.

Sammanhang: ... Claude ska inte längre bara svara på frågor. Anthropic öppnar nu en marknadsplats där tusentals verktyg, appar och AI-agenter kan kopplas direkt till tjänsten....

Hackare kapar AI-konton – ny svart marknad växer fram

Enligt Google Threat Intelligence Group håller en ny typ av cyberbrottslighet på att växa fram: LLM-jacking. Konceptet går ut på att hackare stjäl tillgång till dyra AI-modeller och datorkraft, rapporterar Financial Times. På dark web säljs idag stulna inloggningsuppgifter

Sammanhang: ...På dark web säljs idag stulna inloggningsuppgifter till AI-tjänster från bland andra Open AI, Anthropic och Google. Priserna kan ligga på 97 procent av den ordinarie kostnaden och säljare erbjuder dessutom garanti för användningen. ...

Omnämnda personer: Intelligence Group, Google Threat.

Nvidias vd sågar AI-bolagen – uppmanar till att stänga ner

I en intervju med New York Times pratar Nvidias VD, Jensen Huang, om de kontroversiella AI-intrången som rapporterats den senaste tiden, som TV4 Nyheterna tidigare rapporterat om, där AI-bolagen Open AI och Anthropic varnat för att riskerna med sina egnamodeller.

Sammanhang: ...I en intervju med New York Times pratar Nvidias VD, Jensen Huang, om de kontroversiella AI-intrången som rapporterats den senaste tiden, som TV4 Nyheterna tidigare rapporterat om, där AI-bolagen Open AI och Anthropic varnat för att riskerna med sina egna modeller. De vill att myndigheter ska gripa in och stävja den teknologi som de själva skapat. ...

Omnämnda platser: New York Times. Omnämnda personer: Donald Trump.

Uppgifter: Open AI och Anthropic utreder tiotusentals incidenter

Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor

Sammanhang: ...Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor och skapat egna diskussionsforum. ...

AI-jättar utreder tusentals säkerhetsincidenter

Open AI, Anthropic och säkerhetsforskare utreder tiotusentals incidenter där avancerade AI-modeller har agerat på sätt som utvärderare skulle kunna betrakta som problematiska, uppger källor till Axios. Bland annat ska AI-agenter kringgått säkerhetsbegränsningar,

Sammanhang: ...Open AI, Anthropic och säkerhetsforskare utreder tiotusentals incidenter där avancerade AI-modeller har agerat på sätt som utvärderare skulle kunna betrakta som problematiska, uppger källor till Axios. ...

Över tio procents risk att AI utrotar oss – Umeåforskaren invänder

Över tio procents risk att AI utrotar mänskligheten inom tio år. Det är bedömningen från en AI-forskare på AI-företaget Anthropic som fått internationella rubriker de senaste veckorna.

Sammanhang: ...Det är bedömningen från en AI-forskare på AI-företaget Anthropic som fått internationella rubriker de senaste veckorna....

Nya rekord på New York-börsen inför helgens handelsstopp

Sjunkande oljepriser bidrog till att lätta upp stämningen bland investerarna. Iran har sagt sig vara berett att öppna Hormuzsundet inom en vecka – om vissa villkor uppfylls. Priset på ett fat Nordsjöolja (Brent) har sjunkit under dagen och ligger nu på drygt

Sammanhang: ...Molntjänstföretaget Akamai Technologies steg 3,2 procent sedan bolaget tecknat ett flerårigt avtal värt 11,6 miljarder dollar med Anthropic, som utvecklar AI-assistenten Claude....

Omnämnda platser: New York-börsen.

Bill Gates varnar: AI-utvecklingen kan få katastrofala följder

Bill Gates är nästa it-profil att varna för utvecklingen av AI. AI är definitivt tillräckligt kraftfullt för att driva på händelser som orsakar en miljard dödsfall, säger Microsofts grundare till NBC. Uttalandet kommer efter att AI-forskaren Jacob Coxontidigare

Sammanhang: ...Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. Coxon slutade nyligen på Anthropic i protest. Han har dessutom tidigare arbetat på Open AI. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, har Coxon skrivit i inlägg på sociala medier och upprepat i intervjuer, enligt NBC. ...

Omnämnda platser: USA. Omnämnda personer: Sam Altman, Bill Gates, Jacob Coxon.

Gates AI-utspel: ”Kan orsaka en miljard dödsfall”

Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. Coxon slutade nyligen på Anthropic i protest. Han har dessutom tidigare arbetat på Open AI. ”De som bygger

Sammanhang: ...Uttalandet kommer efter att AI-forskaren Jacob Coxon tidigare i september riktat kritik mot AI-bolagen för att de inte tar ansvar för utvecklingen. Coxon slutade nyligen på Anthropic i protest. Han har dessutom tidigare arbetat på Open AI. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, har Coxon skrivit i inlägg på sociala medier och upprepat i intervjuer, enligt NBC. ...

Omnämnda platser: USA. Omnämnda personer: Jacob Coxon, Elon Musk, Bill Gates.

USA eller Kina? Öppna AI-modeller ställer valet på sin spets

Trenden är tydlig: öppna AI-modeller vinner mark när företag, organisationer och utvecklare vill bygga AI-lösningar som är mer kostnadseffektiva, som man själv har kontroll över och som minskar beroendet av de stora amerikanska AI-labben. Och öppna modeller

Sammanhang: ...I veckan rapporterade Bloomberg om hur startups börjar vända sig till öppna modeller för att bli mindre beroende av Open AI och Anthropic. New York Times uppmärksammade för ett par veckor sedan hur stora amerikanska företag lockas av billigare, öppna modeller och Financial Times skrev redan i somras om hur europeiska företag vänder blickarna mot Kina i svallvågorna av Fable 5-förbudet. ”För europeiska företag är en egendriftad kinesisk modell det säkrare valet jämfört med den amerikanska modellen”, säger riskkapitalisten och startup-rådgivaren Tom Sheridan till FT. ...

Omnämnda platser: Himmelska fridens torg, USA, Kina. Omnämnda personer: Max Junestrand, Marcus Jerrängs, Christian Landgren.