Anthropic avslöjar: AI-system lyckades bryta sig in hos tre organisationer

Kort om oss Börskollen är en prisvinnande nyhetstidning och tjänst för börsintresserade som grundades 2015. Idag drivs tjänsten primärt av Kristoffer och Daniel. Båda har stor erfarenhet av börsen, aktier, investeringar, privatekonomi, företagande och motorrelaterat

Sammanhang: ...Anthropic avslöjar: AI-system lyckades bryta sig in hos tre organisationer...

Omnämnda platser: Börskollens, Börskollen.

AI-slakt på miljoner antika böcker

För att träna sina språkmodeller på ”ren” data har AI-företaget Anthropic köpt upp – och sedan strimlat – över två miljoner gamla pappersböcker. Trots att metoden väcker oro bland såväl författare som läsare har den bedömts som helt laglig.

Sammanhang: ...För att träna sina språkmodeller på ”ren” data har AI-företaget Anthropic köpt upp – och sedan strimlat – över två miljoner gamla pappersböcker. Trots att metoden väcker oro bland såväl författare som läsare har den bedömts som helt laglig....

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. ...

Omnämnda platser: Meta.

Microsoft lanserar nya AI-verktyg för cybersäkerhet

Microsoft har presenterat två nya AI-baserade säkerhetsverktyg som ska automatisera arbetet med att upptäcka och åtgärda sårbarheter i företags it-miljöer, rapporterar Ars Technica. Det första verktyget, MAI-Cyber-1 Flash, är Microsofts första AI-modellsom

Sammanhang: ...Enligt Microsoft har den 96 procent i säkerhetsbenchmarken CyberGYM, vilket är högre än lösningar från Anthropic, Google och Open AI. Samtidigt uppges kostnaden vara hälften av den tidigare versionen av MDASH. ...

Omnämnda platser: Microsofts. Omnämnda personer: Ars Technica.

Investerarlegendaren varnar: AI-boomen liknar en av historiens största finansbubblor

Han såg den japanska aktiebubblan komma. Han vägrade köpa techaktier under dotcom-euforin. Nu säger Jeremy Grantham att framtida historiker kommer att skriva om AI-boomen exakt som de skriver om Sydhavsbubblan — en av finanshistoriens mest katastrofala krascher.

Sammanhang: ...Problemet är enligt Grantham att SpaceX:s egen AI-satsning för tillfället förlorar mark mot konkurrenter som Anthropic, samtidigt som bolaget dessutom går med stora förluster. Järnvägarna förlorade pengar trots att de förändrade världen Grantham ifrågasätter däremot inte AI som teknologi. ...

Omnämnda platser: Sydhavsbubblan. Omnämnda personer: Jeremy Grantham, Magnificent Seven.

Delade AI-samtal dyker upp i sökmotorer: Så läcker dina privata chattar

Tusentals privata samtal med AI-assistenten Claude har hittats sökbara på Google. Med allt från kryptonycklar till medicinska journaler. Anthropic har täppt till hålet, men det är långt ifrån första gången AI har läckt privat information. Samma sak har hänt

Sammanhang: ...Med allt från kryptonycklar till medicinska journaler. Anthropic har täppt till hålet, men det är långt ifrån första gången AI har läckt privat information. Samma sak har hänt med OpenAI, Meta och Grok. ...

Nvidia bildar allians för öppet AI-försvar

Open Secure AI Alliance består bland annat av Microsoft, Dell, Cisco, IBM, Red Hat, Hugging Face och Linux Foundation. Syftet är att utveckla och dela öppna verktyg för AI-säkerhet och cyberförsvar. Nvidia ska enligt bolaget bidra med öppna AI-modeller,modellvikter,

Sammanhang: ...Nvidia anser att företag och myndigheter måste kunna granska, anpassa och använda säkerhetsverktyg i sin egen infrastruktur. OpenAI, Anthropic, Meta och Google finns inte med bland alliansens första medlemmar....

Omnämnda personer: Red Hat.

Claude-konversationer blev sökbara på Google

Användare på Reddit har uppmärksammat att ett okänt antal delade konversationer från AI-tjänsten Claude under helgen blev sökbara via Google, rapporterar 404 Media. De indexerade sidorna innehöll bland annat känslig information som medicinska journaler,interna

Sammanhang: ...Även kodprojekt och arbetsanteckningar ska ha varit åtkomliga. Anthropic, som utvecklar Claude, uppger att delade länkar bara kan indexeras om de publiceras på platser som sökmotorer kan nå, exempelvis forum eller sociala medier. ...

AI-bolagens nya drag – anställer filosofer

AI-bolag som Anthropic och Google Deepmind anställer filosofer när utvecklingen väcker större frågor om vilka värderingar som ska byggas in i tekniken. ”Ska en AI-modell aldrig ljuga, även om en lögn kan rädda ett liv?” frågar sig Åsa Wikforss, professori

Sammanhang: ...AI-bolag som Anthropic och Google Deepmind anställer filosofer när utvecklingen väcker större frågor om vilka värderingar som ska byggas in i tekniken. ”Ska en AI-modell aldrig ljuga, även om en lögn kan rädda ett liv?” ...

Omnämnda personer: Åsa Wikforss.

Techjättar drar igång säkerhetsallians för AI

En del kända namn saknas dock från initiativet Nvidia, Microsoft, SpaceX, Dell, The Linux Foundation, IBM och ett 30-tal andra företag har presenterat något man kallar för "Open Secure AI Alliance", ett initiativ för att skapa

Sammanhang: ...Ni hittar företagen som är med i Open Secure AI Alliance från start nedan. Det kan noteras att Anthropic, Google, OpenAI, företag bakom några av världens kraftfullaste slutna AI-modeller, än så länge inte har anslutit sig till initiativet. ...

Omnämnda personer: cyber defenders.