AI-agenter ska revolutionera cybersäkerheten – med vissa förbehåll

– Det kan hallucinera, och man måste vara vaksam på att upprätthålla en beviskedja mellan en slutsats som systemet har dragit och var den kom ifrån. Tillsammans med kunskap om leveranskedjan är det avgörande att ha transparens när man använder agentisk AI-teknik.

Sammanhang: ...En annan risk är att organisationerna i sin iver att integrera AI-agenter förbiser grundläggande säkerhetsfrågor. – Det är ny teknik och människor rör sig snabbt för att leverera den och för att innovera och skapa nya saker, säger Hillai Ben-Sasson, molnsäkerhetsforskare på Wiz...

Omnämnda personer: Ian Riopel, Zafran Security, Hillai Ben-Sasson.

Anthropics Claude-modeller kan nu stänga ner skadliga konversationer

Anthropic har infört en ny funktion i sina Claude Opus 4- och 4.1-modeller som gör att AI:n kan avsluta en konversation på egen hand. Detta gäller endast när användaren upprepade gånger försöker pressa fram skadligt eller olagligt innehåll. Funktionen får

Sammanhang: ...Funktionen får bara användas när alla försök till omdirigering misslyckats eller när användaren själv ber om att samtalet ska avslutas. Den ska inte aktiveras i situationer där människor riskerar att skada sig själva eller andra. Användare kan fortfarande starta nya konversationer eller fortsätta på en tidigare genom att redigera sina svar. ...

Omnämnda personer: Claude Opus.

Förarlösa bilar börjar bete sig som idioter – och det gör dem säkrare

– Intressant nog ses självförtroende och säkerhet ofta som motsatta saker som måste balanseras, säger Margines. – Men det vi ser är raka motsatsen: självsäkerhet och säkerhet går faktiskt hand i hand – och det säkraste beteendet är ofta självsäkert. Till

Sammanhang: ...Med det sagt, Kockelman säger att AV-fordon naturligtvis är bättre förare än människor – vilket resulterar i cirka 90 procent färre krascher per körd kilometer jämfört med den genomsnittliga mänskliga föraren...

Omnämnda platser: Austin, Foster City. Omnämnda personer: Kara Kockelman.

AI:s påverkan på it-jobben fortfarande högst oklar

I studien analyserades 200 000 anonymiserade konversationer mellan amerikanska användare och Bing Copilot under 2024, i kombination med 100 000 interaktioner från Copilots databas för användarfeedback. Utifrån detta beräknade teamet hur Copilot användes i

Sammanhang: ...Detta är en påminnelse om att arbetsroller inte bara skapas och försvinner. Arbete, och de organisationer som anställer människor, utvecklas ständigt för att möta andra påtryckningar än enkla kostnadsberäkningar....

Omnämnda platser: Copilots.

Vogue-läsare säger upp sina prenumerationer efter AI-annons

Flera läsare har valt att avsluta sina prenumerationer på Vogue sedan bilder på AI-genererade modeller dykt upp i tidningen. Det är klädmärket Guess som ligger bakom annonserna med de virtuella modellerna – något som väckt starka reaktioner i sociala medier.

Sammanhang: ...Trots kritiken försvarar byråns grundare kampanjen och säger att AI-modellerna inte är tänkta att ersätta människor, utan fungera som ett komplement i marknadsföringen....

Omnämnda platser: Modellerna. Omnämnda personer: Seraphinne Vallora.

Mark Zuckerberg vill inte öppna alla superintelligenta AI-modeller

Mark Zuckerberg har presenterat sin vision om “personlig superintelligens” – AI som ska hjälpa människor att nå sina individuella mål. I samband med detta signalerade Meta-chefen en möjlig kursändring i företagets strategi för att släppa AI-modeller som öppen

Sammanhang: ...Mark Zuckerberg har presenterat sin vision om “personlig superintelligens” – AI som ska hjälpa människor att nå sina individuella mål. I samband med detta signalerade Meta-chefen en möjlig kursändring i företagets strategi för att släppa AI-modeller som öppen källkod, rapporterar Techcrunch. ...

Omnämnda platser: Metas. Omnämnda personer: Google Deepmind, Mark Zuckerberg.

Microsoft listar 40 jobb där människor kan fasas ut på grund av AI

I en ny rapport från Microsofts forskningsavdelning har dataforskare identifierat vilka yrken i USA som mest sannolikt påverkas av AI, baserat på hur väl arbetsuppgifterna överlappar med AI:s förmågor, rapporterar Windows Central. Studien introducerar ett

Sammanhang: ...Microsoft listar 40 jobb där människor kan fasas ut på grund av AI...

Omnämnda platser: Microsofts, USA. Omnämnda personer: Kiran Tomlinson.

7 av 10 tonåringar har testat AI-kompanjoner

En ny studie från Common Sense Media visar att 72 procent av amerikanska tonåringar (13–17 år) har pratat med en AI-kompanjon – alltså chattbotar designade för personliga samtal, som Character.AI, Replika, eller ibland även Chat GPT och Claude. Techcrunch

Sammanhang: ...Samtidigt säger 80 procent att de fortfarande umgås mer med riktiga människor än med AI....

Omnämnda platser: Replika. Omnämnda personer: Chat GPT.

Läkare varnar för riskerna med att fråga AI om sjukdomar

På sistone har det blivit allt vanligare att människor vänder sig till chattbotar för att diskutera sina psykiska problem och sjukdomssymptom, något som kan vara riskabelt. Dels kan vissa människor få för sig att de har en allvarlig sjukdom som de inte

Sammanhang: ...Dels kan vissa människor få för sig att de har en allvarlig sjukdom som de inte har, dels kan sjuka människor få ett lugnande besked som gör att de inte söker vård i tid...

Omnämnda personer: Lars Rocksén.

Så bygger Försvarsmakten framtidens IT-ledare

Att arbeta med IT inom Försvarsmakten handlar inte bara om att hålla system igång eller lösa tekniska problem. Det handlar om att bidra till Sveriges säkerhet och samhällsnytta varje dag. I en tid när digitalisering och säkerhet blir allt viktigare är behovet

Sammanhang: ...Samtidigt fanns det också erfarenheter som väckte eftertanke och formade hans syn på ledarskap – framför allt vikten av att se människor, inte bara resultat. – Jag upplevde det ibland som att man såg anställda mer som verktyg än som människor. ...

Omnämnda platser: Sveriges. Omnämnda personer: John Elf.