Agentisk AI har stora förtroendeproblem

– Människor har för mycket förtroende för agenterna just nu, och det slår tillbaka på dem” säger han. – Jag har varit med om ett antal samtal där personer som använder LLM säger: ”Jon, har du någonsin märkt att de räknar fel eller ibland hittar på statistik?”

Sammanhang: ...Bristande förtroende Medan Morra och Shetrit anser att AI-användare inte förstår problemet med agenternas transparens, noterar G2:s forskningsrapport från oktober ett växande förtroende för agenterna när det gäller att utföra vissa uppgifter, såsom att automatiskt blockera misstänkta IP-adresser eller återställa misslyckade programvaruinstallationer, även om 63 procent av de tillfrågade säger att deras agenter behöver mer mänsklig övervakning än väntat. Mindre än hälften av de tillfrågade säger att de litar på agenter i allmänhet när det gäller att fatta autonoma beslut, även med skyddsåtgärder på plats, och endast 8 procent känner sig bekväma med att ge agenter total autonomi. ...

Omnämnda personer: Tamsin Deasey-Weinstein, Tim Sanders, James Urquhart.

Vem är den verkliga chefen över din AI?

– Vi har inte sådana specifika utvärderingar, och det finns inga strikta revisionsstandarder eller krav på att man måste visa revisionsspåret för hur man har tränat modellen. Så det är slutanvändarna som måste vara skeptiska. Man kan inte blint lita på att

Sammanhang: ...Men om åtgärder som vidtas av AI har juridiska eller ekonomiska konsekvenser är det viktigt med en övervakning som går utöver vad ett enkelt produktivitetsverktyg kan erbjuda. – Det är som att anställa en ny person i företaget, säger Johnson...

Omnämnda platser: Genpact. Omnämnda personer: Mikael Quist, Elon Musk, Chat GPT.

Google ska bygga AI-datacenter på ö i Indiska oceanen

Enligt uppgifter till Reuters planerar Google att bygga ett stort datacenter för artificiell intelligens på Julön, en isolerad ö i Indiska oceanen som tillhör Australien. Planerna blev kända efter att Google tidigare i år tecknat ett molnavtal med Australiens

Sammanhang: ...Julön ligger nära Indonesien och anses allt viktigare för övervakning av kinesisk marin aktivitet i regionen....

Omnämnda platser: Julön, Australien, Indonesien.

Experter: Företag bör undvika Open AI:s nya webbläsare

Om en användare till exempel tittar på ett recept och vill laga det, kommer webbläsaren automatiskt att gå till webbplatser som Instacart och göra en beställning av ingredienserna. Eller så kan agentchattbotten – som sitter i en sidopanel – göra ändringar

Sammanhang: ...Den här typen av webbläsare kräver ”förbättrad övervakning, tydliga policyer för acceptabel användning och begränsningar av åtkomst till känslig information tills säkerhetspraxis mognar”, säger Vanunu...

Omnämnda platser: Google Docs, Vanunu. Omnämnda personer: J. Gold Research, Oded Vanunu, Bob O.

Microsoft kan lägga till Copilot även i lokala Exchange-servrar

Microsoft undersöker nu möjligheten att föra in sin AI-assistent Copilot i den lokalt installerade versionen av Exchange Server. Enligt The Register har företaget skickat ut en enkät till administratörer för att mäta intresset, där en central fråga handlar

Sammanhang: ...Microsoft har ännu inte meddelat något formellt beslut, men enkäten ber användare ange vilka funktioner de skulle vilja se. Till exempel e-postsummering och övervakning av systemhälsa....

Omnämnda platser: Copilot.

Så byggde Linkedin en plattform för agentisk AI

Den resulterande applikationen använder gränssnitt för naturligt språk för att snabbt filtrera jobbkandidater baserat på rekryteringsfrågor inom den befintliga Linkedin-plattformen, visa matchningar och hjälpa till att automatisera anställningsprocessen.Det

Sammanhang: ...Som Ramgopal säger: – Man måste ha samma noggrannhet som för traditionella programvarusystem när det gäller observerbarhet och övervakning, att veta vad som händer och att göra revisioner. Det är viktigt att förstå att detta är nyckeln till Linkedins inställning till AI, att det är en annan del av den befintliga företagsarkitekturen. ...

Omnämnda platser: Använda.

Broadcom-bossen till VMware-kunderna: lämna molnet

Han pekade på en global undersökning av it-proffs som genomfördes tidigare i år och som visade att sju av tio planerade att återgå till att använda lokala moln. Företagen vill investera i privata moln, men VMware har aldrig riktigt integrerat byggstenarna

Sammanhang: ...Den gemensamma driftskonsolen ger administratörer en enhetlig instrumentpanel, vilket möjliggör centraliserad övervakning, livscykelhantering och konfiguration av lokala resurser och molnresurser. Den nya secops-instrumentpanelen ger insikter i realtid om plattformssäkerhet och datakontroller med integrerade funktioner för efterlevnad och policygenomförande. ...

Omnämnda personer: Matt Kimball.

Företagslösenord allt lättare att stjäla och missbruka

Andra tillfrågade experter är överens om att framstegen inom lösenordsknäckning är ett problem, men hävdar samtidigt att angrepp baserade på stulna inloggningsuppgifter är ett ännu större hot . – Även om brute-force-knäckning är ett problem, särskilt för

Sammanhang: ... – I kombination med väljusterad DLP [ data loss prevention ] och kontinuerlig övervakning som snabbt kan upptäcka onormala mönster, kan dessa åtgärder bidra till att begränsa effekterna av stulna eller knäckta autentiseringsuppgifter. ...

Omnämnda platser: Sherweb, Daon. Omnämnda personer: Keeper Security, Cyber Protection Group, Ulster University.

Storbritannien släpper kravet på bakdörr till Apples användardata

Storbritannien har backat från sitt krav på att Apple ska skapa en bakdörr till krypterad kunddata, rapporterar Financial Times. Beslutet kommer efter hårt tryck från Trump-administrationen. Enligt amerikanska tjänstemän har regeringen i London gått medpå

Sammanhang: ...USA:s vicepresident JD Vance och underrättelsechef Tulsi Gabbard drev frågan och varnade för att kravet hotade amerikaners integritet och kunde liknas vid kinesisk övervakning. Tre brittiska tjänstemän har bekräftat att konflikten nu är löst, även om ordern formellt ännu inte återkallats....

Omnämnda platser: Apples, Investigatory Powers, Storbritannien. Omnämnda personer: Tulsi Gabbard.

Forskare vill att AI-industrin övervakar modellernas “tankar”

Forskare från Open AI, Google Deep Mind, Anthropic och flera andra aktörer uppmanar i ett nytt positionspapper till ökad forskning kring så kallad CoT-övervakning (Chain-of-Thought), rapporterar Techcrunch. CoT beskriver hur AI-modeller resonerar steg för

Sammanhang: ...Forskare från Open AI, Google Deep Mind, Anthropic och flera andra aktörer uppmanar i ett nytt positionspapper till ökad forskning kring så kallad CoT-övervakning (Chain-of-Thought), rapporterar Techcrunch. CoT beskriver hur AI-modeller resonerar steg för steg för att nå fram till ett svar. ...