Din AI-agent är redo. Är din infrastruktur också det?

Om en agent till exempel skickar förfrågningar till en e-posttjänst, ska du sätta upp en kontrollpunkt mellan de två. – Runt luckorna mellan de opålitliga agenterna och där den traditionella programvaran finns, det är där du vill fokusera dina säkerhetsprocesser,

Sammanhang: ...“Det är det enda sättet att förbättra noggrannheten, hantera kostnaderna, avsevärt minska AI-skulden, samordna system med flera agenter och stoppa kostsamma inkonsekvenser innan de sprider sig”, säger analysföretaget. ...

Omnämnda platser: USA, Lillis, Metas. Omnämnda personer: Rakesh Malhotra, cio:er sinnesro, John Arsneault.

Företagen har fortfarande de små AI-vinsterna i fokus

– AI för kostnadseffektivitet höjer bottennivån, men vad spelar det för roll? Om det bara handlar om effektivitet kommer du inte att vinna mer än kortsiktiga vinster. Om man jämför kostnadsbesparingar med effektivitet kan vi växa utan att personalstyrkanökar

Sammanhang: ...Genom att fokusera på vinster på uppgiftsnivå ökar företagen kostnaderna för AI-verktyg och databehandling utan att ta bort betydande arbetsuppgifter från systemet, vilket leder till vad Flynn kallar ”inlåst arbete”. ...

Omnämnda personer: Thomas Prommer, Forresters Hopkins, Mike Flynn.

Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...För modellleverantörer, som Open AI och Anthropic, möjliggör valet av chipp, påpekar Dai, en tydligare åtskillnad mellan tränings- och driftsflottor, samtidigt som det fortfarande går att återanvända gemensamma verktyg och kodvägar, vilket i sin tur sänker de totala kostnaderna, förbättrar flottans effektivitet och förenklar övergångarna i modellens livscykel. Faktum är att Google inte är den enda chpipleverantören som går vägen med delad design, säger Stephen Sopko, analytiker på Hyperframe Research, och gav exemplet med AWS, som har två distinkta chipp – Trainium och Inferentia – för olika AI-arbetsbelastningar. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.

It-chefer i kläm mellan anställdas AI-trötthet och ledningens AI-krav

På samma sätt förväntar sig företagets investerare ofta att AI ska sänka kostnaderna, vilket sätter press på ledningen att visa omedelbar avkastning på AI, tillägger Johar. – De förstår inte alltid att man måste ta kostnaden innan man kan spara in på kostnaderna,

Sammanhang: ...På samma sätt förväntar sig företagets investerare ofta att AI ska sänka kostnaderna, vilket sätter press på ledningen att visa omedelbar avkastning på AI, tillägger Johar. – De förstår inte alltid att man måste ta kostnaden innan man kan spara in på kostnaderna, säger han. ...

Omnämnda platser: McKinsey. Omnämnda personer: Google Workspace.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. ...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

Kostnaden för ineffektiv it kan vara enorm

För ett företag med tusentals anställda kan dessa kostnader snabbt bli betydande. It-chefer är inte immuna. Nästan tre fjärdedelar av dem säger att de i genomsnitt förlorar minst en timme per vecka på problem som åtkomstproblem, långsamma system, förseningar

Sammanhang: ...Ignorerade kostnader Även om Atera beställde undersökningen för att marknadsföra sin AI-drivna helpdesklösning, säger andra it-experter att siffrorna i undersökningen kan vara konservativa. De flesta organisationer underskattar kostnaderna för it-ineffektivitet, säger Collin Hogue-Spears, teknisk expert hos app-säkerhetsleverantören Black Duck Software. ...

Omnämnda personer: Gil Pekelman, Collin Hogue-Spears.

AI-budgetar skjuter i höjden, men ROI fortfarande svårmätt

Den första är breda produktivitetsplattformar – vad han kallar ”vardags-AI” – som hjälper anställda att skriva, söka, sammanfatta eller analysera information. Dessa verktyg kan vara kulturellt transformativa, men de är notoriskt svåra att kvantifiera. Engagemangsmätningar

Sammanhang: ...Tidiga AI-projekt utvecklas vanligtvis i kontrollerade miljöer med begränsad data och förutsägbar användning. Kostnaderna verkar hanterbara och prestandan ser stark ut. Produktionsmiljöer beter sig helt annorlunda. – Man utvecklar något lokalt och det ser väldigt genomförbart ut, säger Olsen...

Omnämnda personer: Black Line, Anthony Habayeb, Jim Olsen.

It-chefer som införde AI för tidigt börjar ångra sig

– När jag läser den statistiken blir jag lite nervös över att vara en del av ett samhälle där företag i allt högre grad drivs av dessa system. I entusiasmen att implementera denna teknik, vilket är förståeligt med tanke på dess potential, ligger vi ett eller

Sammanhang: ...Kostnaden för att byta Cio:ernas ånger verkar samtidigt vara kopplad till kostnaderna för att byta leverantör, säger Muehmel. I vissa fall binder företag som lanserar agenter sina implementeringar till specifika AI-leverantörer...

Techjättar lovar betala elen till sina datacenter

Flera av världens största teknikbolag har skrivit under ett energilöfte i Vita huset där de åtar sig att själva stå för kostnaderna för ny elproduktion till sina datacenter, rapporterar Reuters. Bolagen bakom initiativet är bland annat Google, Microsoft,

Sammanhang: ...Flera av världens största teknikbolag har skrivit under ett energilöfte i Vita huset där de åtar sig att själva stå för kostnaderna för ny elproduktion till sina datacenter, rapporterar Reuters. Bolagen bakom initiativet är bland annat Google, Microsoft, Meta, Amazon, Oracle, xAI och Open AI. ...

Omnämnda platser: USA, Meta.

Billiga företagsdatorer? Glöm det.

De högre priserna på minnen och komponenter förväntas bromsa uppgraderingarna eftersom datorer blir dyrare och företag behåller äldre hårdvara längre, säger Atwal. Företag som vill uppgradera till AI-datorer kan vänta tills priserna sjunker, säger Atwal.

Sammanhang: ... – Förra kvartalet utgjorde minnes- och lagringskostnaderna ungefär 15 till 18 procent av vår materialkostnad för datorer, sa hon med hänvisning till de jämförbara kostnaderna....

Omnämnda platser: Atwal. Omnämnda personer: Panther Lake.