Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ...I slutändan blir företagsdata med SLM en ”avgörande differentierande faktor, vilket kräver datapreparering, kvalitetskontroller, versionshantering och övergripande hantering för att säkerställa att relevant data är strukturerad för att uppfylla finjusteringskraven”, konstaterar Sumit Agarwal, analytiker på Gartner. Fördelar med små språkmodeller Den främsta drivkraften bakom SLM är ekonomisk, konstaterar analytikerna....

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.

Är ditt företags AI förgiftad?

För många ciso:er är det mycket mer brådskande att hantera dataföroreningar än en hypotetisk förgiftningskampanj. Darren Williams, grundare och vd för Black Fog, säger att detta inte så mycket är ett nytt AI-problem som en återgång till grunderna inom cybersäkerhet.

Sammanhang: ...Men Adam Meyers, chef för motåtgärder mot angripare på Crowdstrike, säger att dataförgiftning finns och att Crowdstrike har upptäckt det i verkligheten. – I ett fall antog angriparen att en analytiker skulle se detta och inte nödvändigtvis veta vad skriptet gjorde, och att de skulle mata in det i AI och säga: ”vad gör det här?”. ...

Omnämnda platser: Anthropic, Black Fog. Omnämnda personer: Patrick Fussell, Adam Meyers.

Gartner: Nedskärningar inte bästa sättet att utnyttja AI

– Det finns inget samband eller någon korrelation mellan de som uppnår ROI och personalnedskärningar, säger Helen Poitevin, analytiker på Gartner, och tillägger att personalminskningar ”inte är det bästa” måttet på ROI. Andra faktorer såsom intäkter, tillväxt

Sammanhang: ...– Det finns inget samband eller någon korrelation mellan de som uppnår ROI och personalnedskärningar, säger Helen Poitevin, analytiker på Gartner, och tillägger att personalminskningar ”inte är det bästa” måttet på ROI. Andra faktorer såsom intäkter, tillväxt och tid till marknaden är mer effektiva...

Analytiker: Företagen måste tänka bortom GPU:er när det gäller AI-agenter

– Ett bättre sätt att se på detta är kostnaden för AI-beräkningar och nu agentiska AI-plattformstjänster eller -system, säger Leonard Lee, chefsanalytiker på Next Curve. – AI-beräkningar eller accelererade beräkningar har tydligt gått bortom GPU:n som inferensaccelerator.

Sammanhang: ...Analytiker: Företagen måste tänka bortom GPU:er när det gäller AI-agenter...

Omnämnda platser: Next Curve. Omnämnda personer: Tirias Research, Leonard Lee, Jim McGregor.

AI i arbetslivet: Högre produktivitet, mer ångest

Medan makrorapporter, såsom de från Goldman Sachs, Internationella valutafonden (IMF) eller World Economic Forum (WEF), ställer frågan om vilken andel av befintliga arbetsuppgifter som AI teoretiskt sett skulle kunna utföra i framtiden, mäter Anthropic kvalitativa

Sammanhang: ...Några yrken som är i riskzonen är datorprogrammerare, datainmatare, marknadsforskare, analytiker och testare inom mjukvarukvalitetssäkring, informationssäkerhetsanalytiker och specialister på användarsupport. ...

Omnämnda platser: Goldman Sachs.

Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...Faktum är att Google inte är den enda chpipleverantören som går vägen med delad design, säger Stephen Sopko, analytiker på Hyperframe Research, och gav exemplet med AWS, som har två distinkta chipp – Trainium och Inferentia – för olika AI-arbetsbelastningar. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.

Minnesbristen ser ut att pågå till 2027

Bristen på minneskretsar ser ut att fortsätta under året i takt med att efterfrågan från AI-sektorn ökar kraftigt. Enligt Nikkei Asia väntas de ledande tillverkarna bara kunna möta omkring 60 procent av efterfrågan trots pågående expansionsplaner. Även om

Sammanhang: ...Även när anläggningarna väl är igång krävs ytterligare tid för att skala upp till effektiva produktionsnivåer. Enligt analytiker krävs en årlig produktionsökning på omkring 12 procent för att komma ikapp efterfrågan, men nuvarande planer ligger betydligt lägre. ...

Omnämnda personer: Nikkei Asia.

Så förändrar AI hotdetekteringen

En fråga om skala En stor del av AI:s inverkan på hotdetektering är kopplad till dess förmåga att bearbeta telemetri i en skala som mänskliga team skulle finna utmanande, kanske omöjlig, att hantera, enligt säkerhetsexperter. Moderna it-miljöer kan generera

Sammanhang: ...Organisationer använder redan AI för att automatisera många av de rutinuppgifter som traditionellt hanteras av Tier 1- och Tier 2-analytiker, säger Martin Sordilla, senior teknik- och säkerhetsarkitekt på Accenture. Mycket av detta arbete handlar om att granska loggar, prioritera varningar, identifiera indikatorer på intrång, korrelera händelser och kontakta systemägare under utredningar. ...

Omnämnda personer: Martin Sordilla, SANS Institute.

SaaS är inte dött – men AI-agenter förändrar marknaden för företagsprogram

Demeule tillägger: – När det gäller stora företag tror jag fortfarande inte att risken med att överlåta autonomi till ett agentbaserat system finns där ännu. Hans prognos är att agentbaserad AI kommer att införas långsamt och att människor kommer att förbli

Sammanhang: ...Det agentbaserade orkestreringslagret växer fram Branschutsikter: Traditionella SaaS-applikationer kommer fortfarande att finnas, men de kommer sannolikt att döljas bakom ett agentbaserat orkestreringslager. Analytiker är överens om att framtidens användargränssnitt inte kommer att vara den traditionella SaaS-plattformen; det kommer att vara agentbaserat. ...

Omnämnda platser: Moveworks, Mjukvaruplattformar. Omnämnda personer: Dana Gardner, Bain & Co, Anthropic Claude.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...För många cio:er beror graden av huruvida Kales två farhågor – okontrollerade kostnader och botar som oreglerade slutpunkter – stämmer på både deras specifika implementeringar och kontrakt med AI-leverantörer. Här ser Gartners analytiker Nader Henein att leverantörernas nuvarande prisnivåer mildrar effekten av sådana jailbreaking-försök...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.