Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ...Medan LLM tränas på petabyte av data, tränas SLM på kompakta transformatorarkitekturer (neurala nätverk) med hjälp av mindre, specialiserade, högkvalitativa datamängder som är specifika för deras avsedda funktion. Flera tekniker hjälper till att begränsa modellstorleken utan att kompromissa med prestandan. ...

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.

Företagen har fortfarande de små AI-vinsterna i fokus

– AI för kostnadseffektivitet höjer bottennivån, men vad spelar det för roll? Om det bara handlar om effektivitet kommer du inte att vinna mer än kortsiktiga vinster. Om man jämför kostnadsbesparingar med effektivitet kan vi växa utan att personalstyrkanökar

Sammanhang: ...Forrester råder it- och företagsledare att fokusera på fyra nyckelområden: Definiera affärsresultaten och framgångsmåtten för sina AI-initiativ. Identifiera specifika användningsfall för AI-implementering som är anpassade till dessa affärsresultat. Upprätta en struktur för att planera, testa och implementera AI-applikationer. ...

Omnämnda personer: Thomas Prommer, Forresters Hopkins, Mike Flynn.

Open AI vill att Codex ska sluta prata om vättar och oknytt

Open AI har nu lagt in specifika instruktioner i sitt kodverktyg Codex som flera gånger instruerar modellen att aldrig prata om vättar (goblins), oknytt (gremlins), tvättbjörnar, troll, duvor och andra varelser om det inte är tydligt relevant. Det hela tycks

Sammanhang: ...Open AI har nu lagt in specifika instruktioner i sitt kodverktyg Codex som flera gånger instruerar modellen att aldrig prata om vättar (goblins), oknytt (gremlins), tvättbjörnar, troll, duvor och andra varelser om det inte är tydligt relevant. ...

Omnämnda personer: Sam Altman.

Gemini Enterprise integrerar AI-agenter i samarbetsflöden

Bland dessa finns nya sätt att interagera med Gemini Enterprise, antingen självständigt eller tillsammans med kollegor. Projects är en ny samarbetsyta som gör det möjligt för team att interagera med en gemensam ”expert”-chattbot som är ansluten till specifika

Sammanhang: ...Projects är en ny samarbetsyta som gör det möjligt för team att interagera med en gemensam ”expert”-chattbot som är ansluten till specifika datakällor från Google Workspace, Microsoft 365 och teamchattar. Ett nytt Canvas-verktyg låter användare skapa och redigera dokument tillsammans direkt i Gemini Enterprise, oavsett om det är Google Docs och Slides eller Microsoft 365-filer. ...

Omnämnda platser: Servicenow, Inbox. Omnämnda personer: Google Workspace, Google Docs, Gemini Enterprise.

It-chefer i kläm mellan anställdas AI-trötthet och ledningens AI-krav

På samma sätt förväntar sig företagets investerare ofta att AI ska sänka kostnaderna, vilket sätter press på ledningen att visa omedelbar avkastning på AI, tillägger Johar. – De förstår inte alltid att man måste ta kostnaden innan man kan spara in på kostnaderna,

Sammanhang: ...Black Line har också utbildat anställda i hur de kan bygga egna agenter för specifika avdelningsfunktioner, och hittills har anställda byggt nästan 300 AI-agenter. Cio:er och deras team bär ansvaret för att införa styrning och struktur i floden av agenter, som Johar uttrycker det, och säkerställa att de uppfyller företagets policyer kring dataintegritet och säkerhet. ...

Omnämnda platser: McKinsey. Omnämnda personer: Google Workspace.

SaaS är inte dött – men AI-agenter förändrar marknaden för företagsprogram

Demeule tillägger: – När det gäller stora företag tror jag fortfarande inte att risken med att överlåta autonomi till ett agentbaserat system finns där ännu. Hans prognos är att agentbaserad AI kommer att införas långsamt och att människor kommer att förbli

Sammanhang: ...Vinnare och förlorare Branschutsikter: Agentbaserad AI kommer att ha en stor inverkan på leverantörer av specifika produkter; de med en generisk app kommer att få det svårt; de med ett domänspecifikt verktyg har bättre förutsättningar att överleva. ...

Omnämnda platser: Moveworks, Mjukvaruplattformar. Omnämnda personer: Dana Gardner, Bain & Co, Anthropic Claude.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...Kate Leggett, chefsanalytiker på Forrester, rekommenderar att man helt överger LLM:er och istället använder små språkmodeller inriktade på specifika segment, till exempel ingredienser hos ett företag inom konsumentförpackade varor. – Man kan driva det i en privat molntjänst eller till och med lokalt och man kan låsa ner det. ...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

AI-budgetar skjuter i höjden, men ROI fortfarande svårmätt

Den första är breda produktivitetsplattformar – vad han kallar ”vardags-AI” – som hjälper anställda att skriva, söka, sammanfatta eller analysera information. Dessa verktyg kan vara kulturellt transformativa, men de är notoriskt svåra att kvantifiera. Engagemangsmätningar

Sammanhang: ...Modeller är inbäddade i arbetsflöden och återanvänds av flera team, vilket gör det svårt att hänföra kostnad eller värde till specifika resultat. Utan tydlig inventering och livscykeluppföljning hamnar företagen i att hantera AI-utgifterna i aggregerad form – medan värde skapas eller går förlorat i marginalerna. ...

Omnämnda personer: Black Line, Anthony Habayeb, Jim Olsen.

Vibe-koda egna företagsappar? En riskabel affär.

– Verktyg som vibe-kodningsappar kan enkelt producera mindre applikationer. Men när det gäller komplexa företagssystem blir programvaran snabbt stor, och man behöver en infrastruktur som kan hantera och underhålla den kodbasen över tid. Med dessa potentiella

Sammanhang: ... – Det finns andra mer rimliga tillvägagångssätt där ett företag har byggt punktlösningar för mycket specifika problem och uppnått en viss framgång som är användbar på kort sikt men som ibland går i stå efter ett tag. ...

Omnämnda platser: Slack. Omnämnda personer: Blake Crawford, Adam Arellano, Salesforces CRM.

Mistrals nya plattform låter företag skapa egna AI-modeller

Det franska teknikföretaget Mistral AI har lanserat Mistral Forge, en ny plattform som gör det enkelt för företag, organisationer och myndigheter att skapa sina egna AI-modeller. Till skillnad från dagens AI-modeller som tränats på innehåll från internet

Sammanhang: ... – Det Forge gör är att låta företag och myndigheter anpassa AI-modeller för sina specifika behov, säger Mistrals produktchef Elisa Salamanca i en kommentar till Techcrunch. ...