Open AI och Broadcom presenterar sitt första AI-chipp – Jalapeño

Open AI och Broadcom har nu presenterat sitt första gemensamma AI-chipp, Jalapeño, rapporterar CNBC. Chippet ska användas för inferens, alltså den beräkningsprocess som krävs för att AI-modeller som Chat GPT ska kunna leverera svar till användare. Jalapeño

Sammanhang: ...Jalapeño är ett specialutvecklat ASIC-chip, en typ av krets som är optimerad för specifika uppgifter. Till skillnad från de mer flexibla GPU:er som dominerar AI-marknaden idag, bland annat från Nvidia, kan ASIC-lösningar erbjuda lägre kostnader och högre effektivitet för vissa arbetsbelastningar. ...

Omnämnda personer: Chat GPT.

NSA uppges använda Anthropics Mythos för cyberattacker

Enligt uppgifter till Financial Times hjälper AI-bolaget Anthropic den amerikanska säkerhetsmyndigheten National Security Agency (NSA) att använda den avancerade AI-modellen Mythos för offensiva cyberoperationer. Företaget ska ha placerat flera utvecklare

Sammanhang: ...Företaget ska ha placerat flera utvecklare på plats hos myndigheten för att anpassa tekniken till specifika uppdrag. Mythos har väckt uppmärksamhet eftersom modellen sägs vara mycket skicklig på att hitta och utnyttja cybersäkerhetsbrister. ...

Omnämnda platser: Iran, Kina.

Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ...Medan LLM tränas på petabyte av data, tränas SLM på kompakta transformatorarkitekturer (neurala nätverk) med hjälp av mindre, specialiserade, högkvalitativa datamängder som är specifika för deras avsedda funktion. Flera tekniker hjälper till att begränsa modellstorleken utan att kompromissa med prestandan. ...

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.

Företagen har fortfarande de små AI-vinsterna i fokus

– AI för kostnadseffektivitet höjer bottennivån, men vad spelar det för roll? Om det bara handlar om effektivitet kommer du inte att vinna mer än kortsiktiga vinster. Om man jämför kostnadsbesparingar med effektivitet kan vi växa utan att personalstyrkanökar

Sammanhang: ...Forrester råder it- och företagsledare att fokusera på fyra nyckelområden: Definiera affärsresultaten och framgångsmåtten för sina AI-initiativ. Identifiera specifika användningsfall för AI-implementering som är anpassade till dessa affärsresultat. Upprätta en struktur för att planera, testa och implementera AI-applikationer. ...

Omnämnda personer: Thomas Prommer, Forresters Hopkins, Mike Flynn.

Open AI vill att Codex ska sluta prata om vättar och oknytt

Open AI har nu lagt in specifika instruktioner i sitt kodverktyg Codex som flera gånger instruerar modellen att aldrig prata om vättar (goblins), oknytt (gremlins), tvättbjörnar, troll, duvor och andra varelser om det inte är tydligt relevant. Det hela tycks

Sammanhang: ...Open AI har nu lagt in specifika instruktioner i sitt kodverktyg Codex som flera gånger instruerar modellen att aldrig prata om vättar (goblins), oknytt (gremlins), tvättbjörnar, troll, duvor och andra varelser om det inte är tydligt relevant. ...

Omnämnda personer: Sam Altman.

Gemini Enterprise integrerar AI-agenter i samarbetsflöden

Bland dessa finns nya sätt att interagera med Gemini Enterprise, antingen självständigt eller tillsammans med kollegor. Projects är en ny samarbetsyta som gör det möjligt för team att interagera med en gemensam ”expert”-chattbot som är ansluten till specifika

Sammanhang: ...Projects är en ny samarbetsyta som gör det möjligt för team att interagera med en gemensam ”expert”-chattbot som är ansluten till specifika datakällor från Google Workspace, Microsoft 365 och teamchattar. Ett nytt Canvas-verktyg låter användare skapa och redigera dokument tillsammans direkt i Gemini Enterprise, oavsett om det är Google Docs och Slides eller Microsoft 365-filer. ...

Omnämnda platser: Servicenow, Inbox. Omnämnda personer: Google Workspace, Google Docs, Gemini Enterprise.

It-chefer i kläm mellan anställdas AI-trötthet och ledningens AI-krav

På samma sätt förväntar sig företagets investerare ofta att AI ska sänka kostnaderna, vilket sätter press på ledningen att visa omedelbar avkastning på AI, tillägger Johar. – De förstår inte alltid att man måste ta kostnaden innan man kan spara in på kostnaderna,

Sammanhang: ...Black Line har också utbildat anställda i hur de kan bygga egna agenter för specifika avdelningsfunktioner, och hittills har anställda byggt nästan 300 AI-agenter. Cio:er och deras team bär ansvaret för att införa styrning och struktur i floden av agenter, som Johar uttrycker det, och säkerställa att de uppfyller företagets policyer kring dataintegritet och säkerhet. ...

Omnämnda platser: McKinsey. Omnämnda personer: Google Workspace.

SaaS är inte dött – men AI-agenter förändrar marknaden för företagsprogram

Demeule tillägger: – När det gäller stora företag tror jag fortfarande inte att risken med att överlåta autonomi till ett agentbaserat system finns där ännu. Hans prognos är att agentbaserad AI kommer att införas långsamt och att människor kommer att förbli

Sammanhang: ...Vinnare och förlorare Branschutsikter: Agentbaserad AI kommer att ha en stor inverkan på leverantörer av specifika produkter; de med en generisk app kommer att få det svårt; de med ett domänspecifikt verktyg har bättre förutsättningar att överleva. ...

Omnämnda platser: Moveworks, Mjukvaruplattformar. Omnämnda personer: Dana Gardner, Bain & Co, Anthropic Claude.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...Kate Leggett, chefsanalytiker på Forrester, rekommenderar att man helt överger LLM:er och istället använder små språkmodeller inriktade på specifika segment, till exempel ingredienser hos ett företag inom konsumentförpackade varor. – Man kan driva det i en privat molntjänst eller till och med lokalt och man kan låsa ner det. ...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

AI-budgetar skjuter i höjden, men ROI fortfarande svårmätt

Den första är breda produktivitetsplattformar – vad han kallar ”vardags-AI” – som hjälper anställda att skriva, söka, sammanfatta eller analysera information. Dessa verktyg kan vara kulturellt transformativa, men de är notoriskt svåra att kvantifiera. Engagemangsmätningar

Sammanhang: ...Modeller är inbäddade i arbetsflöden och återanvänds av flera team, vilket gör det svårt att hänföra kostnad eller värde till specifika resultat. Utan tydlig inventering och livscykeluppföljning hamnar företagen i att hantera AI-utgifterna i aggregerad form – medan värde skapas eller går förlorat i marginalerna. ...

Omnämnda personer: Black Line, Anthony Habayeb, Jim Olsen.