Kan neoclouds rubba marknaden för AI-infrastruktur?

Utöver kostnadsbesparingarna skiljer sig neoclouds från mängden genom AI-optimerad databehandling och nätverksfunktioner. – Tillgång till bare-metal eliminerar hypervisorns overhead och ger den underliggande GPU:ns fulla prestanda, säger John Q. Martin,teknikpartner

Sammanhang: ...Neoclouds största kunder: hyperscalers Med tanke på de lägre kostnaderna, den direkta tillgången till GPU:er och den snabbare driftsättningen menar experterna att neoclouds är ett logiskt val för uppgifter som storskalig AI/ML-träning, generativa AI-plattformar och högpresterande beräkningar. ...

Omnämnda platser: Backblaze, Microsofts. Omnämnda personer: Nigel Gibbons, David Johnson, Scott Sanders.

Dragkamp mellan AI och traditionella molntjänster

Marknaden för publika molntjänster upplever just nu en extraordinär ekonomisk period, där Amazon Web Services, Microsoft Azure och Google Cloud alla drar nytta av den explosionsartade efterfrågan på AI-infrastruktur och -tjänster. AWS fortsätter att omvandla

Sammanhang: ...De tre stora molnjättarna står i främsta ledet inför vad som kan bli den största vågen av teknikinvesteringar inom företagssektorn sedan den inledande rusningen mot publika molntjänster. Företagen efterfrågar GPU:er, AI-acceleratorer, hanterade modelltjänster, vektordatabaser, inferensplattformar, träningsmiljöer, datapipelines och den operativa infrastruktur som krävs för att driva AI i stor skala. ...

Omnämnda personer: Google Cloud, Microsoft Azure.

AI-agenter kan tvinga fram en ny design av företagsservrar

Företag som implementerar agentbaserad AI kan behöva en ny generation av AI-servrar, eftersom konventionell GPU-baserad infrastruktur har svårt att effektivt köra AI-arbetsflöden med flera steg, enligt forskare från Microsoft Azure och University of Texas

Sammanhang: ...Enligt forskarna leder det fragmenterade exekveringsmönstret till att CPU:er och GPU:er i genomsnitt utnyttjas i för liten utsträckning, samtidigt som det gör att endera processorn kan bli ”en tillfällig flaskhals på arbetsflödets kritiska väg”, vilket gör statisk resurstilldelning ineffektiv för agentiska arbetsbelastningar. ...

Omnämnda platser: Microsofts, Agora, Austin. Omnämnda personer: Greyhound Research.

Bristen på it-infrastruktur är påtaglig och bestående. Så här hanterar du situationen

– Jag skulle inte säga att något företag klarar sig bättre än andra, säger Neil Anderson, teknikchef för moln-, infrastruktur- och AI-lösningar på World Wide Technology (WWT). – Det kan finnas nyanser som vissa leverantörer utnyttjar för att i viss utsträckning

Sammanhang: ...Titta på alternativ, inklusive AMD och molnlösningar, samtidigt som du är medveten om hur allt hänger ihop. Du kanske inte kan få tag på Nvidia-GPU:er, men AWS, Azure och Oracle Cloud har dem, påpekar Kimball. Var strategisk, kanske genom att använda molntjänster för att hantera vissa optimerings- eller inferensarbetsbelastningar och sedan flytta tillbaka dem till den egna miljön när det är lämpligt...

Omnämnda platser: Lenovo, Backblaze, Tallahassee. Omnämnda personer: James Rowell, Neil Anderson, Moore Insights.

Open AI och Broadcom presenterar sitt första AI-chipp – Jalapeño

Open AI och Broadcom har nu presenterat sitt första gemensamma AI-chipp, Jalapeño, rapporterar CNBC. Chippet ska användas för inferens, alltså den beräkningsprocess som krävs för att AI-modeller som Chat GPT ska kunna leverera svar till användare. Jalapeño

Sammanhang: ...Jalapeño är ett specialutvecklat ASIC-chip, en typ av krets som är optimerad för specifika uppgifter. Till skillnad från de mer flexibla GPU:er som dominerar AI-marknaden idag, bland annat från Nvidia, kan ASIC-lösningar erbjuda lägre kostnader och högre effektivitet för vissa arbetsbelastningar. ...

Omnämnda personer: Chat GPT.

Riskkapitalet flödar till AI-startups – men bubblan kan spricka

X.AI inledde till exempel 2026 med en serie E-runda på 20 miljarder dollar. Open AI erhöll 122 miljarder dollar i en massiv finansieringsrunda i mars, med en värdering på 852 miljarder dollar. Anthropic erhöll 30 miljarder dollar i en finansieringsrunda som

Sammanhang: ...Chipptillverkaren Nvidia investerade i både Open AI och Anthropic och slöt samtidigt avtal om att använda Nvidias GPU:er för deras generativa AI-modeller. Nvidia investerade också i AI-startupen Thinking Machines Lab, som grundades av Mira Murati, tidigare cto (och tillfälligt vd) för OpenAI. ...

Omnämnda personer: J. Gold Associates, John Mannes, Nvidias GPU:er.

Analytiker: Företagen måste tänka bortom GPU:er när det gäller AI-agenter

– Ett bättre sätt att se på detta är kostnaden för AI-beräkningar och nu agentiska AI-plattformstjänster eller -system, säger Leonard Lee, chefsanalytiker på Next Curve. – AI-beräkningar eller accelererade beräkningar har tydligt gått bortom GPU:n som inferensaccelerator.

Sammanhang: ...Analytiker: Företagen måste tänka bortom GPU:er när det gäller AI-agenter...

Omnämnda platser: Next Curve. Omnämnda personer: Tirias Research, Leonard Lee, Jim McGregor.

Intels nya satsning: egna GPU:er

Intel planerar att börja utveckla egna grafikprocessorer (GPU:er) för datacenter. Det uppger Intels vd Lip-Bu Tan i en intervju med Reuters. Marknaden för datacenter-GPU:er domineras i dag av Nvidia. Som en del av satsningen har Intel rekryterat Eric Demmers,

Sammanhang: ...Intel planerar att börja utveckla egna grafikprocessorer (GPU:er) för datacenter. Det uppger Intels vd Lip-Bu Tan i en intervju med Reuters. Marknaden för datacenter-GPU:er domineras i dag av Nvidia. ...

Omnämnda personer: Eric Demmers.

Tillverkarna: AI-pc ger högre hastigheter och lägre molnkostnader

– Vi är medvetna om att AI-arbetsbelastningar, även om de flyttas till kanten, inte kommer att ske över en natt., men det håller på att förändras, sa Jim Johnson, senior vice president och general manager för Client Computing Group på Intel, under en keynote

Sammanhang: ...Det äldre Intel-chippet Lunar Lake hade bara 4 GPU-brickor. (GPU:er används också i molnet för att köra Open AI:s ChatGPT, Microsofts Azure AI och andra viktiga molntjänster.)...

Omnämnda personer: Microsofts Azure AI, Zach Noskey, Adobe Premiere.

Därför är AI-agenter så bra på att koda

Allt detta handlar i slutändan om en enorm mängd vektormatematik – svindlande mängder av beräkningar. Lyckligtvis är GPU:er riktigt bra på vektormatematik, och det är därför AI-företag har en omättlig aptit på GPU:er och varför Nvidia är det mest värdefulla

Sammanhang: ...Allt detta handlar i slutändan om en enorm mängd vektormatematik – svindlande mängder av beräkningar. Lyckligtvis är GPU:er riktigt bra på vektormatematik, och det är därför AI-företag har en omättlig aptit på GPU:er och varför Nvidia är det mest värdefulla företaget i världen just nu. ...

Omnämnda platser: Github, Stack.