AI-agenter kan kräva en ny generation servrar

Tech idag Agentbaserad AI kan tvinga fram en ny design av företagens AI-servrar. Forskare vid Microsoft Azure och University of Texas at Austin har funnit att dagens GPU-baserade infrastruktur har svårt att effektivt hantera AI-arbetsflöden som växlar mellan

Sammanhang: ...Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst. Forskarna föreslår därför serverarkitekturen Agora, som dynamiskt fördelar resurser efter arbetsbelastningen. I tester ökade lösningen CPU-utnyttjandet med omkring 30 procent, frigjorde ungefär en tredjedel av GPU och ökade genereringskapaciteten med 82 procent....

Omnämnda platser: Agora, Austin.