Nutanix släpper flera ai-nyheter

GPT-in-a-Box 2.0 som lösningen heter, ska ge utökat stöd för Nvidia:s teknik och för stora språkmodeller med Nvidia:s NIM-mikrotjänster. Den nya integrationen med Nvidia ska göra det möjligt för kunder att förenkla distributionen av ai-modeller och mer effektivt

Sammanhang: ...GPT-in-a-Box 2.0 innehåller ett enhetligt användargränssnitt för hantering av grundmodeller (foundation models), skapande av API:er, hantering av åtkomstnycklar för slutanvändare och integrerar Nutanix Files and Objects samt Nvidia Tensor Core GPU:er. Genom ett nytt samarbete med Hugging Face och deras Large Language Model-bibliotek kommer Nutanix och Hugging Face att utveckla en integration med teknik för produktionsdistribution av stora språkmodeller och skapa modeller för textgenerering på Hugging Face Hub. ...

Omnämnda platser: Nutanix, Beacon, Objects. Omnämnda personer: Hugging Face, Project Beacon, Nvidia Tensor Core GPU:er.

AI skapar sug efter superdatorkraft

Ett högljutt surrande fyller dator­hallen. Det finns hörselkåpor att låna, upplyser Björn Alling. Han är föreståndare för nationellt super­datorcentrum vid Linköpings universitet. Framför oss står Berzelius, en av Sveriges största superdatorer. Dag som natt

Sammanhang: ... – Summan blir mer än delarna, säger Björn Alling och förklarar att gpu:er har en lite lägre noggrannhet än cpu:er. Superdatorer är därför i regel uppbyggda av en cpu-del och en gpu-del, där cpu-delen används för beräkningar som kräver hög noggrannhet eller som inte är anpassade för att köras på gpu:er. ...

Omnämnda platser: Arrhenius, Europas, Europa. Omnämnda personer: Thomas Lippert, Björn Alling, Carl Axel Arrhenius.

”Viktigt att springa snabbt” – svenska chipbolagets nya plan

Det finns ett ökat behov för minneskapacitet i världen. Den artificiella intelligensen är på frammarsch och stora mängder data används för att träna algoritmer och modeller. Men även mer traditionella serverhallar, och även persondatorer, telefoner och plattor

Sammanhang: ...Deras hårdvarulösning kan placeras på chip, som cpu:er eller gpu:er, för att öka kapaciteten eller minnesbandbredden med upp till 50 procent. Tekniken fungerar genom komprimering....

Omnämnda platser: Göteborg.

Elon Musk snackar om ny superdator till xAI

Kallar den för "Gigafactory of compute" Elon Musk planerar att bygga en kraftfull superdator till sitt AI-företag xAI, rapporterar The Information. Det ska handla om en superdator vars GPU-kluster enligt Musk ska vara fyra gånger

Sammanhang: ...Den ska i dagsläget ha tränats upp med hjälp av 20.000 GPU:er. Den nya superdatorn som Musk planerar att köpa ska dock bestå av tiotusentals av Nvidias H100 GPU:er och kosta miljardtals dollar att bygga. ...

Omnämnda platser: Teslas. Omnämnda personer: Nvidias H100 GPU:er, Elon Musk.

Musks AI-bolag tar in över 60 miljarder – kan bygga superdator

Elon Musks startupbolag för artificiell intelligens XAI planerar att bygga en superdator som är särskilt utformad för att driva nästa iteration av bolagets AI- chattbot Grok, enligt en artikel i The Information. Musk vill ha superdatorn i drift till hösten

Sammanhang: ...Den föreslagna superdatorn kommer enligt uppgift att använda 100 000 Nvidia H100 GPU:er och vara minst fyra gånger större än de största GPU-kluster som för närvarande finns, till exempel de som ”används av Meta för att träna sina AI-modeller.” ...

Omnämnda personer: Elon Musks.

Molnutmanaren: ”Självklart att du inte ska behöva skicka din data till Nordamerika”

Efter 15 år som ett hostingbolag bytte Vultr 2014 inriktning, och bestämde sig för att bli specialister på distribuerade system och utmana molnjättarna. – Tanken var då och är fortfarande att erbjuda en enkel, transparent lösning med oöverträffad prestanda

Sammanhang: ... – Vårt uppdrag är på många sätt att demokratisera tillgången till högkvalitativa gpu:er. Kevin Cochrane beskriver marknaden för gpu:er som hyperkonsoliderad. – Vi ser nu hur ett fåtal bolag i en väldigt liten del av världen köper på sig en väldigt stor del av gpu:erna. ...

Omnämnda platser: San Francisco, Johannesburg, Nordamerika. Omnämnda personer: Kevin Cochrane, Google Cloud.

AI Sweden utvecklar språkmodeller för 45 europeiska språk

Tillsammans med tyska Fraunhofer IAIS ska AI Sweden utveckla öppna stora språkmodeller för 45 europeiska språk och dialekter, bland dem Europas 24 officiella språk. Språkmodellerna som projektet, EuroLingua-GPT, ska ta fram är i storleksordningen 7 till180

Sammanhang: ...Totalt handlar det om 8,8 miljoner beräkningstimmar på ett datorkluster som totalt består av 4 480 stycken H100-GPU:er från Nvidia....

Omnämnda platser: Barcelona, Europas, Europa. Omnämnda personer: Fraunhofer IAIS.

Fortsatt brist på AI-chipp, men det kan finnas ett ljus i tunneln

– Det har varit mycket mindre fokus på den exploderande efterfrågan på minneschipp med hög bandbredd, som tillverkas i Korea-baserade gjuterier som drivs av SK Hynix, säger Lee. Förra veckan meddelade SK Hynix att företagets HBM-produkter (High Bandwidth

Sammanhang: ...Det är HBM-chipp som förser GPU:er med den data som de bearbetar. – Den som köper en GPU för AI-beräkningar kommer också att behöva minne med hög bandbredd, säger Lee...

Omnämnda platser: Nvidias, Trendforce. Omnämnda personer: Gaurav Gupta, Avril Wu, High Bandwidth Memory.

Reality check: lever generativ AI upp till hajpen?

Organisk tillväxt Några av Microsofts ursprungliga testkunder har redan gått från pilot till bred driftsättning. Ett av de tidigaste Microsoft 365 Copilot-testerna var på den globala advokatbyrån Clifford Chance, och företaget distribuerar det nu till hela

Sammanhang: ... – Det fanns flera tillfällen då vi skulle ha velat gå mycket snabbare fram eftersom vi kände att upplevelsen var mycket mer mogen, men vi var tvungna att vänta eftersom vi helt enkelt inte hade tillräckligt med kapacitet och GPU:er tillgängliga, säger han. Det är svårt att förutsäga kostnaderna för nya arbetsflöden, och alla antaganden du gör om användningen kommer förmodligen att vara felaktiga eftersom människor interagerar med detta på ett helt annat sätt, tillägger han. ...

Omnämnda platser: Copilot, Power, Microsofts. Omnämnda personer: Jean Paoli, Gemini Code Assist, Juan Bottaro.

Valve släpper Proton 9.0 i stabil version

Kompatibilitetslagret Proton har uppdaterats till version 9.0, vilket innebär att fler spel som ursprungligen utvecklats för Windows nu även funkar på Steam Deck och på Linux i skrivbordsmiljö. Några av de nyare spel som nu gjorts spelbara i den stabila versionen

Sammanhang: ...En annan god nyhet, åtminstone för spelare med Nvidia-grafikkort, är att Nvapi, en mjukvaruutvecklingssats för Nvidias GPU:er, nu är aktiverad som standard för de flesta spel. På Github-sidan finns en komplett lista över 25 spel som nu funkar som de ska, och de buggfixar och förbättringar som gjorts....

Omnämnda platser: Steam Deck, Nvapi. Omnämnda personer: Nvidias GPU:er, Far Cry, Dinogen Online.