På Hot Chips-mässan riktades blickarna mot AI-kostnader, GPU:er – och framtiden

När man tänker på AI är det ofta Nvidias GPU:er som kommer att tänka på, eftersom de har spelat en så stor roll i den pågående AI-revolutionen. Men vid Hot Chips-mässan i Kalifornien verkar en alternativ framtid ta form, i takt med att företagens oro fortsätter

Sammanhang: ...Jalapeño-chippet kommer förmodligen att ge dessa datacenter en extra krydda när det gäller inferens. Analysföretaget Semianalysis beviljades exklusiv tillgång för att testa chipet och blev imponerade av vad de fann. ”I allmänhet är första generationens chip inte konkurrenskraftiga, men Open AI bryter mot trenden genom att vara branschledande och överträffa alla chip från Nvidia, AMD och Google som vi har kunnat testa på flera ledande open source-modeller”, skrev SemiAnalysis i en nyhetsbrevsrapport. ...

Omnämnda platser: Kalifornien, Wildcat Lake, Sopko. Omnämnda personer: J. Gold Associates, Stephen Sopko, Analysföretaget Semianalysis.

Vad är egentligen ”öppna” AI-modeller?

Techbranschen stod inför en omvälvning i slutet av 2022 i och med lanseringen av Open AI:s Chat GPT, en enkel chattbot som kunde svara på frågor – nästan som genom ett trollslag. De tidiga banbrytande stora språkmodellerna (LLM) från Open AI och konkurrenter

Sammanhang: ...Under det senaste året har öppna modeller som Alibabas Qwen och Moonshots Kimi också vunnit mark bland företag inom resonemangs-, agent- och fysisk AI. ”Resultatet är en tydlig trend: för varje generation tar det hälften så lång tid för öppen källkodsmodeller att komma ikapp den första slutna källkodsmodellen i sin era”, förklarade analysföretaget SemiAnalysis i ett nyhetsbrev denna månad. Olika typer av öppna modeller Det finns nu flera versioner av ”öppna” AI-modeller, däribland ”open-weight”-modeller och ”open-source”-modeller. ...

Omnämnda platser: Jensen Huang, Frankrike, Tyskland. Omnämnda personer: Richard Morton, Googles Gemini, Anthropics Claude.