Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ... – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell. Hur görs små språkmodeller små? Medan LLM:er kan ha hundratals miljarder – eller, i allt högre grad, biljoner – parametrar, ligger SLM:er vanligtvis i intervallet 1 till 7 miljarder parametrar. ...

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.

Är ditt företags AI förgiftad?

För många ciso:er är det mycket mer brådskande att hantera dataföroreningar än en hypotetisk förgiftningskampanj. Darren Williams, grundare och vd för Black Fog, säger att detta inte så mycket är ett nytt AI-problem som en återgång till grunderna inom cybersäkerhet.

Sammanhang: ...Forskning från Anthropic, UK AI Security Institute och Alan Turing Institute har visat att så få som 250 skadligt utformade dokument kan förgifta LLM:er av vilken storlek som helst. Det skapar ett enormt problem i leveranskedjan eftersom angripare inte behöver bryta sig in hos LLM-leverantören själv. ...

Omnämnda platser: Anthropic, Black Fog. Omnämnda personer: Patrick Fussell, Adam Meyers.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...Kate Leggett, chefsanalytiker på Forrester, rekommenderar att man helt överger LLM:er och istället använder små språkmodeller inriktade på specifika segment, till exempel ingredienser hos ett företag inom konsumentförpackade varor...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

Molnbaserad AI en risk för företagens stabilitet

Denna förändring innebär en stor avvikelse från den traditionella affärsmodellen från internets tidiga dagar, då varje företag skötte sitt eget system och fel kunde begränsas. I dag, när en LLM eller dess molnleverantör drabbas av problem, sprider sig konsekvenserna

Sammanhang: ...I nästan sju timmar var applikationer som drivs av LLM:er, allt från juridiska AI-verktyg till chattbotar för kundtjänst och beslutsstödssystem för leveranskedjan, ur funktion. ...

Molnet behöver luftvärn nu

Mycket handlar om AI. Om kriget i Ukraina varit något av en testbädd för hur AI kan användas militärt har kriget i Iran låtit Pentagon och dess leverantörer i den privata sektorn applicera AI i en större skala än någonsin tidigare. ”AI-verktyg hjälper till

Sammanhang: ...Och det är ju det här en stor del av konflikten mellan Anthropic och Pentagon gäller – Anthropic menar att LLM:er som Claude inte är tillräckligt tillförlitliga för att fatta beslut om liv och död på egen hand. ...

Omnämnda platser: Bahrain, Ukraina, Maven. Omnämnda personer: Washington Post, Anthropics LLM.

Det här är Microsofts nya AI-chip

Maia 200 Microsoft presenterade sitt första AI-chip 2023 och nu är det dags för uppföljaren, Maia 200. Det handlar om ett chip som ska bo i serverhallar, inte våra egna datorer. Det tillverkas av TSMC

Sammanhang: ...Det tillverkas av TSMC på deras 3 nm-process och chipet ska ha 140 miljarder transistorer. Chipet är inte till för att träna LLM:er utan här ska det levereras svar på promptar. Enligt Microsoft levererar Maia 200 över 10 petaFLOPS i FP4 och runt 5 petaFLOPS i FP8. ...

Omnämnda platser: Microsofts, Des Moines. Omnämnda personer: Peak specifications.

Här är ciso:ernas säkerhetsprioriteringar inför 2026

AI är redan en del av cyberriskplaneringen hos Aflac, säger Tim Callahan, global ciso, som förväntar sig att användningen kommer att öka ytterligare under 2026. Redan nu utnyttjar hans team AI och maskininlärning för hotdetektering och respons samt identifiering

Sammanhang: ...Jag vill vara säker på att jag håller ett öga på det och ser till att känslig och proprietär data eller forskning inte läcker ut till dessa publika LLM:er. Budgetarna relativt oförändrade Cirka 55 procent av de tillfrågade uppgav att deras säkerhetsbudgetar kommer att förbli oförändrade, medan 43 procent förväntar sig en ökning, enligt undersökningen. ...

Omnämnda platser: Nordamerika, Microsofts, Aflac. Omnämnda personer: Tim Callahan, ciso:er verkligen.

Joakim Flodin: AI och nya affärer omformar medieåret – ”Premium och effekt är hårdvaluta”

Enligt tradition avslutar Dagens Media året med ”jul- och nyårsfrågan” där tongivande personer i branschen reflekterar kring året som varit, och tittar under locket på det nya. Joakim Flodin är vd på Schibsted Marketing Services. Vad tar du med dig från

Sammanhang: ...Globala plattformar stänger sina ekosystem ännu mer, LLM:er blir nya gränssnitt för både sök och rekommendation, och transparensen i det programmatiska ekosystemet minskar. ...

Omnämnda platser: Globala, Schibsted, Norden. Omnämnda personer: Joakim Flodin.

Waterfox är ett alternativ till Firefox

Om du vill ha en webbläsare utan AI-funktioner För de som diggar webbläsaren Firefox men inte känner sig nöjda med AI-fokuset som Mozilla, organisationen som utvecklar Firefox, har tagit den senaste tiden finns den alternativa

Sammanhang: ...I ett långt blogginlägg skriver Waterfox utvecklare Alex Kontos att webbläsaren inte kommer att innehålla några LLM:er, de stora språkmodeller som driver generativa AI-applikationer. Det kan ses som ett svar på de AI-webbläsare som börjar dyka upp på marknaden och de AI-funktioner som traditionella webbläsare förses med i allt högre grad. ...

Omnämnda platser: Windows. Omnämnda personer: Alex Kontos.

Därför är AI-agenter så bra på att koda

Allt detta handlar i slutändan om en enorm mängd vektormatematik – svindlande mängder av beräkningar. Lyckligtvis är GPU:er riktigt bra på vektormatematik, och det är därför AI-företag har en omättlig aptit på GPU:er och varför Nvidia är det mest värdefulla

Sammanhang: ...De flesta texter är röriga, men all kod har per definition mönster som är lättare för en LLM att känna igen än naturligt språk. Som ett resultat är LLM:er naturligtvis bättre på att läsa och skriva kod. LLM:er kan ganska snabbt och enkelt analysera kod, upptäcka mönster och reproducera dessa mönster på begäran. ...

Omnämnda platser: Github, Stack.