Fem nycklar till att hålla tokenkostnaden under kontroll

Lyckligtvis finns det några bra verktyg vi kan använda för att kontrollera AI-utgifterna. Här är de fem viktigaste verktygen för att tämja odjuret. Modellrouting Använd inte en spikpistol om en häftstift räcker. De mest kraftfulla modellerna, som den senaste

Sammanhang: ...Promptcachning lagrar den data som behövs för att sätta frågan i sitt sammanhang. När användaren matar in en prompt skickas den till den generativa AI-ändpunkten. Men istället för att din applikation upprepade gånger måste samla in och skicka den omfattande kontextinformationen som behövs för att sätta in prompten i sitt sammanhang – från en RAG-pipeline, en databas eller annan källa – finns den informationen redan laddad i kontextcachen. ...

Omnämnda platser: Kong. Omnämnda personer: Anthropic Claude, Claude Opus, Cohere Rerank.

Microsoft satsar ännu mer på Rust

Efter att i många år ha följt hur Microsoft utvecklar plattformar och lanserar teknik till externa användare står en sak klar: allt som är viktigt för Microsoft internt blir snabbt viktigt för alla som bygger på Windows eller Azure. Övergången från interna

Sammanhang: ...Koden genereras och levereras som .OBJ-filer, varifrån den sedan kan skickas vidare till MSVC-länkaren och levereras som en binär körbar fil. Detta gör det möjligt för Rust-verktygen att dra nytta av det arbete som Microsoft har lagt ner under årtionden på både sina kompilatorer och sina byggverktyg. ...

Omnämnda platser: Windows, Visual Studio, Rusts Windows-verktyg. Omnämnda personer: Rust Foundations, Rust Foundation, Visual Studios.

Bekräftat: Chrome OS går i graven 2034

Google låter meddela att de sista uppdateringarna för Chrome OS kommer att skickas ut i mitten av 2034, alltså om 8 år. Bakgrunden är lanseringen av Googlebook, en ny serie bärbara datorer som är tänkta att ersätta Chromebook på sikt. De nya datorerna använder

Sammanhang: ...Google låter meddela att de sista uppdateringarna för Chrome OS kommer att skickas ut i mitten av 2034, alltså om 8 år. Bakgrunden är lanseringen av Googlebook, en ny serie bärbara datorer som är tänkta att ersätta Chromebook på sikt. ...

Omnämnda personer: Googlebook OS.

Tiotusentals svenska företag berörs av EU:s nya cybersäkerhetslag

Under fredagen träder EU:s nya lag om cybersäkerhet i kraft, den lag som kallas för Cyber Resilience Act (CRA) på engelska. Enligt det nya regelverket måste aktivt utnyttjade sårbarheter och allvarliga cybersäkerhetsincidenter rapporteras till EU:s cybersäkerhetsmyndighet

Sammanhang: ...Enligt det nya regelverket måste aktivt utnyttjade sårbarheter och allvarliga cybersäkerhetsincidenter rapporteras till EU:s cybersäkerhetsmyndighet ENISA inom 24 timmar. Därefter ska en mer detaljerad rapport skickas in inom 72 timmar och en slutrapport när händelsen är färdighanterad. Enligt Research Institutes of Sweden (RISE) berörs tiotusentals svenska företag av den nya lagen, många utan att veta om det...

Omnämnda personer: Ted Strandberg, Cyber Resilience.

Lurendrejare pressar Instagram-användare på pengar

På sistone har ett okänt antal Instagram-användare råkat ut för en ny form av lurendrejeri. I korthet handlar det om att lurendrejarna gör falska anmälningar om brott mot upphovsrätten, varpå användarnas konton stängs av automatiskt. Därefter skickas meddelanden

Sammanhang: ...I korthet handlar det om att lurendrejarna gör falska anmälningar om brott mot upphovsrätten, varpå användarnas konton stängs av automatiskt. Därefter skickas meddelanden till de drabbade personerna att de kan få tillbaka sina konton om de betalar en viss summa pengar, till exempel 50 pund eller 100 dollar. ...

Omnämnda platser: Meta.

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...En enkel buggfix kan kräva en mindre ingående granskning än en ändring av en känslig backend-tjänst, och en personlig sammanfattning medför kanske liten risk. Men ett dokument som skickas i någons namn måste fortfarande granskas av en människa. Gör autonomin ansvarsskyldig Denna typ av pragmatisk inställning kan vara den bästa lärdomen för it-chefer, där målet blir en handlingskraftig AI snarare än maximal autonomi. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

Bättre väderprognoser tack vare ny AI-modell från Google

Google Deepmind har lanserat Weathernext 3, en kraftfull AI-modell som ska användas för att leverera mer träffsäkra väderprognoser. Enligt uppgift ska prognoserna bli uppemot 50 procent mer korrekta jämfört med tidigare, något som är ett stort steg framåt.

Sammanhang: ...På så sätt kan en ny prognos genereras varje timme och sedan skickas vidare till användare av Googles tjänster....

Omnämnda personer: Google Google Deepmind.

Pentagon har fått egna versioner av Chat GPT och Grok

Pentagon har fått egna versioner av Open AI:s Chat GPT och Spacex Grok. Både är nu tillgängliga för det amerikanska försvarsdepartementets omkring tre miljoner civila och militära anställda, rapporterar Techcrunch. De nya tjänsterna, Chat GPT Mil och Grok

Sammanhang: ...Portalen låter försvarsdepartementets personal använda kommersiella AI-modeller utan att känsliga uppgifter behöver skickas genom vanliga konsumenttjänster. Chat GPT Mil uppges främst vara tänkt för rutinmässigt och oklassificerat arbete inom exempelvis administration, logistik, planering och policyarbete. ...

Omnämnda personer: Chat GPT, Googles Gemini, Spacex Grok.

Nu kan Chat GPT skicka sms

Open AI har uppdaterat Chat GPT för Mac och den stora nyheten är ett nytt tillägg som gör att du kan låta AI-verktyget få full tillgång till appen Meddelanden. Tanken är att du ska kunna komponera meddelanden via sms, rcs och Imessage med hjälp av Chat GPT,

Sammanhang: ...Tanken är att du ska kunna komponera meddelanden via sms, rcs och Imessage med hjälp av Chat GPT, men ingenting ska skickas utan ditt godkännande....

Omnämnda personer: Chat GPT.

AI-verktyg ska hjälpa Microsoft att hitta fler sårbarheter i Windows

Microsoft-höjdaren Pavan Davuluri låter meddela att företaget har börjat använda sig av en rad nya AI-verktyg i syfte att hitta och täppa till sårbarheter i Windows 11. – Genom att tillämpa AI inom säkerhetsanalyser kan vi identifiera mönster snabbare, prioritera

Sammanhang: ...Alla potentiella sårbarheter som upptäcks av AI-verktygen ska emellertid granskas av utvecklare innan säkerhetsfixar skickas ut till allmänheten....

Omnämnda platser: Windows.