Fem nycklar till att hålla tokenkostnaden under kontroll

Lyckligtvis finns det några bra verktyg vi kan använda för att kontrollera AI-utgifterna. Här är de fem viktigaste verktygen för att tämja odjuret. Modellrouting Använd inte en spikpistol om en häftstift räcker. De mest kraftfulla modellerna, som den senaste

Sammanhang: ...Ställer du in den för lågt börjar din applikation leverera allmänna, återanvända svar på nyanserade användarfrågor. För öppna, kreativa och generativa AI-applikationer är semantisk cachning praktiskt taget värdelös. ...

Omnämnda platser: Kong. Omnämnda personer: Anthropic Claude, Claude Opus, Cohere Rerank.

Från teknikfråga till affärsstrategi: Cybersäkerhet och motståndskraft viktigare än någonsin

När fler medarbetare arbetar i utspridda och ofta mindre säkra miljöer, samtidigt som de använder AI-baserade enheter och tjänster, ställs organisationer inför nya utmaningar. Det handlar bland annat om dataskydd, behörighetsstyrning, digital motståndskraft

Sammanhang: ...Angripare kan formulera nätfiskemeddelanden på några sekunder, återanvända delar från tidigare attacker och paketera om angreppskampanjer på mycket kort tid. Den visar också hur cyberkriminella utnyttjar processer och verktyg som egentligen är avsedda att stärka säkerheten. ...

Omnämnda personer: Pelle Aardewerk, Wolf Security.

AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ... – Även om detta kanske inte är effektivt sett till kodhastigheten, så kan man återanvända ett mantra från US Navy SEALs: ”Långsamt är smidigt, och smidigt är snabbt”, säger Hoodlet. – Att producera större mängder kod snabbare är inte detsamma som att producera funktionell, säker och robust kod. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Google lanserar nya TPU:er – 8t och 8i

– Träning och inferens skiljer sig nu åt när det gäller ekonomi, minnesbeteende, nätverksbehov och köpmönster. Kunderna vill i allt högre grad ha rätt pris-prestandakurva för varje steg i modellens livscykel, inte en accelerator som passar alla, säger Fersht.

Sammanhang: ...För modellleverantörer, som Open AI och Anthropic, möjliggör valet av chipp, påpekar Dai, en tydligare åtskillnad mellan tränings- och driftsflottor, samtidigt som det fortfarande går att återanvända gemensamma verktyg och kodvägar, vilket i sin tur sänker de totala kostnaderna, förbättrar flottans effektivitet och förenklar övergångarna i modellens livscykel. ...

Omnämnda personer: Hyperframe Research, Charlie Dai, Stephen Sopko.

Japanskt rederi och Hitachi ska bygga flytande datacenter

Det japanska rederiet Mitsui OSK Lines (MOL) har inlett ett samarbete med Hitachi Systems för att bygga flytande datacenter, rapporterar The Register. Planen är att omvandla ett begagnat fartyg till ett datacenter till havs. På så vis kan datacentret använda

Sammanhang: ...Konceptet kan också innebära en kortare byggtid på cirka ett år och lägre kostnader genom att återanvända befintliga fartyg. Hitachi ansvarar för it-infrastruktur, drift och kundlösningar, medan MOL hanterar fartyget, ombyggnaden och marina frågor som hamnplacering och underhåll....

Verktyg för att hacka Iphone har läckt ut på Github

Nyligen varnade säkerhetsforskare för Darksword, ett hackarverktyg som kan användas för att komma åt innehållet på mobiltelefoner som kör äldre versioner av IOS. Senaste nytt är att koden till en ny version av Darksword laddats upp på Github, något som

Sammanhang: ... – Det här är illa. Det är alldeles för lätt att återanvända koden. Så vi måste förvänta oss att kriminella personer börjar använda sig av den, säger Matthias Frielingsdorf från säkerhetsföretaget Iverify i en kommentar till Techcrunch. ...

Omnämnda platser: Github. Omnämnda personer: Matthias Frielingsdorf.

AI-kodning kräver att utvecklare blir bättre chefer

En specifikationsmall som faktiskt fungerar En bra AI-specifikation är inte en begäran om kommentarer (RFC). Det är ett verktyg som gör avvikelser dyra och korrekthet billig. Osmanis rekommendation är att börja med en kortfattad produktbeskrivning, låtaagenten

Sammanhang: ...Osmanis rekommendation är att börja med en kortfattad produktbeskrivning, låta agenten utarbeta en mer detaljerad specifikation och sedan korrigera den till en levande referens som du kan återanvända mellan sessionerna. Det är bra, men det verkliga värdet kommer från de specifika komponenterna du inkluderar. ...

Omnämnda personer: Ethan Mollicks.