Smygande risk att AI-agenten får större makt än vad it-chefen tänkt

Det är en avgörande skillnad för cio:er. Att ta bort ett godkännandesteg innebär inte nödvändigtvis dålig styrning. Att ta bort det för att alla gradvis har slutat lägga märke till det gör det däremot. Varningssignalen är när en människa går från att fatta

Sammanhang: ...En enskild agent kan hålla sig helt inom sitt tillåtna område samtidigt som den bidrar till ett övergripande resultat som ingen hade för avsikt. En agent genererar ett utdata. En annan tar emot det som indata och vidtar en åtgärd. ...

Omnämnda platser: agentens.

Här är Gartners strategiska techtrender för 2027 och framåt

Trender här och nu Gartner har organiserat sina tio trender kring tre etapper som företag måste gå igenom för att övergå från att köra statisk kod till att samordna autonoma maskinarbetare, hantera sensorbaserad AI och möjliggöra suverän databehandling.Det

Sammanhang: ...Utan ett särskilt verktyg måste utvecklare lägga tid på att manuellt verifiera maskinens resultat, vilket enligt Gartner leder till kostsamma processer och motverkar produktivitetsvinster. Gartners prognos: I slutet av 2026 kommer autonoma kodningsagenter att generera 20 procent av alla offentliga commits, vilket gör slutna system obligatoriska för att förhindra kritiska kvalitetsbrister vid mjukvaruleveranser. ...

Omnämnda platser: USA.

Prissättningen av Copilot blir allt mer komplicerad

– Det finns vissa tvivel om huruvida en fullständig övergång till användningsbaserad prissättning för det dagliga kunskapsarbetet är hållbar för organisationer på lång sikt, säger han. När Microsoft lanserade Copilot för tre år sedan tog man ut en fast månadsavgift

Sammanhang: ... – Det kan fungera utmärkt att testa Cowork med femtio av era mest avancerade Copilot-användare, och ni kanske ser fantastiska resultat, säger han. – Men kan ni skala upp det till resten av organisationen? Det är den riktigt intressanta frågan här....

Omnämnda platser: Framgångsrika, Microsofts, Copilots. Omnämnda personer: Github Copilot.

Experter: AI-bolagen struntar i grundläggande cybersäkerhet

Även om pressrapporter och modellleverantörerna själva använder uttryck som ”okontrollerade agenter” eller ”feljustering”, menar cybersäkerhetsexperter att detta språk döljer en enkel sanning: Dessa incidenter orsakades av oförlåtliga brister hos de banbrytande

Sammanhang: ...Vad ciso:er bör göra nu Även om bevisen hopar sig på att ”frontier labs” inte tillämpar sunda cybersäkerhetsrutiner, och debatten om ansvar fortfarande är olöst, kan ciso:er och andra säkerhetschefer vidta åtgärder för att skydda sig mot felaktiga resultat från AI-modeller. För det första, när det gäller att utvärdera verktyg baserade på modeller från froniter-labben, ”skulle jag alltid anlita en extern aktör för att hjälpa till med det”, säger McGraw...

Omnämnda platser: RAND. Omnämnda personer: Berryville Institute of Machine Learning, Rob T. Lee, Gary McGraw.

Ökad misstro mot AI är en möjlighet för Github

Utvecklare har aldrig varit mer benägna att använda AI, men samtidigt aldrig mindre benägna att lita på dess resultat. I Stack Overflows undersökningar fortsätter andelen respondenter som använder AI-verktyg i utvecklingsarbetet att stiga (44 procent år 2023,

Sammanhang: ...Utvecklare har aldrig varit mer benägna att använda AI, men samtidigt aldrig mindre benägna att lita på dess resultat. I Stack Overflows undersökningar fortsätter andelen respondenter som använder AI-verktyg i utvecklingsarbetet att stiga (44 procent år 2023, 62 procent år 2024 och 83 procent år 2026), men förtroendet har inte hållit jämna steg. ...

Omnämnda platser: Stack Overflows, Github, Microsofts.

Köp inte konsulternas AI-ramverk

Alla större konsultföretag erbjuder sina egna färdigutvecklade arkitekturramverk, modeller eller referensarkitekturer för generativ AI och agentbaserad AI. Försäljningsargumentet är nästan identiskt från företag till företag: ”Vi har gjort det här förut,vi

Sammanhang: ...Vad du istället bör göra Fokusera på krav, processer och önskade resultat för att utforma din arkitektur. Lägg ner tid i början på att förstå vilket dynamiskt beteende applikationen faktiskt behöver, vilka data den hanterar, vilka gränser för latens och kostnad den måste hålla sig inom, och hur ett fel ser ut. ...

Omnämnda platser: McKinsey.

Dina medarbetare skapar egna AI-agenter. Vet du vad de håller på med?

I sin iver att integrera agentbaserad AI i sitt arbete tar medarbetarna saken i egna händer och skapar sina egna AI-agenter, oavsett om organisationen har godkänt det eller inte, och ett icke obetydligt antal av dessa skapelser kan få förödande konsekvenser

Sammanhang: ...Cirka en fjärdedel av agentanvändarna har dock tvingats inaktivera dem, främst på grund av att agenternas resultat var inkonsekventa eller att agenten aldrig fungerade. Men 7 procent av kunskapsarbetarna har tvingats stänga av agenter som gått överstyr. ...

Omnämnda personer: Luis Mesas, Frank Licea, Scaled Agile.

Analytiker: It-chefer behöver bli klokare kring ROI för AI

De flesta organisationer har i stort sett inte kunnat mäta den ekonomiska avkastningen från AI, men enligt analytiker håller nya metoder för att beräkna avkastningen på investeringar på att växa fram. – Det finns en fördröjning mellan utvecklingen av tekniken

Sammanhang: ...Dålig data och dålig AI-design innebär fler ”hallucinationer” och dåliga resultat. – Man kan inte köpa det här kontextlagret färdigt. Det måste byggas upp för att passa just dina behov, säger Herschel. ...

Omnämnda platser: Mumbai, Thanaraj, McKinsey. Omnämnda personer: Jack Gold, J. Gold Associates, Gareth Herschel.

Snart här: AI-datorer som sänker tokenkostnaderna

Nvidias Blackwell-grafikprocessorer har dominerat datacentren, men företaget siktar nu på en större del av pc-marknaden med RTX Spark, som inkluderar en Blackwell RTX-grafikprocessor. Den första vågen av RTX Spark-bärbara datorer från Asus, Dell, Lenovo och

Sammanhang: ...Lösningen på alla problem är inte bara att ha mer kapacitet, men att ”mer kapacitet i händerna på rätt personer leder till bättre resultat”, säger Seth....

Omnämnda platser: Asus, Revit, Microsofts. Omnämnda personer: Surface Laptop, Deepak Seth, Brian Allen.

Ansiktsigenkänning i London skannade en halv miljon ansikten – gav en träff och den var fel

En sex månader lång testperiod med ansiktsigenkänning på Londons järnvägsstationer resulterade inte i något gripande kopplat till tekniken och gav bara en enda träff. Denna visade sig dock vara en felaktig identifiering, rapporterar The Guardian. Totaltskannade

Sammanhang: ...Polisen uppger att andra gripanden gjordes i samband med insatserna, men dessa var inte resultat av ansiktsigenkänningen. Trots resultatet har BTP förlängt testperioden med ytterligare fyra månader och även börjat använda tekniken på stationer i Londons tunnelbana. ...

Omnämnda platser: London, Storbritannien, Londons.