Smygande risk att AI-agenten får större makt än vad it-chefen tänkt

Det är en avgörande skillnad för cio:er. Att ta bort ett godkännandesteg innebär inte nödvändigtvis dålig styrning. Att ta bort det för att alla gradvis har slutat lägga märke till det gör det däremot. Varningssignalen är när en människa går från att fatta

Sammanhang: ...Smygande risk att AI-agenten får större makt än vad it-chefen tänkt...

Omnämnda platser: agentens.

Techtoppar följer Trump – börjar kalla AI för “superintellligens”

Flera av USA:s mäktigaste företagsledare har börjat använda Donald Trumps föredragna nya namn på artificiell intelligens, “superintelligens”, rapporterar The Verge. Den amerikanska presidenten har tidigare utfärdat en presidentorder som kräver att federala

Sammanhang: ...Elon Musk har lovat att döpa om SpaceXAI till SpaceXSI och Salesforce-chefen Marc Benioff har sagt att företagets AIForce ska byta namn till SIForce. Även Nvidia-chefen Jensen Huang har börjat använda begreppet. ...

Omnämnda platser: SIForce, Microsofts, USA. Omnämnda personer: Elon Musk, Marc Benioff, Donald Trumps.

Svenskarna frågar hellre AI än chefen

En ny undersökning från Norstat visar att svenska arbetare heller ställer frågor till AI-verktyg än att gå med dem till chefen eller kollegan. 57 procent svarar att de hellre använder AI när de behöver snabba svar i jobbet. Siffran var högre bland män (61

Sammanhang: ...En ny undersökning från Norstat visar att svenska arbetare heller ställer frågor till AI-verktyg än att gå med dem till chefen eller kollegan. 57 procent svarar att de hellre använder AI när de behöver snabba svar i jobbet. ...

Omnämnda platser: Norrland, Norstat. Omnämnda personer: Magnus Wemby, Advania Sverige.

Sluta kalla allt som är gammalt ”teknisk skuld”

Sedan några år tillbaka har jag lagt märke till att många människor missbrukar begreppet ”teknisk skuld” och felaktigt tillämpar det på nästan allt som behöver uppdateras. Trots att Shakespeare föraktade vikten av namngivning (”En cio skulle fortfarandeignoreras,

Sammanhang: ...Den kommer att tvinga cio:er och it-chefer att tänka igenom dessa frågor på ett mer effektivt sätt, vilket i sin tur kommer att hjälpa cfo:n, vd:n och styrelsen att förstå vad det verkliga problemet är. Låt oss vara ärliga här. It-chefen vet exakt vad problemet är och har alltid vetat det. Det har aldrig handlat om att it-cheferna känner till problemen. ...

Omnämnda personer: Justin Greis, emar Greis.

Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr

Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen

Sammanhang: ...Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefen Jensen Huang beskriver tekniken för CNBC som en slags modern webbläsare för agenter. – Man kan inte låta agenter ströva omkring och driva omkring i företaget, så man måste hitta ett sätt att begränsa deras verksamhet, säger Jensen Huang. ...

Omnämnda personer: Jensen Huang.

AI-satsningar hindrar viktiga moderniseringsprojekt

It-modernisering är fortfarande en viktig pelare på cio:ernas strategiska agenda, och till och med vd:ar börjar inse värdet av att ta itu med äldre system för att driva på transformation och innovation. Ändå uppfyller en stor majoritet av moderniseringsprojekten

Sammanhang: ... – Användarna upplever för mycket friktion, så de går tillbaka till de sätt de arbetade på tidigare, säger hon. Det ironiska, säger Ensono-chefen Klingbeil, är att AI kan bidra till att påskynda it-moderniseringsprojekt genom att utföra uppgifter som att identifiera kod och rensa upp i äldre kod. ...

Omnämnda platser: Cognizant. Omnämnda personer: Stu Bradley, KJ Kusch, Brian Klingbeil.

Nvidia-chefen: AI-labb som inte kan kontrollera sina modeller bör stängas ner

Nvidias vd Jensen Huang säger att AI-labb som inte kan garantera att deras AI-modeller går att hålla under kontroll bör stängas ner. Jensen Huang jämför det hela med att utveckla en självkörande bil och ett problem uppstår som gör att bilen inte är säkeratt

Sammanhang: ... – Om [AI-laboratorierna] nu hävdar det motsatta, nämligen att det inte finns något sätt att begränsa våra experiment – det går helt enkelt inte; när vi testar våra AI-modeller kommer de att sprida sig och orsaka skada i världen – då tror jag att svaret är att vi måste stänga laboratorierna. Nvidia-chefen, som tidigare sagt att han inte tror på någon AI-undergång, betonar också att företagens ledningar själva har möjlighet och ansvar att stoppa lanseringar. ...

Omnämnda personer: Jensen Huang.

Open AI vill se globala AI-standarder – och att USA leder arbetet

Open AI uppmanar nu USA att ta ledningen i arbetet med att ta fram internationella tekniska standarder för de mest avancerade AI-systemen. Bland annat efterlyser Open AI sätt att mäta AI-systems förmågor och risker, samt internationella rutiner för att rapportera

Sammanhang: ...Reuters uppmärksammar att utspelet kommer samtidigt som AI väntas bli en viktig fråga under FN:s generalförsamling i New York den här veckan. Open AI-chefen Sam Altman ska tala inför FN:s säkerhetsråd på onsdag. USA:s regering har tidigare motsatt sig uppmaningar om att bromsa AI-utvecklingen. ...

Omnämnda platser: New, Kina, USA. Omnämnda personer: Sam Altman, Donald Trumps.

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ...AI-fel är oundvikliga – och it-chefen får skulden...

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Europeiska AI-bolag säger nej till inbromsning

Flera europeiska AI-bolag vänder sig mot de amerikanska uppmaningar som kommit om att bromsa utvecklingen av artificiell intelligens, rapporterar Reuters. Anthropics vd Dario Amodei har uppmanat ledande AI-företag att dra ner på takten vad gäller att utveckla

Sammanhang: ...Bland annat vill han att företagen ska kunna samarbeta kring gemensamma säkerhetsåtgärder utan att riskera att bryta mot konkurrenslagstiftningen. Han har fått medhåll av bland annat Open AI-chefen Sam Altman och SpaceX-chefen Elon Musk. Franska Mistral AI anklagar nu de ledande amerikanska aktörerna för att använda säkerhetsdebatten för att stärka sina egna marknadspositioner. ...

Omnämnda platser: Frankrikes. Omnämnda personer: Sam Altman, Elon Musk.