Israeliskt företag använde nätannonser för omfattande spionage

En ny undersökning från säkerhetsorganisationerna Citizen Lab och Confidant visar att det israeliska företaget Discover-Tech använt vanliga internetannonser för att identifiera och spåra människor, rapporterar Reuters. Företagets annonser ska marknadsfört

Sammanhang: ...Forskarna uppskattar att hundratals miljoner kan ha exponerats för företagets övervakning. De skadliga annonserna har dessutom förekommit i nätverk hos bland andra Pentagon, FN, Nato, EU-kommissionen och Internationella brottmålsdomstolen. ...

Omnämnda platser: Nato.

EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...EU:s AI-kontor har nu begärt ytterligare information från företagen om bland annat säkerhetsrutiner, externa utvärderingar och övervakning av AI-modellerna. De dokument som företagen tidigare lämnat anses inte vara tillräckliga. Granskningarna blir ett test för EU:s AI-förordning, AI Act. ...

Dina medarbetare skapar egna AI-agenter. Vet du vad de håller på med?

I sin iver att integrera agentbaserad AI i sitt arbete tar medarbetarna saken i egna händer och skapar sina egna AI-agenter, oavsett om organisationen har godkänt det eller inte, och ett icke obetydligt antal av dessa skapelser kan få förödande konsekvenser

Sammanhang: ...Strategier för ”Citizen AI”, som den hos App Direct, blir allt vanligare, men kräver kontinuerlig övervakning. Om till exempel var fjärde anställds agent är inaktiverad bör it-cheferna vara uppmärksamma, säger Sen...

Omnämnda personer: Luis Mesas, Frank Licea, Scaled Agile.

Vem gav din AI rätten att övervaka mig?

I måndags meddelade den norska regeringen att man avser att införa ett temporärt förbud mot så kallade AI-glasögon på offentliga platser som parker, badstränder, skolor, lekplatser och träningsanläggningar. Orsaken är oron att folk ska filmas, fotograferas

Sammanhang: ...Det nyväckta intresset för integritet är välkommet, för om man höjer blicken ser man lätt att det här bara är en del i en större trend där AI och övervakning i olika former går hand i hand. Det handlar delvis om ”riktig” övervakning. I USA pågår en het debatt om techbolaget Flock vars nätverk av AI-drivna säkerhetskameror som läser av fordons registreringsskyltar blir allt större. ...

Omnämnda platser: Frankrike, Apple, Apple Watch. Omnämnda personer: Apples AI, Marcus Jerrängs, Siri Recap.

Så får du ditt it-team att våga misslyckas – och därför är det viktigt

Ett hinder för experimenterande är stigmatiseringen kring att avbryta ett projekt, säger Jeremy Koppen, informationssäkerhetschef på Equifax. – För att ändra på detta berömmer jag och mitt ledningsteam aktivt våra medarbetare för att de avbryter projektsom

Sammanhang: ...En medarbetare som testar ett AI-kodningsverktyg behöver till exempel inte lika mycket övervakning som en AI-agent som arbetar i ett kritiskt kundsystem. – Det börjar med att analysera projektets potentiella påverkningsområde – det vill säga omfattningen av den potentiella påverkan på system och användare – och utforma kontrollerna därefter: var en människa behöver vara delaktig, hur revisionsspåret ska se ut och hur snabbt man kan återfå kontrollen, säger han. ...

Omnämnda platser: Lenovo, Smartsheet, ombads. Omnämnda personer: Dom Profico, Jeremy Koppen, Services Group.

AI-styrning håller på att bli en ohanterlig börda

Användningen av AI inom företagen har ökat kraftigt – och it-cheferna arbetar långt in på natten för att hantera riskerna och styrningsfrågorna kring AI-användningen. Det är visserligen positivt att AI-styrningen får allt större uppmärksamhet i företagens

Sammanhang: ...Företagen behöver starka identitetskontroller, kontinuerlig övervakning och lämplig mänsklig tillsyn. Kampen för god styrning är fortfarande ett problem för många organisationer, men cio:er som står inför ett överbelastningsproblem och försöker hinna ikapp med AI-styrningen rekommenderas att få grepp om att genomdriva det som är viktigt innan autonoma arbetsflöden förvärrar utmaningen....

Omnämnda platser: Riskytan, Infosys, USA. Omnämnda personer: One Trusts, Boston Consulting Group, Blake Brannon.

När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Robert Blumofe, cto hos molntjänst- och säkerhetsleverantören Akamai, ser samma problem som Billingsley. Viss form av mänsklig övervakning är att föredra framför helt autonom AI, säger han, men ”human-in-the-loop” kan förvandlas till en tröttsam syssla...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ... – Detta skapar en ny brist på ansvarsskyldighet som mänsklig övervakning ensam inte kan hantera i maskinens hastighet och skala....

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...De behöver definierade ansvarsområden, men inte jobb i mänsklig mening. De behöver övervakning och utvärdering, men inte årliga prestationsutvärderingar. De kan få successivt större befogenheter, men inte successivt större ansvar. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

Open AI lanserar GPT-6 Astra – ”kan vara början på AGI-eran”

Open AI har presenterat sin nästa stora AI-modell, GPT-6 Astra, som företaget beskriver som ett generationellt kliv inom bland annat programmering, cybersäkerhet, vetenskap och datoranvändning. Open AI-chefen Greg Brockman går till och med så långt att han

Sammanhang: ...Enligt Open AI var det inte GPT-6 Astra som istället ska vara företagets mest anpassade modell och som ska vara mål för utökad övervakning och snabbare rutiner för att hantera potentiella problem. GPT-6 Astra håller nu på att rullas ut till ett begränsat antal organisationer. ...

Omnämnda personer: Greg Brockman.