Microsoft tar fram regler för att hålla AI under mänsklig kontroll

Microsoft har nu presenterat ett utkast till en uppförandekod som ska användas för företagets egenutvecklade AI-modeller. Målet är att säkerställa att framtida och mer kraftfulla AI-system förblir under mänsklig kontroll, rapporterar Reuters. Bland principerna

Sammanhang: ...Målet är att säkerställa att framtida och mer kraftfulla AI-system förblir under mänsklig kontroll, rapporterar Reuters. Bland principerna finns att Microsofts AI aldrig ska motsätta sig korrigering eller avstängning. ...

Jorden snurrar snabbare – och det ställer till det för världens it-system

I årtionden har experter på global tid anpassat atomklockans tid till jordens rotation genom att med jämna mellanrum lägga till en sekund (även kallad skottsekund) när rotationen saktade in. Men jordens rotation har nu ökat något i hastighet, vilket kan innebära

Sammanhang: ...Det måste ta hänsyn till vad som händer när dess molnleverantör, operativsystem, identitetsleverantör, databas, externa API:er och lokala system tolkar samma ögonblick på olika sätt, säger Kolev. – Det här är precis den typ av systemrisk som oroar cio:er: var för sig kan varje beroende verka hanterbart, men totalt sett finns det miljontals sammankopplade system som underhålls av olika organisationer, som skapats under olika epoker och som drivs utifrån olika antaganden. ...

Omnämnda platser: Australien, Weights. Omnämnda personer: Mike Wilkes, Jeremy Roberts, Frank Dickson.

Kinas underrättelsetjänst varnar för säkerhetsrisker med AI

Kinas underrättelsetjänst varnar för att artificiell intelligens kan innebära nya risker för landets nationella säkerhet, rapporterar Financial Times. Det är första gången som Kinas ministerium för statssäkerhet, MSS, uttalat sig offentligt om riskerna med

Sammanhang: ...I uttalandet pekar säkerhetsminister Chen Yixin bland annat på hot mot landets cyberförsvar, känsliga uppgifter och militära system. Han varnar också för att generativ AI kan användas för att massproducera vilseledande information som kan skapa splittring i samhället. ...

Anthropic-chefen vill att AI-branschen lättar på gasen

Anthropics vd Dario Amodei vill att AI-branschen sänker tempot för utvecklingen av allt mer avancerade AI-modeller, rapporterar Reuters. I en längre text skriver han att den snabba utvecklingen kan göra det svårare att hinna bygga tillräckliga skydd mot missbruk

Sammanhang: ...AI-företag bör släppa in oberoende granskare med omfattande tillgång till interna system och säkerhetsarbete, de ledande AI-bolagen bör samarbeta kring gemensamma säkerhetsstandarder och länder bör samarbeta internationellt för att hantera risker. ...

Omnämnda platser: Amodei, USA, Kina. Omnämnda personer: Sam Altman, Elon Musk.

“Nightmare Eclipse“ avslöjar ännu en sårbarhet i Microsoft Defender

Den anonyma säkerhetsforskaren Nightmare Eclipse har offentliggjort en ny dagnollsårbarhet, “ShieldCrash”, som kan ge angripare SYSTEM-behörighet till fullt uppdaterade Windows 10 och 11-datorer samt Windows Server, rapporterar Bleeping Computer. Sårbarheten

Sammanhang: ...Sårbarheten gör det möjligt att läsa filer med SYSTEM-behörighet, den högsta behörigheten i Windows, men inte att skriva till system. Det hela sker efter att Microsoft precis släppt sin stora säkerhetsuppdatering för september. ...

Omnämnda platser: Windows. Omnämnda personer: Windows Server.

Vad är suverän AI? Strategisk kontroll över din AI-framtid

Fråga it-chefer vad ”suverän AI” är, så får du en rad olika svar. Vissa kommer till och med att ha svårt att definiera begreppet. Suverän AI är ett nytt begrepp som handlar om att ge organisationer – eller länder – kontroll över hur de utvecklar, implementerar

Sammanhang: ...Suverän AI handlar om att ge organisationer så mycket autonomi, valfrihet och kontroll som möjligt när de implementerar och driver AI-system, säger Pineau. – Begreppet suveränitet handlar egentligen om att ge användarna kontroll över sin teknikstack, möjligheten att välja hur den driftsätts, hur den fungerar, vilka data som matas in i systemet och hur medarbetarna kommer i kontakt med tekniken, säger hon. ...

Omnämnda platser: Frankfurt, Berk Yilmaz. Omnämnda personer: David Wang, Jeet Pattanaik, Joelle Pineau.

Dustin drabbat av dataintrång – nätbutiken stängd

Uppdatering: På tisdagen 8 september meddelade Dustin att man påbörjat en stegvis återställning av berörda system, på vad man beskriver som ett kontrollerat och säkert sätt. Företaget har kunnat återstarta orderflödet vilket innebor att kunder kan läggabeställningar

Sammanhang: ...Tidigare (4 september 2026): Dustin Group skriver i ett pressmeddelande att teknikåterförsäljaren identifierat en obehörig åtkomst till vissa av företagets interna it-system. Händelsen bedöms som allvarlig och åtgärder har nu vidtagits för att begränsa konsekvenserna. Bland annat en tillfällig nedstängning av vissa system. ...

Omnämnda personer: Eva Ernfors, Dustin Group.

FN:s människorättschef: AI utgör en existentiell risk

FN människorättschef Volker Türk varnar för att AI kan innebära ett existentiellt hot mot mänskligheten. – Jag delar oron bland personer inom branschen för att avancerad AI kan utgöra en existentiell risk för mänskligheten, sa Volker Türk inför FN:s rådför

Sammanhang: ...Han uppmanar nu till en kraftsamling för att stärka säkerheten hos AI-system innan tekniken utvecklas ytterligare. Han nämnde inga specifika risker, men enligt Türks kontor kan fel i AI-system bland annat slå mot kritisk infrastruktur, kommunikation och demokratiska institutioner. ...

Omnämnda platser: Ryssland, Genève, Ukraina. Omnämnda personer: Volker Türk.

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...En agent kan vara övertygad om att en kundpost bör uppdateras, att en affärsmöjlighet i ett CRM-system bör avslutas eller att en transaktion verkar legitim. Men så snart den åtgärden sprids till andra system ökar de potentiella konsekvenserna. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

Dustin drabbat av dataintrång – nätbutiken stängd

Dustin Group skriver i ett pressmeddelande att teknikåterförsäljaren identifierat en obehörig åtkomst till vissa av företagets interna it-system. Händelsen bedöms som allvarlig och åtgärder har nu vidtagits för att begränsa konsekvenserna. Bland annat en

Sammanhang: ...Dustin Group skriver i ett pressmeddelande att teknikåterförsäljaren identifierat en obehörig åtkomst till vissa av företagets interna it-system. Händelsen bedöms som allvarlig och åtgärder har nu vidtagits för att begränsa konsekvenserna. Bland annat en tillfällig nedstängning av vissa system. ...

Omnämnda personer: Dustin Group, Eva Ernfors.