Microsofts vd: AI-system behöver en nödbroms

Efter den senaste tidens incidenter där AI-modeller hackat företag och organisationer på eget bevåg har pressen på de amerikanska teknikföretagen ökat. Nu låter Microsofts vd Satya Nadella meddela att han vill lägga till en ”nödbroms” i AI-systemen, något

Sammanhang: ...Nu låter Microsofts vd Satya Nadella meddela att han vill lägga till en ”nödbroms” i AI-systemen, något som ska låta auktoriserade användare pausa eller stänga ner en AI-modell även när den är i full färd med att utföra en uppgift....

Omnämnda platser: Microsofts.

Google pausar buggjägarprogram efter våg av AI-rapporter

Google har bestämt sig för att pausa Open Source Software Vulnerability Reward Program (OSS VRP), ett buggjägarprogram för mjukvara som baseras på öppen källkod. Anledningen till pausen är att det på sistone har kommit in en stor mängd AI-genererade rapporter,

Sammanhang: ...Google har bestämt sig för att pausa Open Source Software Vulnerability Reward Program (OSS VRP), ett buggjägarprogram för mjukvara som baseras på öppen källkod. ...

Uppgifter: Open AI och Anthropic utreder tiotusentals incidenter

Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor

Sammanhang: ...Som en följd av incidenterna har Open AI bestämt sig för att pausa träningen av sina AI-modeller, något som ska ge företaget tid att få ordning på problemen....

AI-satsningar hindrar viktiga moderniseringsprojekt

It-modernisering är fortfarande en viktig pelare på cio:ernas strategiska agenda, och till och med vd:ar börjar inse värdet av att ta itu med äldre system för att driva på transformation och innovation. Ändå uppfyller en stor majoritet av moderniseringsprojekten

Sammanhang: ...Det förvånar inte Grant att 61 procent av organisationerna i undersökningen tvingades pausa, skala ned eller lägga ner sina it-moderniseringsprogram. En paus är ibland det rätta valet, säger hon...

Omnämnda platser: Cognizant. Omnämnda personer: Stu Bradley, KJ Kusch, Brian Klingbeil.

När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...Dessa tekniska verktyg skulle bidra till att automatisera testning och validering av AI-resultat, flagga problem och ha förmågan att pausa AI:ns arbete. Detta håller människor borta från godkännandeprocesserna, samtidigt som det bidrar till att minska riskerna. ...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

AI-agenter måste lära sig när det är nog

Under de senaste åren har AI-program inom företagsvärlden fokuserat på att göra modellerna mer användbara, exakta och autonoma. I den fasen var ett felaktigt svar oftast något som en människa kunde godkänna eller avvisa innan åtgärder vidtogs. Men när agenterna

Sammanhang: ...Verksamheten definierar resultatet, tekniken bygger och konfigurerar agenten, riskhantering och regelefterlevnad sätter upp skyddsräcken, och styrningen övervakar om systemet fortfarande fungerar som avsett. Befogenheten att pausa, stoppa eller ta en agent ur drift bör definieras före driftsättning, inte förhandlas fram under en incident. ...

Omnämnda personer: Car Gurus, Matt Quinn, Allan Dabre.

Microsoft stoppar uppdatering för vissa Dell-datorer

I tisdags rullade Microsoft ut den kumulativa uppdateringen KB5101650 till användare av Windows 11 24H2 och 25H2. Det dröjde emellertid inte länge innan det rapporterades att uppdateringen orsakade strul och krascher på vissa datormodeller från Dell. Enligt uppgift beror problemen på en konflikt mellan Microsofts nya gränssnitt för usb-c och en viktig drivrutin från Intel som kallas för IPF Processor Participant. I väntan på en buggfix har Microsoft bestämt sig för att pausa utrullningen av KB5101650 till berörda modeller, rapporterar Bleeping Computer .

Sammanhang: ...I väntan på en buggfix har Microsoft bestämt sig för att pausa utrullningen av KB5101650 till berörda modeller, rapporterar Bleeping Computer . ...

Omnämnda platser: Microsofts.

Anthropic vill se en global paus för AI-utvecklingen

I ett uppmärksammat blogginlägg föreslår det amerikanska AI-företaget Anthropic en global paus för AI-utvecklingen. Bakgrunden är att Anthropic ser en fara i att AI-systemen inom kort kan komma att ändras utan mänsklig inblandning, vilket kan innebärarisker

Sammanhang: ... – Vi tror att det vore bra för världen att ha möjlighet att sakta ner eller tillfälligt pausa utvecklingen av AI för att göra det möjligt för samhällsstrukturer att hålla jämna steg med teknikens framsteg, skriver Marina Favaro och Jack Clark i blogginlägget. ...

Omnämnda personer: Jack Clark, Marina Favaro.

Snart kan du pausa Windows-uppdateringar så länge du vill

Om du vill vänta lite med de senaste uppdateringarna kan du för närvarande pausa installationen i 1-5 veckor i Windows Update. Alternativen har kritiserats och nu testar Microsoft med att låta användarna själva avgöra vilket datum som ska gälla. Vill

Sammanhang: ...Om du vill vänta lite med de senaste uppdateringarna kan du för närvarande pausa installationen i 1-5 veckor i Windows Update. Alternativen har kritiserats och nu testar Microsoft med att låta användarna själva avgöra vilket datum som ska gälla. ...

Omnämnda platser: Alternativen, Windows Update.

Github nödbromsar – stopp för nya användare till Copilot Pro

På sistone har användningen av AI-verktyget Github Copilot skjutit i höjden, något som sätter stor press på infrastrukturen. I syfte att försöka få ordning på situationen har Github nu bestämt sig för att pausa nya registreringar till Pro- och studentversionerna

Sammanhang: ...I syfte att försöka få ordning på situationen har Github nu bestämt sig för att pausa nya registreringar till Pro- och studentversionerna av Github Copilot, samt begränsa tillgången till de mest kraftfulla AI-modellerna. ...

Omnämnda platser: Neowin, Copilot. Omnämnda personer: Github Copilot, Claude Opus.