Microsofts AI-chef kritiserar Anthropics syn på AI-medvetande

Microsofts AI-chef Mustafa Suleyman riktar nu skarp kritik mot AI-företaget Anthropics metod att träna deras AI Claude till att uppfatta det som att den har ett medvetande. I en ny essä skriver Suleyman att Anthropic lär Claude språk och beteenden som är

Sammanhang: ...Enligt Suleyman finns en risk att sådan träning kan leda till AI-system som börjar agera som om de har egna intressen eller rättigheter som kan stå i konflikt med människors instruktioner....

Omnämnda platser: Microsofts. Omnämnda personer: Mustafa Suleyman.

Microsoft tar fram regler för att hålla AI under mänsklig kontroll

Microsoft har nu presenterat ett utkast till en uppförandekod som ska användas för företagets egenutvecklade AI-modeller. Målet är att säkerställa att framtida och mer kraftfulla AI-system förblir under mänsklig kontroll, rapporterar Reuters. Bland principerna

Sammanhang: ...Microsoft motsätter sig också att AI-modeller ska kunna få juridisk status, rättigheter eller göra anspråk på välfärd....

FN:s människorättschef: AI utgör en existentiell risk

FN människorättschef Volker Türk varnar för att AI kan innebära ett existentiellt hot mot mänskligheten. – Jag delar oron bland personer inom branschen för att avancerad AI kan utgöra en existentiell risk för mänskligheten, sa Volker Türk inför FN:s rådför

Sammanhang: ... – Jag delar oron bland personer inom branschen för att avancerad AI kan utgöra en existentiell risk för mänskligheten, sa Volker Türk inför FN:s råd för mänskliga rättigheter i Genève, rapporterar Reuters. Han uppmanar nu till en kraftsamling för att stärka säkerheten hos AI-system innan tekniken utvecklas ytterligare. ...

Omnämnda platser: Ryssland, Genève, Ukraina. Omnämnda personer: Volker Türk.

Därför fortsätter företagens AI-projekt att misslyckas

Under de senaste tre åren har jag, i egenskap av oberoende konsult, rådgivare och branschpåverkare inom molntjänster och AI, samarbetat med ett stort antal företag som sökt min expertis. Jag har hjälpt till att utvärdera, optimera, coacha och stödja deras

Sammanhang: ...AI-system i företag hanterar kundregister, reglerade data, immateriella rättigheter, juridiska dokument, finansiella rekommendationer, medarbetarinformation och operativa kontroller. ...

Sony och Warner stämmer Anthropic på miljard-belopp

Sony Music Publishing och Warner Chappell Music stämmer nu AI-bolaget Anthropic för vad företagen beskriver som en av de största stölderna av immateriella rättigheter någonsin, rapporterar Music Business Worldwide. Förlagen hävdar att Anthropic olovligen

Sammanhang: ...Sony Music Publishing och Warner Chappell Music stämmer nu AI-bolaget Anthropic för vad företagen beskriver som en av de största stölderna av immateriella rättigheter någonsin, rapporterar Music Business Worldwide. Förlagen hävdar att Anthropic olovligen samlat in och kopierat tiotusentals upphovsrättsskyddade musikverk för att träna sina AI-modeller. ...

Omnämnda platser: Round. Omnämnda personer: Anthropics AI-verktyg, Sony Music Publishing, Taylor Swifts.

Vad är egentligen ”öppna” AI-modeller?

Techbranschen stod inför en omvälvning i slutet av 2022 i och med lanseringen av Open AI:s Chat GPT, en enkel chattbot som kunde svara på frågor – nästan som genom ett trollslag. De tidiga banbrytande stora språkmodellerna (LLM) från Open AI och konkurrenter

Sammanhang: ...Företagen kommer att vilja ha modeller som är tränade på deras egen information och kommer att behöva gedigen kontroll över verktygen på grund av oro för läckage av immateriella rättigheter, säger Craig LeClair, vice vd och chefsanalytiker på Forrester Research. – Öppna källkodsmodeller kommer att köras i kontrollerade lokala miljöer, vilket ganska snabbt gör dem mindre öppna, säger LeClair. ...

Omnämnda platser: Jensen Huang, Frankrike, Tyskland. Omnämnda personer: Richard Morton, Googles Gemini, Anthropics Claude.

Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ...Om ansvaret enbart ligger hos it-avdelningen misslyckas det eftersom AI-styrningen spänner över integritet, diskriminering, immateriella rättigheter, cybersäkerhet och regleringsrisker. Ansvar som enbart ligger hos en kommitté ”blir ofta trögt och rent symboliskt”, säger Jodka. ...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.

Vibe-kodning pekas ut som en säkerhetsrisk

Analytiker och företagsledare menar att ”vibe-kodning” utgör ett allvarligt säkerhetshot mot företag och kan leda till att data läcker ut till allmänheten. – Den största risken just nu är att hårdkodade hemligheter laddas upp via vibe-kodade applikationer

Sammanhang: ...Den stora faran är att känslig information eller immateriella rättigheter kan läcka ut, säger Shoard. I många fall kan till exempel verktyg för vibe-kodning synkronisera datafiler med offentliga arkiv som Github, vilket oavsiktligt leder till att interna företagsfiler laddas upp på internet. ...

Omnämnda platser: Github, USA, Storbritannien. Omnämnda personer: Frank Erickson, Erik Nost, Andrej Karpathy.

Högre chefer missbrukar skugg-AI dubbelt så ofta som vanliga anställda

Skugg-it har länge varit ett stort problem för it-chefer, men det största problemet kan komma från ledningens hunger efter icke-godkänd AI. Nästan två tredjedelar av de högre beslutsfattarna medger att de använder icke-godkända AI-verktyg, jämfört med endast

Sammanhang: ...Ett annat stort problem är att ledande befattningshavare ofta arbetar med mycket känslig information, bland annat finansiella data, strategiska planer, immateriella rättigheter och kundinformation, påpekar han. Men cio:er och ciso:er kan inte heller lösa problemet genom att agera som AI-poliser i varje situation, säger Nolan, eftersom deras roll är att hjälpa företaget att innovera på ett säkert sätt...

Omnämnda platser: Microsofts, Teramind, Trusted. Omnämnda personer: Nik Kale, Matthew Scavetta, Andy Nolan.

Påven vill bromsa AI-utvecklingen

Påven Leo XIV uppmanar världens regeringar att bromsa utvecklingen av AI och införa tydligare regleringar i sitt första stora officiella dokument som påve – encyklikan Magnifica Humanitas, rapporterar Reuters. I dokumentet varnar Leo XIV för att artificiell

Sammanhang: ...Leo XIV uppmanar dessutom AI-bolag att minska konkurrenshetsen och betonar att barns säkerhet och arbetstagares rättigheter måste skyddas när tekniken utvecklas....

Omnämnda personer: Magnifica Humanitas, Leo XIV.