De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...För när Amodei, Hubinger och andra pratar om ”AI safety” använder de ofta begreppet inom en intellektuell tradition där förlust av kontroll över superintelligens och existentiell risk har diskuterats på fullt allvar i årtionden. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Vad är suverän AI? Strategisk kontroll över din AI-framtid

Fråga it-chefer vad ”suverän AI” är, så får du en rad olika svar. Vissa kommer till och med att ha svårt att definiera begreppet. Suverän AI är ett nytt begrepp som handlar om att ge organisationer – eller länder – kontroll över hur de utvecklar, implementerar

Sammanhang: ...En server i Frankfurt som ägs av ett amerikanskt företag är fortfarande tillgänglig enligt amerikansk lag. Även om begreppet i stor utsträckning handlar om kontroll är det få företag som vill ha full kontroll över sin AI-stack, konstaterar han...

Omnämnda platser: Frankfurt, Berk Yilmaz. Omnämnda personer: David Wang, Jeet Pattanaik, Joelle Pineau.

Vibe-kodning pekas ut som en säkerhetsrisk

Analytiker och företagsledare menar att ”vibe-kodning” utgör ett allvarligt säkerhetshot mot företag och kan leda till att data läcker ut till allmänheten. – Den största risken just nu är att hårdkodade hemligheter laddas upp via vibe-kodade applikationer

Sammanhang: ... – Den största risken just nu är att hårdkodade hemligheter laddas upp via vibe-kodade applikationer till Github och därmed skapar en ingång, säger Pete Shoard, forskningschef för cybersäkerhet på Gartner. Begreppet ”vibe-kodning” myntades av Andrej Karpathy för att beskriva hur utvecklare numera kan skapa applikationer genom att chatta med verktyg och tjänster för generativ AI. ...

Omnämnda platser: Github, USA, Storbritannien. Omnämnda personer: Frank Erickson, Erik Nost, Andrej Karpathy.

Hur IT-arbetare kan skydda sig i AI-eran

Håll det kort: En del av instruktionen – alltid – bör vara att be AI-verktyget att vara koncist. Skapa en kultur som motverkar skräp: Acceptera inte och vidarebefordra inte arbetsskräp. Det är kränkande för en kollega att behöva ta itu med sidor av i stort

Sammanhang: ...I en studie publicerad i mars i år i Harvard Business Review, genomförd av Boston Consulting Group och University of California, Riverside, tillfrågades 1 500 arbetstagare och begreppet ”AI brain fry” myntades. Forskarna fann att det att jonglera med flera AI-verktyg orsakar beslutsutmattning och ökar risken för fel. ...

Omnämnda platser: Gownder, Undvik, Lyft. Omnämnda personer: Teresa Hill, Leo Freitas, Boston Consulting Group.

AI-hajpen är delvis it-chefernas fel

Häromdagen stötte jag på ett inlägg på Linkedin som beskrev begreppet ”hypegineering”, vilket enligt författaren avser det ögonblick då AI-marknadsföring ”blir mer innovativ än själva tekniken”. Inlägget kom från Ralph Aboujaoude Diaz, global chef för GRC

Sammanhang: ...Häromdagen stötte jag på ett inlägg på Linkedin som beskrev begreppet ”hypegineering”, vilket enligt författaren avser det ögonblick då AI-marknadsföring ”blir mer innovativ än själva tekniken”. ...

Omnämnda platser: Ralph. Omnämnda personer: Philip Morris.

EU:s plan för suveränitet lämnar plats för amerikanska molnjättar

Den strängaste nivån 4 skulle kräva att molnleverantörerna ”har full transparens och kontroll över sin programvarukedja och ingen inblandning från ett tredjeland”, enligt kommissionen. För organisationer inom den offentliga sektorn skulle CADA-reglerna kunna

Sammanhang: ...För organisationer inom den offentliga sektorn skulle CADA-reglerna kunna skapa större tydlighet kring upphandling, säger Pereiro. – I dag är begreppet suverän molntjänst ofta vagt och tillämpas inkonsekvent i leverantörernas marknadsföring och kommunikation, säger han...

Omnämnda platser: Europas, Europa. Omnämnda personer: Services Providers.

De nya tidsstudiemännen vill ha nycklarna till ditt företag

FDE-modellen ”uppfanns” av Palantir och är ett slags blandning av en lösningsarkitekt, teknisk säljare, produktutvecklare och verksamhetskonsult. Begreppet är numera långt ifrån unikt för Palantir och rollen syns i dag allt mer både hos både stora leverantörer

Sammanhang: ...FDE-modellen ”uppfanns” av Palantir och är ett slags blandning av en lösningsarkitekt, teknisk säljare, produktutvecklare och verksamhetskonsult. Begreppet är numera långt ifrån unikt för Palantir och rollen syns i dag allt mer både hos både stora leverantörer och i konsultbolag. ...

AI kan pressa ner lönerna för unga

I stället för att sänka lönerna har företagen slutat anställa till dessa tjänster, sade Brynjolfsson under en paneldiskussion vid Economy Summit som anordnades av Stanford Institute for Economic Policy Research. AI automatiserar arbete som tidigare utfördes

Sammanhang: ...Studien visade också att 59 procent skulle använda AI som en anledning för att rättfärdiga anställningsstopp eller uppsägningar, ”eftersom det går bättre hem hos intressenterna än att hänvisa till ekonomiska begränsningar”. Utanför utsatta yrken har begreppet ”AI-washing” – som beskriver när företag använder AI för att rättfärdiga uppsägningar – blivit ett problem. ...

Omnämnda platser: Economy Summit, Resume.org.

Studie: Chattbotar kan uppmuntra vanföreställningar

En ny vetenskaplig studie publicerad i The Lancet Psychiatry varnar för att AI-chattbotar kan förstärka vanföreställningar hos personer som redan är sårbara för psykossymptom. Det hela uppmärksammades först av The Guardian. Studien har analyserat nyhetsrapporter

Sammanhang: ...Problemet verkar främst drabba personer som redan befinner sig i ett tidigt stadie av psykossjukdom eller har en sårbarhet för sådant tänkande. Forskare menar därför att begreppet “AI-associerade vanföreställningar” är mer korrekt än att säga än “AI–psykos”. Det finns ännu inga tydliga bevis för att chattbotar kan skapa psykoser hos personer utan sådan sårbarhet. ...

Omnämnda platser: The Lancet Psychiatry.

Statliga it-köp nyckeln till digital suveränitet

Den tyska federala regeringen spenderar 481 miljoner euro på Microsoft-licenser varje år, en siffra som avslöjades i ett svar på en skriftlig förfrågan från Rebecca Lenhard, en ledamot av det tyska parlamentet som representerar Miljöpartiet. Det är bara utgifterna

Sammanhang: ...Flera tech-vd:ar har uttryckt oro över strategier för digital suveränitet, som de hävdar kan öka företagens kostnader och bromsa användarnas acceptans av digital teknik i regionen, vilket hämmar produktiviteten och konkurrenskraften. Ändå fortsätter begreppet digital suveränitet att vinna mark bland europeiska organisationer, varav ett växande antal planerar att öka sina utgifter för molntjänster hos lokala leverantörer. ...

Omnämnda personer: Rebecca Lenhard.