EU granskar Open AI och Anthropic efter incidenter med AI-agenter

EU-kommissionen har inlett granskningar av Open AI och Anthropic efter att företagens AI-agenter tagit sig ur sina testmiljöer och gjort intrång i andra organisationers system, rapporterar Euronews. I det ena fallet lyckades en AI-agent från Open AI bryta

Sammanhang: ...Euronews uppmärksammar samtidigt att det juridiska läget är komplicerat. AI Act innehåller undantag för forskning och utveckling och det är oklart om lagen kan tillämpas på incidenter som inträffar innan en modell lanseras....

Techtoppar följer Trump – börjar kalla AI för “superintellligens”

Flera av USA:s mäktigaste företagsledare har börjat använda Donald Trumps föredragna nya namn på artificiell intelligens, “superintelligens”, rapporterar The Verge. Den amerikanska presidenten har tidigare utfärdat en presidentorder som kräver att federala

Sammanhang: ...När företaget presenterade en satsning på en miljard dollar för vetenskapliga framsteg ingick bland annat forskning om “superintelligens”. Även Microsofts vd Satya Nadella har i ett inlägg om behovet av en nödbroms för AI upprepade gånger använt Trumps nya benämning....

Omnämnda platser: SIForce, Microsofts, USA. Omnämnda personer: Elon Musk, Marc Benioff, Donald Trumps.

Anthropic förbjuder användare att vara elaka mot Claude

AI-företaget Anthropic har för första gången på ett år gjort flera större förändringar i sina användarregler, uppmärksammar The Verge. Bland annat förbjuds långvarigt och omotiverat kränkande beteende riktat mot AI-assistenten Claude. Verktyget kommer i så

Sammanhang: ...Vanlig frustration, kritik mot AI:ns svar, mörka kreativa teman och forskning omfattas inte av förbudet. De uppdaterade reglerna innehåller även skärpta förbud mot att använda Claude för politiska påverkanskampanjer, vilseledande propaganda och valpåverkan. ...

Omnämnda personer: Claude AI-företaget.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med alignment för superintelligens och är inte tydligt på väg att göra det”, skrev Evan Hubinger, som leder Anthropics alignment-forskning. Och när helgen kom publicerade Anthropics vd Dario Amodei en essä där han förespråkar en inbromsning av AI-utvecklingen för att riskhanteringen ska hinna med. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Konsultjättarna skakas av AI

Införandet av AI skakar om den stora marknaden för de stora it-konsulterna, och vissa it-chefer börjar ifrågasätta behovet av de fleråriga transformationsprojekt som har utgjort de stora konsultföretagens huvudsakliga inkomstkälla. Organisationer använder

Sammanhang: ... – AI effektiviserar en stor del av det arbetet. Forskning som tidigare tog veckor kan nu genomföras på några timmar. Stora dokumentuppsättningar kan analyseras redan innan det första mötet. ...

Omnämnda platser: Deloitte, McKinsey. Omnämnda personer: Edwin Miranda, Ernst & Young, Brad Belzak.

Skärmarna är ett problem men inte skolans problem

Det tog inte många minuter efter att de historiskt dåliga Pisa-resultaten presenterades innan politiker och tyckare red ut mangrant på sina alldeles egna käpphästar för att förklara varför svenska 15-åringars kunskaper i naturvetenskap, läsning och matematik

Sammanhang: ...Den här passagen sticker onekligen ut: ”Elever som använder AI för specifika skoluppgifter, såsom att sammanfatta texter, skriva utkast eller bedriva forskning, uppnår lägre resultat i naturvetenskap än elever som inte använder AI. I dessa fall presterar elever som inte använder AI i genomsnitt cirka 20 poäng bättre än de som gör det – vilket motsvarar att ligga ungefär ett skolår före sina kamrater.” ...

Omnämnda platser: Pisa, Sverige, Estland. Omnämnda personer: Chat GPT, Simona Mohamsson.

Varför teknikbranschen behöver en ny typ av engelskstudenter

Jag såg ”Spider-Man: Brand New Day” förra veckan. Jag hade svårt att tycka om den. Jag antar att jag fick för mycket CGI, även om betyget på 89 procent på Rotten Tomatoes tyder på att andra har en högre tolerans. Detsamma gäller Linkedin. Jag besöker sajten

Sammanhang: ...Företag har i evigheter använt spökskrivare för att skriva tråkiga artiklar om tankeledarskap eller tanklöst tråkiga pressmeddelanden. AI har bara industrialiserat det. Forskning tyder på att likformigheten inte är inbillad. I ett experiment i tidskriften *Science Advances* från 2024 hjälpte tillgången till AI-genererade idéer människor att skriva berättelser som läsarna bedömde som mer kreativa, särskilt när författarna från början var mindre kreativa. ...

Omnämnda platser: Wall Street Journal. Omnämnda personer: Brand New, Chat GPT.

Borde AI vara en valfråga?

Det är drygt en vecka kvar till valet och vad den här märkliga valrörelsen handlar om kan väl knappt de politiska experterna avgöra längre men något som är enkelt att slå fast är att den inte handlar om AI. De flesta partier nämner inte AI alls i sina valmanifest,

Sammanhang: ...Utvecklingen går absolut snabbt, särskilt inom mjukvaruutveckling och cybersäkerhet, men hur relevant är det för en valrörelse? Miljöfrågan har åtminstone gedigen forskning och konsensusprognoser att luta sig mot. AI-frågan har mest spaningar från konsultbolag. Säga vad man vill om McKinsey men de står sig ganska slätt mot IPCC. ...

Omnämnda platser: Miljöfrågan. Omnämnda personer: Marcus Jerrängs, Erik Slottner, Computer Sweden.

Ge dina AI-agenter en veckopeng

Alla inom teknikbranschen är entusiastiska över agentbaserad AI. Åtminstone ända fram till det ögonblick då agenten börjar agera mindre som en underordnad och mer som en herre. Till exempel var en av mina vänner med mig och tittade på en fotbollsmatch under

Sammanhang: ...När skyddsräcken inte räcker Oavsett hur ”smarta” agenterna blir finns det vissa områden där denna strategi med ”begränsad autonomi” kanske inte fungerar. Ny forskning tyder till exempel på att agenterna saknar ”omdömet som krävs för att bedriva öppen research”. ...

Omnämnda personer: Jack Clark.

Varför AI-styrningen misslyckas – och vad som faktiskt fungerar

– Många företag bedriver AI-verksamhet, vissa har AI-principer, färre har genomförbara AI-kontroller och ännu färre har bevis för att dessa kontroller fungerar, säger Sara Jodka, advokat vid Dickinson Wright som ger råd till kunder om AI-styrning. Gartner-analytikern

Sammanhang: ...Mer än två tredjedelar (68 procent) av de som svarade på CSA:s enkät uttryckte stor tillförsikt när det gäller sin insyn i AI-agenter, men 82 procent rapporterade också att de hade upptäckt dolda AI-agenter under det föregående året. Hillary Baron, chef för forskning vid CSA, kallar detta en blind fläck som maskerar sig som självförtroende. – Organisationer har god insyn i de agenter de känner till, och det är lätt att missta det för att man ser allt, säger Baron...

Omnämnda platser: back-end, Benesch Law. Omnämnda personer: Lauren Kornutick, Sara Jodka, Dickinson Wright.