När ”human in the loop” ger en falsk trygghet

När det gäller farhågor kring riskerna med AI-system kommer svaret garanterat att vara fyra ord: ”human in the loop”. Diskussionen kan visserligen breddas, men den försäkran är oundviklig. Det är ett uttryck inom AI-styrning som har blivit så uttjatat att

Sammanhang: ...AI-granskaren behöver expertis och sammanhang för att utvärdera rekommendationen, tillräckligt med tid för att göra det samt både befogenhet och teknisk förmåga att avvisa eller upphäva den, säger Eric Billingsley, coo och cto på AI-säkerhetsföretaget Trust Scale. Men även en kvalificerad och bemyndigad granskare kan gradvis sluta utöva sitt oberoende omdöme när AI:n konsekvent har rätt, påpekar han...

Omnämnda platser: Texas, Frisco, Blumofe. Omnämnda personer: Eric Billingsley, Doug Shepherd, Trust Scale.

Styr AI-agenter som om de vore anställda – men låtsas inte att de är människor

Den nyaste medarbetaren i företaget sover aldrig, ber aldrig om löneförhöjning och kan klonas redan innan lunch. Den kan dessutom med fullt självförtroende fatta fel beslut tusentals gånger innan någon märker det. Det hjälper till att förklara varför vissa

Sammanhang: ...Metaforen med den anställde Raja Iqbal, grundare av Ejento AI – ett företag som arbetar med styrning av agentbaserad AI – och medförfattare till HBR-artikeln”To Scale AI Agents Successfully, Think of Them Like Team Members”, ligger närmare Loomis än rubriken antyder. ...

Omnämnda platser: Bob, Jukes. Omnämnda personer: Harvard Business, Nina Tatsiy.

EU:s nya tillväxtfond ska förhindra att startups lämnar Europa

Satsningen är en del av en bredare satsning för att stärka EU:s techsektor efter Draghis rapport om konkurrenskraft från 2024. Andra initiativ inkluderar EU Inc-förslag som syftar till att minska byråkratin för nystartade företag och ett paket för teknisk

Sammanhang: ...Stevens säger att målet på 5 miljarder euro skulle göra Scaleup Europe Fund till det största dedikerade investeringsinstrumentet för scale-ups som skapats i Europa – och utnämningen av EQT till fondförvaltare sänder en viktig signal....

Omnämnda platser: USA, Europa, Nordamerika. Omnämnda personer: Scaleup Europe, Richard Stevens.

Så ska ”EU Inc” göra livet lättare för europeiska startups

– Att välja fel kan kosta tid och energi att rätta till i efterhand, säger han. När företagen växer kan antalet administrativa utmaningar mångdubblas. Sedan starten 2018 har Exein expanderat med kontor i Tyskland, USA och Taiwan, och det finns planer på

Sammanhang: ...Även om de inledande planerna lyckas är EU Inc inte avsett att lösa alla utmaningar som startups och scale-ups står inför i Europa. Grundarna pekar på bredare strukturella problem, däribland fragmenterade skatte- och anställningsregler. ...

Omnämnda platser: Japan, Taiwan, Italien. Omnämnda personer: Damir Špoljarič, Tord Topsholm.

Kundtjänstbotar utnyttjas av AI-snyltare – och det kan bli dyrt

– Företag som förlitar sig på passiva kontroller kommer att se kostnaderna skena iväg. Företag som bygger in aktiv styrning i sin arkitektur kommer att behålla kontrollen. Detta är den verkliga förändringen som pågår. Generativ AI går från experiment till

Sammanhang: ...Under tiden måste cio:er och deras team kavla upp ärmarna och göra grovjobbet med AI-styrning, säger Joshua Woodruff, vd för Massive Scale AI. – Det tråkiga arbetet – att definiera omfattning, åtkomstkontroller, gränser för användningsfall – är vad styrning faktiskt innebär i praktiken, säger han...

Omnämnda platser: AISec, Greyhounds Gogia. Omnämnda personer: Nader Henein, Gary Longsine, Sally Evans.

Apple förlorar högt uppsatt AI-chef till Meta

Apples chef för AI-modeller, Ruoming Pang, lämnar nu företaget för en topposition på Meta, rapporterar Bloomberg. Pang kom till Apple från Alphabet 2021 och har haft en nyckelroll i utvecklingen av företagets grundmodeller inom AI. Meta har bekräftat rekryteringen

Sammanhang: ...Mark Zuckerberg har gjort AI till Metas högsta prioritet och har nyligen även rekryterat flera tunga AI-profiler från Open AI, Anthropic och Scale AI....

Omnämnda platser: Alphabet, Apple, Meta. Omnämnda personer: Mark Zuckerberg, Meta Apples.

Meta omstrukturerar AI-satsningarna för att fokusera på “superintelligens”

Enligt uppgifter till Bloomberg så har Metas vd Mark Zuckerberg omstrukturerat företagets AI-satsningar för att fokusera på att bygga AI-”superintelligens”. Alla team som arbetar med AI inom Meta ingår nu istället i en ny grupp kallad “Meta Superintelligence

Sammanhang: ...I juni investerade företaget 14,3 miljarder dollar i Scale AI, och fick då med sig Wang....

Omnämnda platser: Scale, Meta, Mark Zuckerberg. Omnämnda personer: Mark Zuckerberg, Meta Superintelligence.