Sony släpper verktyg för att mäta fördomar hos AI-modeller

Sony har lanserat ett nytt mätverktyg, FHIBE (Fair Human-Centric Image Benchmark), för att utvärdera hur rättvisa och opartiska dagens AI-modeller är. Förhopppningen är att FHIBE kan användas för att identifiera och åtgärda partiskhet i AI-system. Datasamlingen

Sammanhang: ...Förhopppningen är att FHIBE kan användas för att identifiera och åtgärda partiskhet i AI-system. Datasamlingen består av 10 000 bilder på nästan 2 000 betalda deltagare från över 80 länder, där varje person har gett samtycke och när som helst kan begära att få sina bilder borttagna. ...

Omnämnda platser: FHIBE. Omnämnda personer: Fair Human-Centric Image Benchmark.

20 år av bristande it-säkerhet innan kuppen mot Louvren

It-problem går tillbaka mer än ett decennium Men många it-problem relaterade till säkerhetssystem var uppenbara redan 2014 och 2017, enligt tidigare konfidentiella granskningar av säkerhetssystem som den franska tidningen Libération tagit del av. Museet

Sammanhang: ...Tjugo år av teknisk skuld tyngde säkerheten på Louvren, som stadigt ackumulerade system för analog videoövervakning, digital videoövervakning, intrångsdetektering och åtkomstkontroll, vissa av dem med dedikerade servrar eller egenutvecklade applikationer. ...

Omnämnda platser: Thales, Libération. Omnämnda personer: Windows XP.

Prompter räcker inte – ”context engineering” ger bättre AI-resultat

”Det aktuella tekniska problemet är att optimera nyttan av dessa tokens mot de inneboende begränsningarna i LLM för att konsekvent uppnå ett önskat resultat”, står det i blogginlägget. ”För att effektivt hantera LLM krävs ofta kontextuellt tänkande – med

Sammanhang: ...Han definierar det nyligen myntade begreppet context engineering som en strategisk förmåga som formar hur AI-system interagerar med företaget i stort....

Omnämnda personer: Neeraj Abhyankar.

AI ritar om kartan för buggjakt

AI-skräpet blir en börda Branschexperter rekommenderar att AI endast ska användas som en ”forskningsassistent” eller guide snarare än som den huvudsakliga mekanismen för att upptäcka sårbarheter. Inti De Ceukelaire, hackerchef på bug bounty-plattformenIntigriti,

Sammanhang: ...Inti De Ceukelaire, hackerchef på bug bounty-plattformen Intigriti, säger att AI har jämnat ut spelplanen för hackare eftersom det kan hjälpa mindre skickliga forskare att identifiera potentiellt sårbara system eller analysera kod för att hitta brister. Men resultaten av AI-baserad analys är inte alltid tillförlitliga – och detta har skapat praktiska problem...

Omnämnda personer: Pro Circular, Bobby Kuzma, De Ceukelaire.

Nya avtalet med Open AI är en ren vinst för Microsoft

I det reviderade avtalet står det också att ”avtalet om intäktsdelning kvarstår tills expertpanelen verifierar AGI, även om betalningarna kommer att göras under en längre period” och att ”Microsofts immateriella rättigheter för både modeller och produkter

Sammanhang: ...En annan tidsplan skulle träda i kraft två år tidigare, enligt avtalet: ”Microsofts immateriella rättigheter till forskning, definierade som de konfidentiella metoder som används vid utvecklingen av modeller och system, kommer att kvarstå tills antingen expertpanelen verifierar AGI eller till och med 2030, beroende på vilket som inträffar först.” ...

Omnämnda platser: Microsofts. Omnämnda personer: Info-Techs Bickley, Jason Wong, Mike Gualtieri.

AI-system trodde chipspåse var pistol

En 16-åring handfängslades av polis vid en skola i Baltimore, USA efter att ett AI-system misstagit en påse Doritos-chips för att han bar en pistol, rapporterar WMAR-2 News. Omkring åtta polisbilar ska anlänt till platsen och polisen riktade vapen mot tonåringen.

Sammanhang: ...En 16-åring handfängslades av polis vid en skola i Baltimore, USA efter att ett AI-system misstagit en påse Doritos-chips för att han bar en pistol, rapporterar WMAR-2 News. Omkring åtta polisbilar ska anlänt till platsen och polisen riktade vapen mot tonåringen. ...

Omnämnda platser: USA, Baltimore.

Nederländernas varning: Låt inte AI bestämma hur du röstar

Den nederländska dataskyddsmyndigheten uppmanar nu medborgare att inte be AI-chattbotar om råd inför parlamentsvalet nästa vecka, rapporterar Politico. Enligt en ny studie från myndigheten tenderar flera populära chattbotar att ge en förvriden och polariserad

Sammanhang: ...Enligt en ny studie från myndigheten tenderar flera populära chattbotar att ge en förvriden och polariserad bild av Nederländernas politiska läge. I testet ingick fyra system: Open AI:s Chat GPT, Googles Gemini, Elon Musks Grok och Mistral AI:s Le Chat. – Vi varnar för att använda AI-chattbotar för röstningsråd, eftersom deras verksamhet inte är transparent och verifierbar, säger Monique Verdier, vice ordförande för myndigheten, i ett uttalande....

Omnämnda personer: Elon Musks Grok, Monique Verdier, Googles Gemini.

DNS-problem hos AWS ställde till det på internet

På måndagen drabbades Amazon Web Services (AWS) av ett DNS-fel i regionen US-EAST-1, vilket gjorde DynamoDB-API:t opålitligt. Eftersom DynamoDB används som grund för många andra AWS-tjänster fick felet spridningseffekter som påverkade både Amazons egna tjänster

Sammanhang: ...Eftersom DynamoDB används som grund för många andra AWS-tjänster fick felet spridningseffekter som påverkade både Amazons egna tjänster och flera kunders system globalt. Företag som Perplexity AI och Canva rapporterade driftstörningar, och enligt Downdetector noterades samtidigt problem hos Venmo, Roku, Lyft, Zoom och McDonald’s-appen, troligen kopplade till samma incident. ...

Omnämnda platser: Lyft.

Nätfiske-utbildningar fungerar inte. Så vad gör man?

– Om högsta ledningen och ledarskapet inte är säkerhetskulturellt inriktade kommer det inte att bli ett problem förrän de hamnar på förstasidan av tidningen eller måste betala stora böter till någon, säger Oksenhendler. Att ta alla delar av cybersäkerhet,

Sammanhang: ...Hon pekar på psykolog Daniel Kahnemans modeller för tänkande, System 1 och System 2, där det förstnämnda avser automatiskt och känslomässigt tänkande och det sistnämnda rationellt och genomtänkt tänkande...

Omnämnda personer: Daniel Kahnemans.

Så skalar storföretag upp sina XR-projekt

– Om du går till dina intressenter och säger: ”jag har en teknik med wow-faktor och jag tycker att du ska använda den på det här sättet”, kommer de inte att känna att de är en del av lösningen och inte vara lika öppna för dina idéer. En annan prioritet när

Sammanhang: ...Den ena är skalbarhet för att säkerställa att XR-system och data är tillgängliga för ett stort antal användare globalt i en organisation. Den andra är stabilitet för att förhindra störningar när XR-systemen används i stor skala. ...

Omnämnda platser: Virtual, Augmented. Omnämnda personer: Mixed Reality, Matthew Connors, Meta Quest.