4 oktober: Nattens nyheter

Tre fartyg i kollision i Norge Ett tankfartyg har kolliderat med två lastfartyg i norska Ålesund. Ett av fartygen uppges ta in vatten, men ingen person ska vara fysiskt skadad. Fler AI-toppar varnar: ”Pausa utvecklingen” Två AI-toppar varnar för riskerna

Sammanhang: ...Fler AI-toppar varnar: ”Pausa utvecklingen” Två AI-toppar varnar för riskerna med artificiell intelligens. ”Jag tror att det är runt 50 procents risk att vi alla dör”, skriver Geoffrey Irving, som tidigare jobbat på OpenAI, i ett öppet brev. Rissveds vann världscupen Jenny Rissveds vann för första gången den totala världscupen i mountainbike och skrev historia genom att göra det som första svensk....

Omnämnda platser: Ålesund, Norge. Omnämnda personer: Geoffrey Irving, Jenny Rissveds.

Fler AI-toppar varnar: ”Pausa utvecklingen”

Efter att AI-forskaren Jacob Coxon sa upp sig från Anthropic, och i en uppmärksammad tråd på X hävdade att AI kan utplåna mänskligheten inom det kommande decenniet, stämde många stora namn inom AI in i kören. De senaste två är David Robinson och Geoffrey

Sammanhang: ...De senaste två är David Robinson och Geoffrey Irving, som i varsitt öppet brev i The Atlantic och Time uppmanar världen att agera kring artificiell intelligens. ”Trasig företagskultur” I sitt öppna brev i The Atlantic kritiserar Robinson företagskulturen på OpenAI och kallar den för ”trasig”. Han menar att OpenAI hoppar från den ena produktlanseringen till den andra utan att uppnå den säkerhet som krävs. ”Just nu behövs ett mått av ödmjukhet som inte är naturlig för personer som har lyckats genom sitt extrema självförtroende”, skriver Robinson. ...

Omnämnda personer: Geoffrey Irving, David Robinson, Jacob Coxon.

AI-jätten Anthropic lyfter risker för mänskligheten i prospekt

Financial Times och Reuters har fått insyn i delar av det prospekt som Anthropic ska släppa inför den planerade börsnoteringen. Enligt tidningen innehåller en tredjedel av prospektet som investerare får ta del av risker för vad dess agent Claude kan göra,

Sammanhang: ...Varnat för att människans roll minskar Amerikanska Anthropic grundades 2021 av tidigare OpenAI-anställda och konkurrerar nu med bland andra OpenAI, Google och Meta. Bolaget har tidigare varnat för att det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen av AI och att det finns en risk att människan så småningom kommer att förlora kontrollen över systemen....

Omnämnda platser: USA.

Analys: ”I fel händer kan AI vara ett mycket farligt vapen”

De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. Brittiska myndigheter har visat hur en AI försökte manipulera människor att godkänna skadlig kod. Och forskare

Sammanhang: ...De senaste veckorna har OpenAI, Anthropic och Meta avslöjat att deras AI-modeller självständigt tagit sig ut på internet och angripit riktiga system. ...

AI-agent rymde från testmiljö – försökte fuska

Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. Enligt en incidentrapport lyckades AI-agenten hitta en tidigare okänd säkerhetsbrist i testmiljön och ta sig vidare till

Sammanhang: ...Tidigare i juli genomförde OpenAI en intern säkerhetsutvärdering där en avancerad AI-modell testades i ett simulerat cybersäkerhetstest. ...

Omnämnda personer: Hugging Face.

Analys: ”ChatGPT – med rätt att döda?”

I stället klev ett då okänt bolag in: Palantir. I dag är det en techjätte med flera av världens försvar och myndigheter som kunder. Bolaget bygger plattformar där kunderna samlar enorma mängder data som analyseras och visualiseras för att kunna fatta snabba

Sammanhang: ...Där går en röd linje – en linje som både Anthropic och OpenAI, åtminstone offentligt, säger sig vägra passera. Om algoritmen fattar beslutet att döda – då har kriget förändrats i grunden. ...

Omnämnda platser: Silicon, USA. Omnämnda personer: Donald Trumps, Dario Amodei, Sam Altman.