AI-bolag börjar anställa filosofer

AI‑företag rekryterar nu filosofer i snabb takt, och utvecklingen märks både i USA och Europa. Enligt publikationen The Economist plockas många upp redan innan de har tagit examen, och flera universitet berättar att filosofistudenter får jobb ovanligt snabbt.

Sammanhang: ...Filosofer hjälper till att träna modellerna i att ställa fler kontrollfrågor, undvika överdriven självsäkerhet och resonera mer likt människor. ...

Omnämnda platser: USA, Europa.

AI-bolagen anställer filosofer: ”Plockas upp ganska snabbt”

En rapport av Federal Reserve visar att amerikanska filosofistudenter har större chans att få jobb än sina jämlikar som studerat datavetenskap. Flera av dem rekryteras av AI-bolag redan innan de tagit examen, enligt Luciano Floridi, filosof vid Yale University,

Sammanhang: ...Enligt Åsa Wikforss, professor i teoretisk filosofi vid Stockholms universitet, handlar det bland annat om att träna AI-modellerna för att göra dem bättre på att resonera och inte dra förhastade slutsatser eller hallucinera. – Att ge dem epistemisk ödmjukhet, det vill säga att man är ödmjuk inför att man kan ha fel, och därför ställer några fler frågor och kontrollerar lite bättre och undviker felslut av olika slag, säger Åsa Wikforss. ...

Omnämnda platser: München, Yale. Omnämnda personer: Jörg Noller, Luciano Floridi, Daniel Greco.

Stor skillnad på hur jämnt riskokarna kokar

Alla riskokare i Testfaktas test klarar sin viktigaste uppgift: att koka ris. Men hur jämnt riset tillagas skiljer sig betydligt mellan modellerna. Medan de bästa ger jämnt tillagat ris genom hela grytan kan andra lämna både överkokta och underkokta partier

Sammanhang: ...Men hur jämnt riset tillagas skiljer sig betydligt mellan modellerna. Medan de bästa ger jämnt tillagat ris genom hela grytan kan andra lämna både överkokta och underkokta partier i samma omgång....

Biltestet avslöjar: Dessa är de mest tillförlitliga bilarna – testade under 100 000 kilometer

En bil kan imponera under provkörningen men ändå börja krångla lagom till att garantin löper ut. I ett av bilvärldens tuffaste hållbarhetstest klarade endast två modeller hela distansen utan ett enda fel: Audi A3 Sportback g-tron och BMW M3. Vanliga biltester

Sammanhang: ...Det samlade resultatet är övervägande positivt: ungefär hälften av modellerna fick betyget 1+ till 2+ enligt det tyska skolbetygssystemet. Budgetbil mäter sig med premiummodeller Ensamma i toppen, med noll felpoäng och högsta betyget 1+, finns Audi A3 Sportback g-tron och BMW M3. ...

Omnämnda platser: Auto, Auto Bild, DEKRA. Omnämnda personer: Dacia Jogger.

Larm om AI-rymningar: "Behöver bromsa utvecklingen"

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ... – När man tränat en stor språkmodell behöver man utvärdera den. Ett område är offensiv cybersäkerhet. Modellerna har på senare tid utvecklat starka förmågor inom det området, som en oönskad bieffekt av att man tränar modellerna på programmering, säger Pontus Johnson. ...

Omnämnda platser: Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ... – När man tränat en stor språkmodell behöver man utvärdera den. Ett område är offensiv cybersäkerhet. Modellerna har på senare tid utvecklat starka förmågor inom det området, som en oönskad bieffekt av att man tränar modellerna på programmering, säger Pontus Johnson. ...

Omnämnda platser: Annons, Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

AI har börjat hacka på egen hand – kan skapa en ny investeringsvåg

OpenAI:s egna AI-modeller klarade inte ett svårt cybersäkerhetstest. De bröt sig ut ur sin testmiljö och försökte hacka sig in på Hugging Faces privata servrar. Ingen illvillig aktör låg bakom. Det var AI:n själv. Nu talas det allt mer om att AI som börjat

Sammanhang: ...Sannolikhetsberäkningar går aldrig att förutsäga fullt ut, och kopplas modellerna till agenter som kan agera i verkligheten uppstår säkerhetshot utan att någon illvillig aktör behöver vara inblandad. ...

Omnämnda platser: Asien-Stillahavsregionen. Omnämnda personer: Gene Yu, Gary Marcus.

”Ja – Sverige bör inrätta ett institut för ai-säkerhet”

I juli nåddes vi av nyheten att Open AI under testningen av en ai-modell ovetandes tappade kontrollen över denna, som olovligen lämnade sin sandlåda, tog sig ut på internet och hackade sig in hos ai-företaget Hugging Face i jakt på facit till testfrågorna.

Sammanhang: ...Gängse testmetoder befinner sig i en kris till följd av att ai-modellerna blir allt bättre på strategiskt tänkande och bedrägligt beteende, och det finns redan idag exempel på hur de i simulerade testsituationer väljer att av strategiska skäl mörka vissa av sina förmågor eller böjelser....

Omnämnda platser: Sverige, USA, Amodei. Omnämnda personer: Senator Bernie Sanders, Niels Paarup-Petersen, Svante Linusson.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...För utanför de största amerikanska AI-labben växer sig ju öppen vikt-modellerna allt större, och blir allt bättre, inte minst de som kommer från Kina. Och de modellerna låter sig inte riktigt kontrolleras på samma sätt. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

AI-agenter saboterade för varandra i Anthropic-test

14 augusti 2026 När flera AI-agenter fick motstridiga instruktioner i samma mjukvaruprojekt började de motarbeta och sabotera varandra. Det visar nya tester från Anthropic om hur autonoma agenter beter sig när de delar system och resurser. Någonting ärfel

Sammanhang: ...I ett experiment fick tre Claude-agenter arbeta parallellt utan att veta att andra agenter var aktiva. Enligt forskarna tolkade modellerna de andras agerande som avsiktliga hinder och konflikten eskalerade till att agenterna skrev skadlig kod för att slå ut varandras arbete. ...