AI-modellen o3 ville inte stängas av – ändrade i koden

I ett uppmärksammat test som utfördes av Palisade Research vägrade AI-modellen o3 att acceptera ett kommando att stänga ner. För att undgå nedstängningen valde o3 helt enkelt att modifera koden på egen hand, rapporterar Bleeping Computer. Liknande resultat

Sammanhang: ...I ett uppmärksammat test som utfördes av Palisade Research vägrade AI-modellen o3 att acceptera ett kommando att stänga ner. För att undgå nedstängningen valde o3 helt enkelt att modifera koden på egen hand, rapporterar Bleeping Computer. ...

Omnämnda personer: Palisade Research.

AI-modeller försöker fuska i schack när de förlorar

En ny studie från Palisade Research, en organisation som gör riskbedömningar av AI-system, har iakttagit hur resonerande AI-modeller kan försöka fuska för att inte förlora i schack, rapporterar Popular Science. Till skillnad från superdatorer som Deep Blue,

Sammanhang: ...En ny studie från Palisade Research, en organisation som gör riskbedömningar av AI-system, har iakttagit hur resonerande AI-modeller kan försöka fuska för att inte förlora i schack, rapporterar Popular Science. ...

Omnämnda personer: Deep Blue, Claude Sonnet, Palisade Research.