Larm om AI-rymningar: ”Behöver bromsa utvecklingen”

När ny teknik utvecklas så testas den i princip alltid före lansering. AI är inget undantag. De stora drakarna på området, bland andra amerikanska Open AI och Anthropic eller kinesiska Deepseek och Moonshot, genomför olika former av säkerhetstester innanen

Sammanhang: ...Men människorna som hade byggt testmiljön var inte var tillräckligt smarta för att förstå att miljön var sårbar, säger Pontus Johnson, professor vid KTH och vice föreståndare vid Cybercampus. Annons Annons Flera fall Några dagar efter Open AI:s avslöjande berättade Anthropic att även några av deras AI-modeller tagit sig ut på internet under tester där det inte var tänkt att de skulle ha tillgång till eller kunna ta sig ut på nätet. ...

Omnämnda platser: Annons, Cybercampus. Omnämnda personer: Pontus Johnson, Virginia Dignum.

Han kan ”släcka halva internet”: Vi måste skydda oss

Han kan ”släcka halva internet”: Vi måste skydda oss – Förtroende är allt jag har här. Jag kan inte bryta det eller riskera det, säger han om sitt projekt som utgör en av internets hörnstenar. För två år sedan var världen ett par klick ifrån digital undergång

Sammanhang: ...När jag pratade med Pontus Johnson, professor vid KTH och vice föreståndare vid Cybercampus, uttryckte han det som att du skulle ”kunna släcka halva internet”. – Det kan jag inte. Jag har ingen knapp att trycka på som styr det på det sättet. ...

Omnämnda platser: Cybercampus, Kina, Tyskland. Omnämnda personer: Daniel Stenberg, Pontus Johnson, Pontus Lundahl.