Anthropic ger externa AI-granskare full tillgång till interna system

Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering, rapporterar Techcrunch. Forskarnas

Sammanhang: ...Anthropic ger nu sex forskare från den ideella organisationen METR tillgång till AI-företagets interna system. Målet är att möjliggöra oberoende granskningar av företagets AI-modeller, säkerhetsarbete och riskhantering, rapporterar Techcrunch. ...

Open AI stäms efter intrånget mot Hugging Face

Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar

Sammanhang: ...Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterar CNBC. Detta kan vara det första offentliga fallet där en AI-utvecklare försöker hållas ansvarig för något som deras AI-agenter utfört. ...

Omnämnda personer: Legal Advocates, Safe Science.

AI-fel är oundvikliga – och it-chefen får skulden

Även när it-chefer inte har insyn i AI-agenternas agerande eller inte själva väljer leverantör är det troligt att de ändå får ta på sig skulden när något går snett. It-chefer ser redan att detta händer inom sina organisationer, och 52 procent uppger attcio:er

Sammanhang: ... – Det finns ett pragmatiskt sätt att se på hur detta kan vara ett organisatoriskt ansvar, säger Watts och rekommenderar att även om cio:er bör leda arbetet måste organisationerna dela på ansvaret för bättre kontroller samt för utbildning och införande av AI. Boris Kolev, global teknikchef på den ideella organisationen JA Worldwide, håller med om att AI-styrning bör vara en högsta prioritet för it-chefer, särskilt med tanke på att en felaktig agent snabbt kan bli ett enormt problem när den ändrar en databaspost, skickar ett meddelande eller utlöser en transaktion. ...

Omnämnda platser: Dataiku. Omnämnda personer: Onyx Security, Morgan Watts, Gil Elbaz.

Studie: Alla stora AI-modeller bryter mot EU-regler

Den ideella forskningsstiftelsen Aithos säger att alla stora AI-modeller bryter mot EU:s regler för AI och dataskydd i olika grad, rapporterar The Register. Aithos har testat modellerna med sitt egna verktyg LARA (Legal Assessment for Real-world Agents)som

Sammanhang: ...Den ideella forskningsstiftelsen Aithos säger att alla stora AI-modeller bryter mot EU:s regler för AI och dataskydd i olika grad, rapporterar The Register. ...