Microsoft begränsar AI-användningen för sina anställda

Fram tills nyligen var det vanligt att företag och organisationer ägnade sig åt ”tokenmaxxing”, det vill säga att maximera AI-användningen. I och med de stigande priserna har fenomenet mer eller mindre ebbat ut, något som understryks av att Microsoft nuväljer

Sammanhang: ...I och med de stigande priserna har fenomenet mer eller mindre ebbat ut, något som understryks av att Microsoft nu väljer att begränsa AI-användningen för sina anställda. – I takt med att vi accelererar vår användning av Github Copilot för att uppnå våra mål måste vi alla vara medvetna om hur vi konsumerar tokens, skriver Microsoft-höjdaren Jay Parikh i ett mejl till företagets anställda. ...

Omnämnda personer: Github Copilot, Jay Parikh.

Apple börjar begränsa antalet buggrapporter på grund av AI

Den italienska cybersäkerhets-startupen Bynario har uppmärksammat att Apple nu börjat begränsa antalet säkerhetsbrister som säkerhetsforskare kan rapportera till företaget. Enligt Financial Times har den ökade användningen av generativ AI gjort det betydligt

Sammanhang: ...Den italienska cybersäkerhets-startupen Bynario har uppmärksammat att Apple nu börjat begränsa antalet säkerhetsbrister som säkerhetsforskare kan rapportera till företaget. Enligt Financial Times har den ökade användningen av generativ AI gjort det betydligt enklare att hitta sårbarheter i mjukvara, men också bidragit till en kraftigt ökad mängd bristfälliga buggrapporter som kräver manuell granskning. ...

Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste

Anthropic har nu presenterat sin syn på hur AI bör regleras efter kritik mot att bolaget inte skrev under ett branschbrev som motsatte sig begränsningar för så kallade open-weight-modeller. Brevet stöddes bland annat av Nvidia, Microsoft, Meta, IBM, Mistral

Sammanhang: ...Anthropic: Begränsa inte öppna AI-modeller men skärp kontrollen av de starkaste...

Omnämnda platser: Meta.

Uppgifter: Trumpadministrationen överväger begränsningar mot kinesiska AI-modeller

Trumpadministrationen ska återigen överväga att begränsa amerikanska företags tillgång till avancerade kinesiska AI-modeller, rapporterar Axios. Bakgrunden är den snabba utvecklingen av kinesiska modeller som blivit ett konkurrenskraftigt och billigare alternativ

Sammanhang: ...Trumpadministrationen ska återigen överväga att begränsa amerikanska företags tillgång till avancerade kinesiska AI-modeller, rapporterar Axios. Bakgrunden är den snabba utvecklingen av kinesiska modeller som blivit ett konkurrenskraftigt och billigare alternativ till amerikanska AI-tjänster. ...

Regeringen vill begränsa barns tillgång till AI-verktyg

Efter att ha föreslagit åldersgränser för smarta mobiltelefoner och sociala medier vill regeringen nu skydda barn och ungdomar från de nya AI-verktygen. Sålunda har Folkhälsomyndigheten nu fått i uppdrag att undersöka riskerna med användning av generativ

Sammanhang: ...Regeringen vill begränsa barns tillgång till AI-verktyg...

EU: Microsoft och Amazons molntjänster bör förmodligen klassas som gatekeepers

EU-kommissionen har efter en sju månader lång utredning fattat det preliminära beslutet att Amazons och Microsofts molnplattformar AWS och Azure bör klassas som ”gatekeepers” enligt unionens Digital Markets Act (DMA), rapporterar Reuters. DMA, även käntsom

Sammanhang: ...DMA, även känt som förordningen om digitala marknader, har som mål att begränsa dominerande aktörers marknadsmakt. För molntjänsterna skulle det bland annat innebära krav på ökad interoperabilitet och dataportabilitet, samt begränsningar för hur tjänsterna får gynna sina egna produkter och tjänster. ...

Omnämnda platser: Microsofts.

Anthropic släpper AI-agenten Claude Tag till Slack

Anthropic har nu presenterat Claude Tag, en ny version av AI-assistenten Claude som integreras direkt i Slack-kanaler. Tanken är att AI:n ska fungera som en aktiv deltagare i arbetsgrupper genom att läsa konversationer, svara på frågor och utföra uppgifter

Sammanhang: ...Det gör att företag kan skapa olika AI-assistenter utan att information delas mellan kanalerna. Administratörer kan också begränsa vilken data och vilka verktyg varje Claude-instans får tillgång till. Det går också att sätta kostnadstak för AI-användningen och granska loggar....

Utvecklare gömde fälla för AI-agenter i öppen källkod

Utvecklaren bakom det öppna Java-testverktyget jqwik har hamnat i blåsväder efter att ha lagt in en dold promptinjektion i programvaran. Instruktionen riktade sig mot AI-baserade kodassistenter och uppmanade dem att ignorera tidigare instruktioner och radera

Sammanhang: ...Han säger att även om utvecklare har rätt att begränsa AI-användning är det problematiskt att använda en potentiellt destruktiv instruktion som kan leda till att användares arbete raderas....

Omnämnda personer: Ars Technica.

Sårbarheter har blivit hackarnas främsta väg in i företagen

Eftersom företag i allt högre grad förlitar sig på externa leverantörer riktar hotaktörer in sig även på den utökade leveranskedjan, och intrång som involverar en tredje part står nu för 48 procent av alla säkerhetsincidenter som omfattas av Verizons DBIR.

Sammanhang: ...Raghu Nandakumara, vice vd för branschstrategi hos Illumio, en leverantör av mikrosegmentering och åtgärder för att begränsa säkerhetsöverträdelser, hävdar att även om fler sårbarheter åtgärdas i takt med att företagens patch-rutiner förbättras, växer eftersläpningen av fel som kräver åtgärd fortfarande snabbare än vad säkerhetsteamen hinner med...

Omnämnda platser: GTIG, Bridewell, Verizons. Omnämnda personer: Cloud Threat Horizons Report, Google Threat Intelligence Group, ciso:er snabbt.

Störst inte alltid bäst – små språkmodeller kan vara det rätta valet

– Mönstret liknar snarare en bättre arbetsfördelning, säger Thomas Randall, forskningschef på Info-Tech Research Group. – En routingarkitektur skickar enkla eller väl avgränsade frågor till en specialiserad liten modell och komplexa frågor till en stor modell.

Sammanhang: ...Medan LLM tränas på petabyte av data, tränas SLM på kompakta transformatorarkitekturer (neurala nätverk) med hjälp av mindre, specialiserade, högkvalitativa datamängder som är specifika för deras avsedda funktion. Flera tekniker hjälper till att begränsa modellstorleken utan att kompromissa med prestandan. Bland annat dessa: Kunskapsdestillering : En större ”lärarmodell” tränar en liten ”elevmodell” så att den kan lära sig att efterlikna starka resonemangsförmågor, men i mycket mindre skala...

Omnämnda platser: Kunskapsdestillering. Omnämnda personer: Info-Tech Research Group, Thomas Randall, Sumit Agarwal.