Open AI sätter upp regler för hur AI-modeller ska bete sig

Open AI har presenterat ett utkast av Model Spec, ett regelverk för hur företagets AI-modeller ska bete sig. Enligt de nya reglerna ska AI-modellerna hjälpa utvecklare och användare att nå sina mål. De ska dessutom vara till nytta för mänskligheten, samt

Sammanhang: ...Vidare ska modellerna respektera upphovsrätten och inte ge olämpliga svar, uppmuntra till hat eller försöka få någon att ändra åsikt. ...

Omnämnda personer: Model Spec.

Modebegreppet blottlägger obekväma sanningar om AI

För det som gjort att begreppet fått fäste är att trots hajpen och de stora framstegen är AI-modellerna helt enkelt inte tillräckligt bra. Vad som är tillräckligt bra är en definitionsfråga men man kan säga att behovet av mänsklig inblandning korrelerar med

Sammanhang: ...Eller är väldigt lätta att upptäcka. Vi vet ju att AI-modellerna hallucinerar. Leverantörerna säger att det här kommer att bli bättre men forskare menar att det aldrig kommer att gå att komma ifrån eftersom det är så modellerna är byggda. ...

Omnämnda platser: Doctorow.

Nya Nvidia-modeller ska generera syntetiska data till AI-träning

Nvidia har lanserat Nemotron-4 340B, en serie med öppna modeller avsedda för att producera syntetiska data som kan användas för att träna stora språkmodeller. Syntetiska data är data som inte är insamlade från verkliga observationer eller händelser utan skapade

Sammanhang: ...Belöningsmodellerna bedömer istället kvaliteten på genererad utdata och hjälper till att förbättra AI-systems prestanda genom att främja högkvalitativa svar. Modellerna i Nemotron-4 340B är anpassade för att integreras med Nvidia NeMo och TensorRT-LLM för att optimera träning och inferens. ...

Omnämnda platser: Nemotron-4, Modellerna. Omnämnda personer: Nvidia NeMo.

Microsoft tror att nya Snapdragon slår Apples M3-chipp på fingrarna

Den 20 maj kommer Microsoft att redogöra för sina framtidsplaner på ett event i Seattle, USA. Eventuellt får vi se uppgraderade Surface-datorer med Snapdragon X Elite, ett Arm-baserat chipp från Qualcomm som bland annat har optimerats för AI-användning.Enligt

Sammanhang: ...Enligt Microsoft ska de nya chippen kunna utmana M3, Apples kraftfulla chipp som återfinns i de senaste modellerna av Macbook Air, Macbook Pro och Imac....

Omnämnda platser: Seattle, USA. Omnämnda personer: Macbook Pro, Macbook Air.

AI Sweden utvecklar språkmodeller för 45 europeiska språk

Tillsammans med tyska Fraunhofer IAIS ska AI Sweden utveckla öppna stora språkmodeller för 45 europeiska språk och dialekter, bland dem Europas 24 officiella språk. Språkmodellerna som projektet, EuroLingua-GPT, ska ta fram är i storleksordningen 7 till180

Sammanhang: ...Det börjar nu i slutet av maj och ska pågå i ett år men redan inom några månader beräknas de första modellerna bli klara. För att lyckas med det har projektet fått tillgång till en av de kraftfullaste superdatorerna i Europa, MareNostrum 5 i Barcelona, där språkmodellerna kommer att tränas. ...

Omnämnda platser: Barcelona, Europas, Europa. Omnämnda personer: Fraunhofer IAIS.

Meta ska träna AI-modeller på användarnas data – anmäls i 11 EU-länder

Den 26 juni kommer Meta att införa nya regler som ger företaget rätt att använda kundernas data för att träna upp sina AI-modeller, något som väcker oro bland användare som värnar om sin personliga integritet. Nu låter Noyb (förkortning för None of yourbusiness)

Sammanhang: ...Meta har kommenterat kritiken med att det är möjligt för användare som inte vill att deras data ska användas av AI-modellerna att höra av sig till företaget, med andra ord en så kallad ”opt-out”....

Omnämnda platser: Norge, Irland, Noyb.

Ibland är AI:n bara en vanlig snubbe

Att människor har en väldigt stor roll i grovjobbet bakom de flashiga AI-modellerna är ingen hemlighet längre, även om det är något som techjättarna och AI-bolagen inte gärna pratar så mycket om. En förklaring till det, förutom att det gör tekniken lite mindre

Sammanhang: ...Att människor har en väldigt stor roll i grovjobbet bakom de flashiga AI-modellerna är ingen hemlighet längre, även om det är något som techjättarna och AI-bolagen inte gärna pratar så mycket om. ...

Omnämnda platser: New York Times, Kenya, Youtube. Omnämnda personer: Chad Kultgren, Washington Post, George Carlin.

Forskare fick chattbotar att bryta mot reglerna genom upprepade frågor

Anthropics AI-forskare säger att de upptäckt en ny jailbreaking-metod för att få stora språkmodeller att berätta saker som de egentligen inte ska kunna berätta, rapporterar Techcrunch. Metoden kallas för “many-shot jailbreaking” och använder sig av det utökade

Sammanhang: ...Kontextfönstret kunde tidigare bara vara några meningar långt men kan idag bestå av hela böcker. Forskarna märkte att de moderna modellerna tenderar att prestera bättre i många uppgifter ifall det finns många exempel på uppgiften inom instruktionerna. ...

Microsoft-modell kan skapa en deepfake av bara en bild och ett ljudspår

Microsoft Research har nu visat upp AI-modellen VASA-1 som kan generera en deepfake-video av en person som talar genom att bara använda en enda bild och ett existerande ljudspår. Det hela uppmärksammades först av Ars Technica. Du kan se tekniken demonstreras

Sammanhang: ...Forskarna säger att av integritetsskäl ska samtliga ansikten som användes i experimentet genererats fram med AI-modellerna StyleGAN2 eller DALL-E 3. Ett undantag var en demonstration som gjordes med Leonardo Da Vincis tavla Mona Lisa. ...

Omnämnda personer: Ars Technica, Mona Lisa.

Vertex AI får agentbyggare och nya språkmodeller

Google säger att ljudbearbetningsförmågan ger användarna tvärmodal analys, vilket ger insikter över text, bilder, videor och ljud. Pro-modellen kommer också att stödja transkription, som kan användas för att söka i ljud- och videoinnehåll, tillägger företaget.

Sammanhang: ...För att hjälpa företag med grundmodeller att få mer exakta svar från dem kommer Google att tillåta företagsteam att grunda LLM i Google Search samt sina egna data via Vertex AI. ”Grundmodeller begränsas av deras träningsdata, som snabbt kan bli föråldrade och kanske inte innehåller information som modellerna behöver för företagsanvändningsfall”, säger företaget och tillägger att grundning i Google Sök kan förbättra svarens noggrannhet avsevärt....

Omnämnda platser: Pro-modellen. Omnämnda personer: Google Search, Google Sök.