Meta lanserar tjänst för att utvärdera AI-modeller

Metas släppte flera nya AI-modeller under fredagen, däribland ”Self-Taught Evaluator” som använder sig av syntetisk data för att träna upp andra system för utvärdering av språkmodeller. På så vis erbjuder de användaren ett sätt att ha mindre mänsklig engagemang

Sammanhang: ... – Vi hoppas att AI i takt med att det blir mer och mer övermänskligt kommer att bli bättre och bättre på att kontrollera sitt arbete, så att det faktiskt blir bättre än den genomsnittliga människan, säger Jason Weston, en av forskarna, till Reuters. Andra företag, inklusive Google och Anthropic, har också publicerat forskning på ämnet. Till skillnad från Meta tenderar dock dessa företag att inte släppa sina modeller för allmän användning....

Omnämnda platser: Metas, Meta. Omnämnda personer: Jason Weston.

Anthropic uppdaterar riskpolicy för AI-säkerhet

Anthropic har uppdaterat sin Responsible Scaling Policy (RSP) för att minska riskerna med avancerade AI-system. Den nya policyn introducerar två “kapacitetströsklar” som kräver förstärkta säkerhetsåtgärder. Den första tröskeln gäller autonom AI-forskning

Sammanhang: ...Anthropic har uppdaterat sin Responsible Scaling Policy (RSP) för att minska riskerna med avancerade AI-system. ...

Omnämnda personer: Responsible Scaling Policy.

Stockholmsbaserade Lovable tar in 7,5 miljoner dollar

För AI-kodassistent som ska demokratisera programmering Nu, med diverse AI-assistenter på marknaden, har det aldrig varit enklare att börja hobbykoda saker och ting. Hjälpen man kan få av dessa assistenter för att skriva funktioner

Sammanhang: ...GPT Engineer drivs av anpassade Language Models (LLMs) från leverantörer som Anthropic och OpenAI. Assistenten kan självständigt skapa och debugga applikationer samtidigt som den bevarar deras integritet. ...

Nobelpristagaren vet att det han skapat är farligt

Olle Häggström, professor i matematisk statistik, Chalmers tekniska högskola. Foto: Privat Nobelpristagaren Geoffrey Hinton varnar nu för samma AI-teknologi som han varit med och utvecklat, skriver debattören. Foto: NOAH BERGER / AP DEBATT. Då AI-forskaren

Sammanhang: ...Med en sådan tidsskala är det extremt illavarslande att se hur ledande AI-företag som OpenAI, Anthropic och Google/DeepMind befinner sig i en rasande kapplöpning, där ”säkerhetstänkandet har hamnat i baksätet för att ge plats åt glänsande produkter”, som OpenAI:s tidigare AI-säkerhetschef Jan Leike uttryckte saken då han i maj i år lämnade företaget. ...

Omnämnda platser: Nobelhistorien, OpenAI. Omnämnda personer: John Hopfield, Olle Häggström, Privat Nobelpristagaren Geoffrey Hinton.

Open AI stänger mångmiljardrunda – råder investerare att skippa rivaler

Open AI är i stort behov av pengar – och det rör sig inte om småsummor. Driften av den populära tjänsten Chat GPT, löner till personal och vidareutvecklingen av bolagets ai-språkmodeller kostar enormt mycket. Open AI värderas till 1600 miljarder kronor

Sammanhang: ...Två omskrivna konkurrenter, med samma mål, är Anthropic och Safe Superintelligence (SSI). Bägge bolagen är startade av tidigare Open AI-medarbetare. Ilya Sutskever. ...

Omnämnda personer: Ilya Sutskever, Chat GPT, Safe Superintelligence.

Open AI:s krav på investerarna – ge inte pengar till Elon Musk

Open AI har precis avslutat en helt enorm kapitalrunda på 6,6 miljarder dollar, motsvarande runt 70 miljarder kronor, till en hisnande värdering på motsvarande 1600 miljarder kronor. En monsun bland pengaregn med andra ord. Financial Times skriver att AI-bolaget

Sammanhang: ...Financial Times skriver att AI-bolaget inför rundan bad investerarna, däribland Microsoft och Nvidia, att inte gå in med finansiering i någon konkurrerande tjänst som Anthropic eller Elon Musks xAI. Tidningen hänvisar till flera källor med insyn i affärerna. FT skriver att det inte är ovanligt att VC-firmor som backar ett bolag väljer att inte investera i en sektorskollega men att exklusivitetsavtal är sällsynta. ...

Omnämnda personer: Sam Altman, Elon Musk Open, Elon Musk.

Open AI:s nya värdering: 1.600 miljarder kronor

Open AI, som ligger bakom chatroboten Chat GPT,  har stängt en runda till en värdering på motsvarande 1.600 miljarder kronor, enligt ett pressmeddelande. Bolaget avråder, enligt uppgift, investerare från att stödja rivaliserande AI-utvecklare som Anthropic

Sammanhang: ...Bolaget avråder, enligt uppgift, investerare från att stödja rivaliserande AI-utvecklare som Anthropic och Elon Musks xAI....

Omnämnda personer: Elon Musks, Chat GPT.

Tung förlust för Open AI – men laddar för rekordvärdering

Open AI väntas göra en förlust på 5 miljarder dollar i år, eller mer än 50 miljarder kronor. Detta är i paritet med kapitalet som bolaget vill ta in i en ny finansieringsrunda. En väntad förlust på 5 miljarder dollar bekräftas av källor till CNBC efter att

Sammanhang: ...Annons Med det nya kapitalet planerar Open AI att finansiera sina ambitiösa mål att utveckla AI-modeller som kan överträffa mänsklig intelligens, och därigenom få ett försprång gentemot konkurrenter som Anthropic, Google och Meta. Nyligen drabbades techjätten av flera tunga avhopp när teknikchefen Mira Murati överraskande lämnade bolaget, tillsammans med två andra tunga namn: forskningschefen Bob McGrew och vice forskningschef Barret Zoph. ...

Omnämnda platser: New York Times. Omnämnda personer: Bob McGrew, Chat GPT, Mira Murati.

Skulle hindra en AI-katastrof – nu stoppar han den nya lagen

Kalifornien – där bland annat Silicon Valley huserar – skulle få en ny lagstiftning kring artificiell intelligens, AI. Det var den första i sitt slag i USA. Men den högprofilerade AI-lagen SB 1047 har stött på patrull efter att ha röstats igenom en första

Sammanhang: ...Lagförslaget, bör nämnas, har också kritiserats för att inte vara tillräckligt träffsäkert och för att ha ändrats efter instick från AI-bolaget Anthropic. Så här motiverade Gavin Newsom sitt vetobeslut: ”Även om syftet är gott så tar SB 1047 inte i beaktande huruvida ett AI-system används i högriskmiljöer, involverar kritiskt beslutsfattande eller använder sig av känslig data. ...

Omnämnda platser: Kalifornien, Metas, USA. Omnämnda personer: Gavin Newsom.

Hundratals företag har skrivit under EU:s AI-pakt – men några namn saknas

Enligt ett pressmeddelande från EU-kommissionen har över hundra företag skrivit under EU:s pakt för artificiell intelligens (AI), något man hoppas ska leda till en tillförlitlig och säker utveckling av den nya tekniken under perioden innan EU:s AI-förordning

Sammanhang: ...Techcrunch uppmärksammar emellertid att flera välkända teknikföretag saknas från listan, däribland Anthropic, Apple, Meta, Mistral, Nvidia och Spotify....

Omnämnda platser: Palantir, Apple, Spotify.