Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen

Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–

Sammanhang: ...Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen...

Omnämnda personer: Nvidia Sentry, Justin Boitano.

Ledande AI-chefer uppmanar FN till gemensam strategi för säker teknik

Sam Altman och Dario Amodei vill se att världens ledare går samman för att säkerställa en säker användning av AI-teknkiken. Det var budskapet från de två cheferna för Open AI respektive Anthropic när de talade inför FN:s säkerhetsråd. – Det har förekommit

Sammanhang: ...Även Clément Delangue, chef för plattformen Hugging face, talade inför säkerhetsrådet. Hugging face uppmärksammades i somras, då Open AI:s AI-agenter attackerade plattformen. Delangue använde dock delar av sin talartid till att varna för att överreagera på den sortens händelser...

Omnämnda platser: Amodei. Omnämnda personer: Sam Altman.

Zuckerberg och Huang säger nej till att sakta ned AI – går emot branschen

Mark Zuckerberg och Jensen Huang, vd för Meta respektive Nvidia, tycker inte att AI-utvecklingen ska bromsas. De går därmed emot sina konkurrenter i frågan. Enligt Zuckerberg ligger det i allas intresse att se till att säkerheten fungerar hos de AI-modeller

Sammanhang: ...Och om de inte är färdiga att släppas, ska vi vänta och fortsätta testa och vidareutveckla dem tills de är färdiga, säger Huang till CNBC. Uttalandena kommer efter det att Open AI:s och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entreprenören och miljardären Elon Musk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten....

Omnämnda platser: Metas, X.. Omnämnda personer: Mark Zuckerberg, Dario Asmodei, Sam Altman.

Trump avfärdar AI-kritik – går emot tekniktopparnas varningar

Flera branschhöjdare anser att AI-utvecklingen bör bromsas. Men det har USA:s president Donald Trump inte mycket till övers för. – Vi leder mot Kina i AI. Vi är världens mest sofistikerade land och rent krasst vill jag att det ska fortsätta så eftersom den

Sammanhang: ...Vi är världens mest sofistikerade land och rent krasst vill jag att det ska fortsätta så eftersom den som vinner AI-racet vinner, säger Trump vid sin golfbana i irländska Doonbeg. Kommentaren kommer efter det att Open AI:s och och Anthropics chefer, Sam Altman respektive Dario Asmodei, liksom entrprenören och miljardären Elon Msuk alla varnat för att AI nu håller på att utvecklas i en fart som medför potentiella risker för mänsligheten. ...

Omnämnda platser: Kina. Omnämnda personer: Sam Altman, Dario Asmodei, Donald Trump.

Anthropics vd varnar: AI-racet kan gå för snabbt för samhället

Utvecklingen av AI måste bromsas. Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor.

Sammanhang: ...Det skriver Dario Amodei, vd för branschjätten Anthropic, i ett inlägg på bolagets sajt. Open AI:s chef gav nyligen uttryck för liknande tankegångar. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. ...

Omnämnda platser: X., Amodei. Omnämnda personer: Dario Amodei, Sam Altman, Jacob Coxon.

Open AI:s AI-modeller låg bakom tidigare oupptäckt cyberattack

Kort om oss Börskollen är en prisvinnande nyhetstidning och tjänst för börsintresserade som grundades 2015. Idag drivs tjänsten primärt av Kristoffer och Daniel. Båda har stor erfarenhet av börsen, aktier, investeringar, privatekonomi, företagande och motorrelaterat

Sammanhang: ...Open AI:s AI-modeller låg bakom tidigare oupptäckt cyberattack...

Omnämnda platser: Börskollen, Börskollens.

Open AI:s system tog sig in hos rival – agerade på egen hand

”Vi misstänkte att attacken kom från en aktör i framkant, med tanke på hur sofistikerad den var”, säger Hugging face grundare och vd, Clément Delangue i ett uttalande. Delangue säger även att de har en dialog med Open AI. ”Vi är övertygade om att det inte

Sammanhang: ...Open AI:s system tog sig in hos rival – agerade på egen hand...

OpenAI etablerar sig i Norden – väljer Stockholm för första kontoret

Sverige är, enligt bolaget, en av företagets snabbast växande marknader i Europa med ett ökat antal användare. Ett skäl bakom beslutet uppges också vara en lockande startup-miljö med många framgångsrika företag. ”Sverige har ett av Europas mest avancerade

Sammanhang: ...Ett skäl bakom beslutet uppges också vara en lockande startup-miljö med många framgångsrika företag. ”Sverige har ett av Europas mest avancerade tech-ekosystem och vassa talanger inom ingenjörsvetenskap”, säger Emmanuel Marill, Open AI:s verkställande direktör för regionen Europa, Mellanöstern och Afrika, i pressmeddelandet. Bistånds- och utrikeshandelsminister Benjamin Dousa (M), uttrycker stor förtjusning över beslutet. ”Att OpenAI öppnar kontor i Stockholm är ett bevis på Sveriges position som en av världens ledande tekniknationer”, uppger han....

Omnämnda platser: Afrika, Sveriges, Sverige.

Open AI tar steg mot börsen – lämnar in hemlig ansökan i USA

Och om bara några dagar, den 12 juni, väntas Elon Musks företag Space X göra debut på Nasdaq-börsen på Wall Street. The Wall Street Journal rapporterade i maj att Open AI:s mål var att börsnoteras i september. CNBC skriver nu att målsättningen är det fjärde

Sammanhang: ...The Wall Street Journal rapporterade i maj att Open AI:s mål var att börsnoteras i september. CNBC skriver nu att målsättningen är det fjärde kvartalet, även om Open AI själva inte kommunicerar någon tidpunkt. ...

Omnämnda platser: Wall Street, USA. Omnämnda personer: Elon Musks.

Microsoft ändrar strategi – nya avtalet påverkar intäktsdelning med Open AI

”Den snabba teknikutvecklingen driver Microsoft och OpenAI att stöpa om sitt samarbete. Ett nytt tilläggsavtal ska förenkla parternas relation och ge båda bolagen större frihet att utforska nya möjligheter på AI-marknaden”, skriver Microsoft. Inget exklusivt

Sammanhang: ...Inget exklusivt licensavtal Enligt den nya uppgörelsen mellan bolagen öppnar Microsoft upp för att licensavtalet för Open AI:s modeller och produkter ändras så att det inte längre är exklusivt. Microsoft kommer vara kvar som OpenAI:s primära molnpartner genom plattformen Azure. ”Open AI:s produkter ska i första hand lanseras på Azure, såvida inte Microsoft saknar kapacitet eller väljer att inte stödja specifika funktioner. ...