Resultat 11 - 20 av 130
Open AI sparkar säkerhetsforskare efter läcka
Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägsSammanhang: ...Open AI har på sistone kritiserats hårt för bristande säkerhetsrutiner, detta i kölvattnet efter incidenten där en av företagets AI-modeller hackade Hugging Face. Senaste nytt är att Open AI har gett tre säkerhetsforskare sparken, detta efter att de sägs ha delat med sig av företagsinformation till tredje part....
Omnämnda personer: Hugging Face.
Open AI stäms efter intrånget mot Hugging Face
Open AI har nu stämts efter att företagets AI-agenter i juli bröt sig ur sin testmiljö och gjorde ett intrång mot AI-plattformen Hugging Face. Bakom stämningen står den ideella organisationen Legal Advocates for Safe Science and Technology (LASST), rapporterarSammanhang: ...LASST anklagar Open AI för att ha brutit mot Kaliforninens lagar om obehörig datoråtkomst och vill att domstolen förbjuder företagets AI-system från att komma åt datorsystem utan tillstånd. Hugging Face är inte part i målet....
Omnämnda personer: Legal Advocates, Safe Science.
Forskare: Även kinesiska AI-agenter kan ljuga och kringgå regler
AI-agenter baserade på modeller från bland andra kinesiska Alibaba, Deepseek och Moonshot har i kontrollerade tester uppvisat en förmåga att ljuga och kringgå sina säkerhetsbegränsningar, rapporterar Reuters. Nyhetsbyrån har granskat över 200 forskningsrapporterSammanhang: ...Likt incidenten där amerikanska Open AI:s AI-agenter bröt sig ur sin testmiljö och gjorde intrång på AI-plattformen Hugging Face....
Omnämnda platser: Alibaba.
Nvidia släpper säkerhetsverktyg för AI
OpenShell hade kunnat stoppa attacken mot Hugging Face Nvidia släpper nu ett gäng säkerhetsverktyg som open source som man säger ska minska risken för säkerhetsproblem när AI-modellerna testas.BlandSammanhang: ...Bland annat uppger Nvidia att den incident där en AI-modell från OpenAI i somras hackade AI-plattformen Hugging Face, en plattform som Nvidia för övrigt äger nu för tiden, hade kunnat undvikas med Nvidias nya verktyg. ...
Omnämnda platser: OpenAI, Nvidias.
Nvidias nya säkerhetsplattform ska hålla AI-agenter i styr
Nvidia har lanserat en ny mjukvaruplattform, Open Agent Safety Platform, som är tänkt som ett extra säkerhetslager runt AI-agenter. Lösningen ska förhindra AI-agenter från att få tillgång till system och resurser som de inte är tänkta att använda. Nvidia-chefenSammanhang: ...Enligt Nvidia hade Open Agent Safety Platform exempelvis kunnat förhindra incidenten i somras där Open AI:s AI-agent gjorde ett intrång på AI-plattformen Hugging Face....
Omnämnda personer: Jensen Huang.
Nvidia släpper nya verktyg för att stoppa AI-agenter från att gå över gränsen
Den amerikanska chipbjässen Nvidia har lanserat två olika verktyg för skydd mot intrång av så kallade AI-agenter: Nvidia Sentry och Open Shell. Verktygen kommer att kunna användas på olika typer av chip från Nvidia och ska i realtid styra vad AI-agenter–Sammanhang: ...Enligt Justin Boitano, vice vd på Nvidia, hade bland annat det uppmärksammade intrånget på Hugging Face, genomförd av AI-agenter baserade på Open AI:s modeller, gått att avvärja. AI-agenter som spårat ur och gått till angrepp har skakat om AI-branschen och lett till uppmaningar om att bromsa teknikutvecklingen...
Omnämnda personer: Nvidia Sentry, Justin Boitano.
OpenAI pausar träning av AI-modeller
Efter att deras AI-agenter gett sig på myndigheter AI-företaget OpenAI meddelade i slutet av förra veckan att man kommer att pausa träningen av sina senaste AI-modeller efter att några av deras AI-agenter inte betett sig somSammanhang: ...L s vidare och kommentera: https://feber.se/internet/openai-pausar-traning-av-ai-modeller/496622/ L s mer om Hugging Face , AI-agenter , Department of Education , cybersäkerhet , hackning ...
Professor: AI-bolagen är själva överraskade
Open AI valde att pausa tester av sin mest avancerade AI-modell Astra efter att det visat sig att modellen uppnått det som kallas kritisk förmåga att utföra cyberattacker. Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annatSammanhang: ...Nyheten kom efter flera incidenter där företagets modeller brutit sig in i bland annat mjukvaruplattformen Hugging Face och det australiensiska sjukvårdssystemet Medicare. Frågan är om AI-modellernas tendens att olovligen börja hacka går att stoppa. ...
Omnämnda personer: Pontus Johnson.
Pausar AI-träning efter urspårningar
Beslutet att pausa utvecklingen kom strax efter att företaget i helgen avslöjade att det utredde ytterligare incidenter från i somras. Open AI uppger i ett uttalande att träningen kommer att återupptas ”först när vi är övertygade om att vi har ytterligareSammanhang: ...Sist var i juli efter att en uppmärksammad cyberattack mot AI-startupen Hugging Face avslöjades. AI-träning innebär att en maskininlärningsmodell förses med stora mängder data för att bättre känna igen mönster....
Open AI bromsar utvecklingen – efter oro kring AI:s oväntade beteende
Open AI uppger att företaget tillfälligt stoppat träningen av sina senaste AI-modeller. Beskedet kommer efter flera uppmärksammade händelser där AI-agenter betett sig på oväntade sätt. Beslutet att pausa utvecklingen kom strax efter att företaget i helgenSammanhang: ...Sist var i juli efter att en uppmärksammad cyberattack mot AI-startupen Hugging Face avslöjades. AI-träning innebär att en maskininlärningsmodell förses med stora mängder data för att bättre känna igen mönster....
