Storbritannien släpper verktyg för att testa AI-modellers säkerhet

AI Safety Institute, Storbritanniens nyligen etablerade säkerhetsmyndighet för AI, släpper nu en ny testplattform, Inspect, som kan användas för att utvärdera en AI-modells säkerhet. Inspect är ett mjukvarubibliotek som kan granska en modells specifika kapabiliteter

Sammanhang: ...AI Safety Institute skriver att testplattformen är tänkt att göra det enklare för ett stort antal grupper att ta fram AI-utvärderingar och för att främja samarbetet mellan forskare och utvecklare. Slutmålet är att hjälpa till att ta fram säkrare AI-modeller. Inspect är släppt som öppen källkod och är tillgängligt för allmänheten....

Omnämnda platser: Storbritannien, Storbritanniens.

Tänk om robotar lärde sig på samma sätt som chattbotar gör?

Precis som ännu mer avancerade LLM-baserade chattbottar kan ”hallucinera” och tenderar att förorenas med dåliga data, behöver HPT en mekanism för att filtrera bort dåliga data från dataseten. Ingen vill att en kraftfull industrirobot ska ”hallucinera” och

Sammanhang: ...De vill också förbättra HPT så att den kan bearbeta omärkta data som GPT-4 och andra stora språkmodeller.” Slutmålet är en ”universell robothjärna” som kan laddas ner och användas utan ytterligare utbildning. I grund och botten skulle HPT göra det möjligt för robotar att agera mycket närmare hur människor agerar. ...

Sex sätt att misslyckas med förändring

En vanlig missuppfattning, menar Soumendra Mohanty, är att man underskattar förändringens känslomässiga och psykologiska aspekter. – Ledare fokuserar ofta på process och teknik och glömmer bort behovet av att ta itu med medarbetarnas oro och motstånd, säger

Sammanhang: ... – Det gjorde att vi kunde hålla farten uppe, kommunicera öppet om utmaningar och framsteg och vara flexibla, så att vi visste när vi skulle ändra kurs utan att tappa slutmålet ur sikte. Bygger inte internt stöd för förändring För att lyckas med OCM måste du börja med projektgruppen och de verkställande sponsorerna, sedan utöka omfattningen till alla it-medarbetare och slutligen alla berörda affärsanställda anser Meredith Bilow, chef för teknikforsknings- och rådgivningsföretaget ISG. ...

Omnämnda personer: Soumendra Mohanty, Pavlo Tkhir, Meredith Bilow.