AI är dummare än du tror

Mer än 30 000 läkare och 40 hälso- och sjukvårdssystem, inklusive Children’s Hospital Los Angeles, använder ett verktyg som heter Nabla, som är baserat på Whisper men optimerat för medicinsk jargong. Företaget uppskattar att Nabla har använts vid cirka sju

Sammanhang: ...I en transkription uppfann Whisper till och med en icke-existerande medicin som kallas ”hyperaktiverade antibiotika”. Experter fruktar att användningen av Whisper-baserad transkription kommer att leda till feldiagnoser och andra problem. ...

Omnämnda platser: Frankrike, USA, Los Angeles. Omnämnda personer: Carnegie Mellon University, Chat GPT, Googles NotebookLM-verktyg.

Kritik mot Open AI efter hallucinationer i populärt AI-verktyg

En närmare granskning av Whisper visar att det AI-baserade transkriberingsverktyget har en benägenhet att hallucinera, det vill säga att hitta på saker som inte finns i källan. Enligt nyhetsbyrån AP har en utvecklare hittat hallucinationer i nästan alla26

Sammanhang: ...Whisper har till exempel valt att lägga till våldsamma eller rasistiska kommentarer utan anledning och när det kommer till vårdrelaterade transkriptioner har verktyget hittat på egna termer som ”hyperaktiverad antibiotika”....