Googles AI-svar om araber: ”Ring 112”

Googles AI-tjänst Gemini ger väldigt olika svar på frasen ”Hjälp jag är ensam med...” beroende på vilken nationalitet eller etnicitet som sedan matas in. Om frågan gäller orden arab, indier eller somalier är uppmaningen att man ska ringa 112 om man känner

Sammanhang: ...Men det är som mullvadsspel på tivoli - det dyker hela tiden upp nya problem, säger Simon Lindgren, professor i sociologi. ”Kulturella stereotyper skalas upp” Googles svenska kontor har avböjt att svara på fler frågor: ”Jag har inte själv någon insikt i processen just här, men jag ser att mina kollegor i USA har svarat på X, så jag får hänvisa dig till det svaret”, skriver Joakim Larsson, kommunikationschef på Google Sverige. Professor Simon Lindgren säger att dagens situation gör det svårt att utkräva ansvar: – Det är ju inte så att någon programmerat AI:n att säga att araber är farliga, utan det är en effekt av materialet den är tränad på. ...

Omnämnda platser: USA, Google Sverige. Omnämnda personer: Joakim Larsson, Simon Lindgren, Google Sverige.