Callers to Washington state hotline press 2 for Spanish and get accented AI English instead
SEATTLE (AP) --- Press 2 for Spanish ... accent? For months, callers to the Washington state Department of Licensing who have requested automated service in Spanish have instead heard an AI voice speaking English in a strong Spanish accent ... (https://incidentdatabase.ai/cite/1401#7114)
Monatelang hörten Anrufer des Washington State Department of Licensing nach Auswahl der spanischen Option eine KI-Stimme, die Englisch mit starkem spanischem Akzent sprach. Der Artikel beschreibt ein fehlgeschlagenes KI-Sprachfeature in einer staatlichen Hotline. Es werden keine Hinweise auf böswillige Kompromittierung genannt.
Anrufer des Washington State Department of Licensing, die automatisierten Service auf Spanisch anforderten.
Fehlerhafte KI-Sprachfeatures können öffentliche Dienste für nicht englischsprachige Nutzer unzugänglich machen.
Anrufer verpassen Fristen oder erhalten falsche Unterstützung, weil die versprochene spanische Sprachoption nicht funktioniert.
KI-Sprachfeatures vor Einsatz barrierefrei testen, Qualitätsmetriken überwachen und menschliche Alternative für kritische Dienste bereitstellen.
- ▸Defensiver Check 1: Prüfen, ob alle KI-generierten Hotline-Ansagen mit realen Nutzerpfaden getestet wurden.
- ▸Defensiver Check 2: Monitoring auf lange anhaltende Fehlfunktionen in Self-Service-Menüs einrichten.
- ▸Defensiver Check 3: Fallback zu menschlicher Unterstützung in der gewünschten Sprache regelmäßig testen.
- Genauer Anbieter des KI-Sprachsystems ist nicht im Artikel angegeben.
- Warum der Fehler monatelang bestehen konnte, ist nicht im Artikel angegeben.
- Betroffene Transaktionen oder Services sind nicht im Artikel angegeben.
- Kein Cyberangriff oder ATT&CK-relevantes Verhalten ist im Artikel beschrieben.