Washington roasted for using AI feature with heavily accented English instead of actual Spanish on state helpline
Press 2 for Spanish ... accent? For months, callers to the Washington state Department of Licensing who have requested automated service in Spanish have instead heard an AI voice speaking English in a strong Spanish accent. The agency has ... (https://incidentdatabase.ai/cite/1401#7113)
Das Washington State Department of Licensing wurde kritisiert, weil Anrufer bei Auswahl von Spanisch monatelang eine englische KI-Stimme mit starkem Akzent hörten. Die Behörde hat die Funktion laut Artikel zurückgezogen. Der Vorfall betrifft KI-Governance, Barrierefreiheit und Servicequalität.
Anrufer des Washington State Department of Licensing, insbesondere Personen, die spanischsprachigen Service benötigten.
Fehlerhafte Sprachautomatisierung kann Behördenleistungen ungleich zugänglich machen und öffentliche Kritik auslösen.
Betroffene erhalten keine verständlichen Informationen und verlieren Vertrauen in die Behörde.
KI-Sprachfunktionen nur nach Sprachprüfung, Nutzerakzeptanztest und kontinuierlichem Monitoring produktiv einsetzen.
- ▸Defensiver Check 1: Kontrollieren, ob Sprachoptionen vor Veröffentlichung von Muttersprachlern geprüft wurden.
- ▸Defensiver Check 2: Überwachen, ob Nutzer nach Auswahl einer Sprachoption abbrechen oder wiederholt anrufen.
- ▸Defensiver Check 3: Incident-Playbooks für öffentliche KI-Fehlfunktionen und schnelle Deaktivierung testen.
- Vollständige technische Ursache ist nicht im Artikel angegeben.
- Anzahl betroffener Nutzer ist nicht im Artikel angegeben.
- Ob externe Anbieter beteiligt waren, ist nicht im Artikel angegeben.
- Kein Cyberangriff oder ATT&CK-relevantes Verhalten ist im Artikel beschrieben.