Zillow’s artificial intelligence failure and its impact on perceived trust in information systems
AIID editor's note: This report is a research article. Please see the original source for the full report. Abstract With increasing machine learning and artificial intelligence adoption in organizations, consumers are frequently exposed t ... (https://incidentdatabase.ai/cite/149#7065)
Der Artikel ist laut AIID-Hinweis ein Forschungsartikel über Zillows KI-Fehlschlag und dessen Einfluss auf wahrgenommenes Vertrauen in Informationssysteme. Er behandelt die zunehmende Nutzung von KI und maschinellem Lernen in Organisationen. Konkrete technische Details des Fehlschlags sind im bereitgestellten Auszug nicht angegeben.
Verbraucher, die KI-gestützten Informationssystemen ausgesetzt sind; Zillow wird im Titel genannt.
Fehlerhafte KI-Systeme können das Vertrauen in Informationssysteme und datengetriebene Entscheidungen beeinträchtigen.
Realistischer Worst Case auf Basis des Auszugs ist ein Vertrauensverlust in KI-gestützte Informationssysteme nach einem sichtbaren Fehlschlag.
KI-Governance, Modellvalidierung und Kommunikationsprozesse für fehlerhafte KI-Ergebnisse überprüfen.
- ▸Prüfen, ob KI-Modelle vor produktivem Einsatz auf Genauigkeit, Bias und geschäftliche Fehlentscheidungen validiert werden.
- ▸Validieren, ob Nutzerfeedback und Fehlermeldungen systematisch erfasst und analysiert werden.
- ▸Überprüfen, ob Kommunikation und Transparenz bei KI-Fehlern vorbereitet sind.
- Die genaue Art von Zillows KI-Fehlschlag ist im Auszug nicht angegeben.
- Betroffene Systeme, Daten oder Nutzergruppen sind nicht im Artikel angegeben.
- Konkrete technische Ursachen sind nicht im Artikel angegeben.