DOGE cancelled a $349,000 grant to replace a museum’s HVAC after ChatGPT flagged it as DEI, court documents show
The Trump administration's efforts to slash diversity, equity, and inclusion (DEI) initiatives left another acronym on the chopping block: one museum's $350,000 grant to replace its heating, ventilation, and air conditioning (HVAC) system. ... (https://incidentdatabase.ai/cite/1402#7112)
Gerichtsunterlagen zeigen laut Artikel, dass DOGE einen Zuschuss über 349.000 US-Dollar für den Austausch der HVAC-Anlage eines Museums gestrichen habe, nachdem ChatGPT ihn als DEI-bezogen markiert hatte. Der Vorfall beschreibt den Einsatz eines KI-Systems in Förderentscheidungen. Der Artikelauszug liefert keine technischen Details zur Prüfung oder Validierung.
Ein Museum mit einem HVAC-Ersatz-Zuschuss sowie Stellen, die Förderentscheidungen mit ChatGPT-Unterstützung trafen.
KI-gestützte Verwaltungsentscheidungen können finanzielle Folgen haben, wenn Klassifikationen nicht überprüft oder kontextualisiert werden.
Ein legitimer Infrastrukturzuschuss wird aufgrund einer fehlerhaften KI-Einstufung gestrichen, was geplante Instandhaltung verzögert.
KI-Klassifikationen in Förderprozessen nur mit menschlicher Prüfung, dokumentierter Begründung und Einspruchsmöglichkeit verwenden.
- ▸Defensiver Check 1: Prüfen, ob KI-Ausgaben in Entscheidungsprozessen als Empfehlung und nicht als alleinige Entscheidungsgrundlage behandelt werden.
- ▸Defensiver Check 2: Audit-Trails für Prompt, Modellantwort, menschliche Prüfung und endgültige Entscheidung kontrollieren.
- ▸Defensiver Check 3: Stichproben fehleranfälliger Klassifikationen mit Fachprüfern und dokumentierten Kriterien validieren.
- Der genaue Prompt und die Modellantwort sind im Auszug nicht angegeben.
- Ob eine menschliche Prüfung stattfand, ist nicht im Artikel angegeben.
- Ob der Zuschuss endgültig gestrichen blieb, ist nicht im Artikel angegeben.
- Kein Cyberangriff oder ATT&CK-relevantes Verhalten ist im Artikel beschrieben.