How DOGE Gutted the NEH in 22 Days
When the Department of Government Efficiency was asked last year to identify National Endowment of the Humanities grants that violated President Trump's executive orders, it enlisted the help of ChatGPT. "Does the following relate at all to ... (https://incidentdatabase.ai/cite/1402#7111)
Der Artikel beschreibt, dass DOGE ChatGPT einsetzte, um NEH-Zuschüsse zu identifizieren, die angeblich gegen Executive Orders des Präsidenten verstießen. Die Abfrage lautete dem Auszug zufolge sinngemäß, ob ein Projekt überhaupt mit bestimmten Themen zusammenhänge. Der Fall betrifft KI-gestützte Verwaltungsklassifikation und mögliche Fehlentscheidungen.
National Endowment for the Humanities, Förderempfänger und DOGE-Mitarbeiter beziehungsweise -Prozesse.
KI-gestützte Masseneinstufungen können Förderentscheidungen beschleunigen, aber ohne ausreichende Kontrolle falsche oder politisch sensible Ergebnisse erzeugen.
Förderungen werden aufgrund unzureichend geprüfter KI-Einstufungen beendet, was Projekte und Institutionen finanziell beeinträchtigt.
Klare Kriterien, menschliche Prüfung, Protokollierung und Rechtsprüfung für KI-gestützte Förderbewertungen verlangen.
- ▸Defensiver Check 1: Prüfen, ob KI-Ausgaben in Behördenprozessen vollständig protokolliert und nachvollziehbar sind.
- ▸Defensiver Check 2: Testen, ob Entscheidungen mit finanziellen Auswirkungen eine unabhängige menschliche Zweitprüfung haben.
- ▸Defensiver Check 3: Bias-, Fehler- und Kontextprüfungen für KI-Klassifikationen in Förderprogrammen durchführen.
- Vollständige Prompt- und Bewertungslogik ist nicht im Artikel angegeben.
- Anzahl betroffener Zuschüsse ist im Auszug nicht angegeben.
- Ob ChatGPT allein entscheidend war oder nur unterstützte, ist im Auszug nicht vollständig angegeben.
- Kein Cyberangriff oder ATT&CK-relevantes Verhalten ist im Artikel beschrieben.