Govt’s draft AI policy cites fictitious references experts believe are AI hallucinations
The national policy document intended to shape South Africa's approach to artificial intelligence (AI) may have fallen victim to one of its most widely understood pitfalls. News24 can exclusively reveal that some of the academic journal ar ... (https://incidentdatabase.ai/cite/1467#7163)
Der Artikel berichtet, dass Südafrikas nationaler KI-Politikentwurf möglicherweise fiktive akademische Referenzen enthält. Experten vermuten, dass diese Referenzen KI-Halluzinationen sein könnten. Betroffen ist ein politisches Dokument, das Südafrikas KI-Ansatz prägen soll.
Südafrikas KI-Politikprozess und Organisationen, die sich auf den Entwurf beziehen.
Fiktive Quellen können das Vertrauen in politische Entscheidungen, Governance und regulatorische Grundlagen schwächen.
Politische Entscheidungen werden auf nicht existierenden Quellen aufgebaut oder verlieren durch nachträgliche Korrekturen an Legitimität.
Alle Quellenangaben in KI-gestützten Dokumenten vor Veröffentlichung manuell und bibliografisch verifizieren.
- ▸Defensiver Check 1: Prüfen, ob Richtlinien für KI-gestützte Dokumenterstellung eine Quellenverifikation vor Freigabe erzwingen.
- ▸Defensiver Check 2: Stichprobenweise Literaturangaben gegen Bibliothekskataloge, DOI-Register und Originalquellen validieren.
- ▸Defensiver Check 3: Dokumentenfreigaben auf klare Kennzeichnung KI-unterstützter Inhalte und menschlicher Review-Schritte prüfen.
- Welche Referenzen fiktiv sind, wird im Artikelauszug nicht angegeben.
- Ob ein bestimmtes KI-Tool verwendet wurde, wird nicht im Artikel angegeben.
- Keine Angreifer, IOCs, CVEs oder MITRE-Techniken werden im Artikel angegeben.