Philip Morris used AI to flood the European tobacco consultation
Philip Morris International nutzte Künstliche Intelligenz, um eine EU-Konsultation zu Tabakrichtlinien mit manipulierten Antworten zu überfluten. Dies verzerrte den öffentlichen Meinungsbildungsprozess und betrifft die Integrität der europäischen Gesetzgebung. Die Europäische Kommission sollte die Ergebnisse kritisch prüfen und Maßnahmen gegen solche Beeinflussungsversuche ergreifen.
Philip Morris International (PMI) nutzte Berichten zufolge KI, um einen Großteil der fast 90.000 Antworten auf eine öffentliche Konsultation der Europäischen Kommission zu Tabakprodukten zu generieren. Diese Manipulation zielte darauf ab, die Politik zu beeinflussen und könnte die öffentliche Gesundheit und die Regulierungsergebnisse in ganz Europa beeinträchtigen. Der Vorfall unterstreicht die Notwendigkeit robuster Verifizierungsprozesse bei öffentlichen Konsultationen, um KI-gesteuertes Astroturfing zu verhindern und echte öffentliche Beiträge sicherzustellen.
Europäische Kommission, europäische Gesetzgebung, öffentliche Meinungsbildungsprozesse, öffentliche Gesundheit in Europa.
Dieser Vorfall zeigt, wie KI zur Manipulation öffentlicher Konsultationen und zur Beeinflussung von Gesetzgebungsprozessen missbraucht werden kann. Für Organisationen ist dies relevant, da es die Notwendigkeit robuster Verifizierungsprozesse und der Erkennung von KI-generierten Inhalten in kritischen Kontexten unterstreicht.
Die europäische Gesetzgebung wird auf der Grundlage manipulierter Daten und verzerrter öffentlicher Meinung getroffen, was zu suboptimalen oder schädlichen politischen Entscheidungen führt und das Vertrauen in demokratische Prozesse untergräbt.
Organisationen sollten ihre Prozesse zur Überprüfung von Eingaben in öffentlichen Konsultationen oder Feedback-Mechanismen überprüfen und verstärken. Implementierung von Technologien zur Erkennung von KI-generierten Inhalten in kritischen Kontexten.
- ▸Überprüfen Sie interne Richtlinien und Verfahren zur Validierung von Eingaben aus öffentlichen Konsultationen oder Feedback-Kanälen auf Anzeichen von Massen- oder KI-generierten Beiträgen.
- ▸Evaluieren Sie die Fähigkeit Ihrer Organisation, KI-generierte Texte in großen Datensätzen zu erkennen, insbesondere wenn diese zur Beeinflussung von Entscheidungen verwendet werden könnten.
- ▸Führen Sie Schulungen für Mitarbeiter durch, die für die Analyse von öffentlichen Beiträgen zuständig sind, um sie für die Erkennung von Mustern zu sensibilisieren, die auf KI-generierte Inhalte hindeuten könnten.
| Taktik | Technik | Konfidenz | Beleg |
|---|---|---|---|
| Impact | T1498 Environmental Keying | Low | Philip Morris International nutzte Künstliche Intelligenz, um eine EU-Konsultation zu Tabakrichtlinien mit manipulierten Antworten zu überfluten. |
- Spezifische KI-Tools oder -Technologien, die von Philip Morris International verwendet wurden, sind nicht genannt.
- Die genaue Methode, wie die KI die Antworten generiert hat, ist nicht detailliert.
- Die genaue Anzahl der KI-generierten Antworten im Verhältnis zu den echten Antworten ist nicht spezifiziert.
- Die konkreten Auswirkungen auf die endgültige Gesetzgebung sind noch nicht bekannt.