Grammarly pulls AI author-impersonation tool after backlash
Writing tool Grammarly has disabled an AI feature which mimicked personas of prominent writers, including Stephen King and scientist Carl Sagan, following a backlash from people impersonated. The Expert Review function, which offered writi ... (https://incidentdatabase.ai/cite/1407#7124)
Grammarly hat eine KI-Funktion deaktiviert, die Personenprofile prominenter Autoren und Wissenschaftler nachahmte, darunter Stephen King und Carl Sagan. Die Funktion „Expert Review“ wurde nach Kritik der imitierten Personen entfernt. Der Artikel beschreibt ein Identitäts- und Einwilligungsrisiko, keinen klassischen Einbruch in Systeme.
Prominente Schriftsteller und Wissenschaftler, deren Personas nachgeahmt wurden; Grammarly-Nutzer und Grammarly als Anbieter.
KI-Funktionen, die reale Personen ohne Einwilligung imitieren, können rechtliche, Reputations- und Vertrauensrisiken erzeugen.
Ein SaaS-Anbieter muss eine Funktion zurückziehen und sieht sich Ansprüchen wegen unerlaubter Nutzung von Namen oder Personas ausgesetzt.
Vor Einführung persona-basierter KI-Funktionen Einwilligung, Rechteprüfung, Transparenz und Opt-out-/Entfernungsprozesse validieren.
- ▸Defensiver Check 1: Prüfen, ob KI-Produktfunktionen Namen, Stimmen, Stile oder Personas realer Personen verwenden.
- ▸Defensiver Check 2: Nachweise für Einwilligung und Rechteklärung vor Veröffentlichung solcher Funktionen kontrollieren.
- ▸Defensiver Check 3: Missbrauchs- und Beschwerdeprozesse testen, mit denen betroffene Personen eine Entfernung verlangen können.
- Technische Implementierung der Funktion ist nicht im Artikel angegeben.
- Ob Trainingsdaten oder nur Ausgabe-Personas betroffen waren, ist nicht im Artikel angegeben.
- Konkrete Sicherheitskontrollen von Grammarly sind nicht im Artikel angegeben.
- Kein Cyberangriff oder ATT&CK-relevantes Verhalten ist im Artikel beschrieben.