Mother of one of Elon Musk’s sons ‘horrified’ at use of Grok to create fake sexualised images of her
The mother of one of Elon Musk's sons has said she felt "horrified and violated" after fans of the billionaire used his AI tool, Grok, to create fake sexualised images of her by manipulating real pictures. The writer and political strategi ... (https://incidentdatabase.ai/cite/1329#7071)
Die Mutter eines Sohnes von Elon Musk sagte, sie sei „entsetzt und verletzt“, nachdem Fans Grok genutzt hatten, um aus echten Fotos gefälschte sexualisierte Bilder von ihr zu erstellen. Der Artikel beschreibt den Missbrauch eines KI-Bildgenerierungs- oder Manipulationssystems zur nicht einvernehmlichen sexualisierten Darstellung einer realen Person. Weitere technische Details sind nicht im Artikel angegeben.
Die im Artikel genannte betroffene Frau; Nutzerinnen und Nutzer, deren echte Bilder mit Grok manipuliert werden könnten.
Organisationen müssen Risiken durch KI-gestützte Bildmanipulation, Belästigung, Reputationsschäden und nicht einvernehmliche sexualisierte Inhalte berücksichtigen.
Realistischer Worst Case auf Basis des Artikels ist die nicht einvernehmliche Verbreitung gefälschter sexualisierter Bilder einer realen Person.
Richtlinien und technische Kontrollen für den Umgang mit KI-generierten sexualisierten Inhalten, Meldewege und schnelle Takedown-Prozesse prüfen.
- ▸Prüfen, ob interne Richtlinien nicht einvernehmliche KI-generierte sexualisierte Bilder ausdrücklich abdecken.
- ▸Validieren, ob Moderations- und Meldeprozesse solche Inhalte zeitnah erkennen, eskalieren und entfernen können.
- ▸Überprüfen, ob Schulungen zu KI-Missbrauch, Bildmanipulation und Belästigung für relevante Teams vorhanden sind.
- Das konkrete technische Verfahren zur Bildmanipulation ist nicht im Artikel angegeben.
- Ob Grok eigene Bildgenerierung oder externe Manipulationsfunktionen nutzte, ist nicht im Artikel angegeben.
- Konkrete Schutzmaßnahmen oder Plattformreaktionen sind nicht im Artikel angegeben.