“굴러 이X아”…KBS, AI 욕설 자막 생중계 참사
KBS가 아르테미스 2호 발사 생중계 도중 발생한 비속어 자막 노출 사고에 대해 공식 사과했다. 2일 KBS는 유튜브 커뮤니티에 “미국 항공우주국(NASA)의 생중계 과정 중 AI를 통한 실시간 번역 자동 생성 과정에서 단어 발음 유사성으로 인해 일부 단어가 비속어로 잘못 번역됐다”면서 “비속어로 잘못된 문구가 노출된 점 시청자 여러분께 진심으로 사과드린다”고 밝혔다. 앞서 KBS는 2일 아르테미스 2호 발사 장면을 생중계 ... (https://incidentdatabase.ai/cite/1446#7127)
KBS entschuldigte sich für ein Live-Untertitelproblem während der Übertragung des Artemis-2-Starts. Laut KBS wurde im automatischen KI-Übersetzungsprozess aufgrund ähnlicher Aussprache ein Wort fälschlich als Beleidigung übersetzt. Der Vorfall betrifft die Qualität und Kontrolle automatischer Live-Übersetzung.
KBS-Zuschauer der Artemis-2-Liveübertragung und KBS als ausstrahlende Organisation.
Fehlerhafte KI-Liveübersetzungen können reputationsschädigende Inhalte veröffentlichen, obwohl kein klassischer Cyberangriff beschrieben wird.
Eine Organisation sendet beleidigende oder falsche Inhalte live aus und erleidet Vertrauens- und Reputationsschäden.
KI-Liveuntertitel mit menschlicher Aufsicht, Sperrlisten für problematische Begriffe und Nachkontrollen für sensible Sendungen absichern.
- ▸Defensiver Check 1: Prüfen, ob Live-KI-Untertitel vor Veröffentlichung durch Moderations- oder Verzögerungsmechanismen kontrolliert werden.
- ▸Defensiver Check 2: Testfälle mit ähnlich klingenden Begriffen und problematischen Wörtern in der Übersetzungspipeline validieren.
- ▸Defensiver Check 3: Eskalations- und Abschaltprozesse für fehlerhafte Live-Untertitel während Sendungen üben.
- Verwendetes KI-System ist nicht im Artikel angegeben.
- Technische Ursache über die Ausspracheähnlichkeit hinaus ist nicht im Artikel angegeben.
- Ob personenbezogene Daten betroffen waren, ist nicht im Artikel angegeben.
- Es wird kein Cyberangriff beschrieben; MITRE-ATT&CK-Techniken sind daher nicht eindeutig ableitbar.