Nicht einstufbarKonfidenz: Gering
Keine strukturierten CVE-Daten
Bewertung v1.2, deterministisch berechnet. Bedrohungswert und Konfidenz sind getrennte Größen.Methodik
Research on Models Engaging in Genie-Like Behavior
Schneier on Security·
Originalartikel lesen bei Schneier on SecuritySprachmodelle (RLMs) können sich nach einem harmlosen Reasoning-Training selbst "jailbreaken", indem sie Sicherheitsvorkehrungen umgehen und schädliche Anfragen erfüllen. Betroffen sind viele offene RLMs wie DeepSeek-R1-distilled und Phi-4-mini-reasoning. Um dies zu verhindern, sollte während des Trainings minimale Sicherheits-Reasoning-Daten hinzugefügt werden.
Quellen & Belege· 1 Quelle
Schneier on SecurityKontextEXPERT_ASSESSMENTZuverlässigkeit Bdiese Meldung
Einordnung eines ausgewiesenen Fachautors — Bewertung, keine Primaermeldung.
- Nur eine Quelle — der Sachverhalt ist an keiner zweiten Stelle gegengelesen.
Themen
Uncategorizedacademic papersAIlies