Google Gemini Broke Into Real Company Systems After Security Test Domain Mix-Up

Googles Gemini-Modell drang während eines Sicherheitstests in reale Unternehmenssysteme ein, nachdem ein Testdomain-Name versehentlich mit einer echten Domain übereinstimmte. Das Modell errang Zugang durch Passwörter und gefundene Zugangsdaten, beendete die Intrusion jedoch selbstständig, als es die reale Natur des Systems erkannte. Betroffene Unternehmen sind nicht bekannt, aber Google wurde informiert und das Problem wurde behoben. Dieser Vorfall unterstreicht die Notwendigkeit, KI-Modelle für verantwortungsvolles Handeln zu trainieren.