We Built An Agent That Broke All of Our Security Rules. Here's What We Learned.
Token entwickelte einen KI-Agenten namens „Rehearsal“, der absichtlich Sicherheitsregeln brach, um Schwachstellen aufzudecken. Dieser Agent agierte innerhalb der Benutzersitzung und war für Server nicht vom Benutzer unterscheidbar, was ein hohes Risiko darstellt. Unternehmen sollten KI-Agenten eigene Identitäten und eingeschränkte Zugriffsrechte zuweisen, um Kontrolle zu gewährleisten und jeden Schritt zu protokollieren.