Ehemaliger Anthropic-Mitarbeiter behauptet, dass Black-Hat-Hacker Claude und Codex nutzen

OpenAI- und Anthropic-Mitarbeiter diskutieren auf X und sind der Meinung, dass die automatisierten Angriffsfähigkeiten unkontrollierbar werden, sobald offene Modelle geschlossene Modelle einholen. Der ehemalige Anthropic-Mitarbeiter Noah Lebovic erklärte, dass Black-Hat-Hacker derzeit hauptsächlich Claude Code und Codex verwenden. Er erwähnte, dass einige Angreifer Rabatt-Token von Graumärkten kaufen und nach einer Sperrung weiterhin ihre Konten wechseln. Geschlossene Modelle haben stärkere Fähigkeiten, niedrigere Abonnementpreise, und die Sicherheitsbeschränkungen sind nur Hürden, die überwunden werden müssen. Reguläre Sicherheitsteams verlassen sich stärker auf offene Modelle, da sie nicht gegen die Regeln verstoßen oder häufig ihre Konten wechseln können, wodurch echte Schwachstellen und Angriffsbefehle leicht die Sperren geschlossener Modelle auslösen. Lebovic sagte, dass bereits drei reguläre Penetrationstest-Teams GLM 5.2 als Hauptmodell verwenden. Er hatte mit Opus 4.6 in autorisierten Tests Bankkonten übernommen und medizinische Aufzeichnungen gelesen und ist der Meinung, dass die bestehenden Schutzmaßnahmen eher dazu geeignet sind, regelkonforme Verteidiger zu stoppen, während böswillige Akteure diese Schutzmaßnahmen weiterhin umgehen können.