In der Free Arena abstimmen

Nachrichten··1 Min. Lesezeit·Daten werden automatisch aktualisiert

Bekämpfung von adversarialer Destillation

Aktualisierte Abwehrmaßnahmen in GPT‑6.2-Modellen reduzieren den Erfolg von Angriffen auf geschützte Reasoning-Extraktion drastisch.

OpenAI announced new measures to combat adversarial distillation, a technique where bad actors copy frontier model capabilities without safeguards.

The company added adversarial testing, model training, classifiers and API‑level protections, focusing on preventing extraction of protected reasoning traces.

In internal red‑team tests, the success rate of attacks that recover reasoning dropped from 54.0% on GPT‑6 Astra to 0.2% on GPT‑6.2 Astra after the updates.

OpenAI notes that protecting chain‑of‑thought traces limits the transfer of cyber capabilities to student models, even when tasks are allowed under usage policies.

Defenses operate at request level, limiting trace extraction, and at campaign level, detecting coordinated extraction attempts.

Was das für dich bedeutet

For AI users, stronger safeguards mean reduced risk of models being repurposed for harmful cyber or biological tasks. For developers of free or local models, the focus on protecting reasoning traces highlights a safety approach that may be harder to implement without large‑scale infrastructure.

Quellen

Automatisch aus den obigen Quellen geschrieben, dann von unserem Code geprüft: Jede Zahl und jeder Name muss darin vorkommen, und kein Satz darf eine Quelle kopieren. Einen Fehler entdeckt? Melde ihn.

Kostenlose Rangliste

Welche KI kannst du heute kostenlos nutzen?

Jedes kostenlose KI‑Modell, bewertet durch blinde menschliche Stimmen, mit dem Speicher und der Geschwindigkeit, die es auf deiner eigenen GPU benötigt.

Rangliste öffnen →

Diese Seite teilen:XLinkedInRedditWhatsApp

Drücke / oder Strg+K, um von jeder Seite aus zu suchen.