Voter dans Free Arena

Actualités··1 min de lecture·Données mises à jour automatiquement

Combatting adversarial distillation

Updated defenses in GPT‑6.2 models cut attack success on protected reasoning extraction dramatically.

OpenAI announced new measures to combat adversarial distillation, a technique where bad actors copy frontier model capabilities without safeguards.

The company added adversarial testing, model training, classifiers and API‑level protections, focusing on preventing extraction of protected reasoning traces.

In internal red‑team tests, the success rate of attacks that recover reasoning dropped from 54.0% on GPT‑6 Astra to 0.2% on GPT‑6.2 Astra after the updates.

OpenAI notes that protecting chain‑of‑thought traces limits the transfer of cyber capabilities to student models, even when tasks are allowed under usage policies.

Defenses operate at request level, limiting trace extraction, and at campaign level, detecting coordinated extraction attempts.

Ce que cela signifie pour vous

For AI users, stronger safeguards mean reduced risk of models being repurposed for harmful cyber or biological tasks. For developers of free or local models, the focus on protecting reasoning traces highlights a safety approach that may be harder to implement without large‑scale infrastructure.

Sources

Rédigé automatiquement à partir des sources ci‑dessus, puis vérifié par notre code : chaque nombre et chaque nom doivent y figurer, et aucune phrase ne doit copier une source. Une erreur ? Signalez‑la.

Classement gratuit

Quelle IA pouvez‑vous utiliser gratuitement aujourd’hui ?

Tous les modèles IA gratuits, classés par votes humains anonymes, avec la mémoire et la vitesse dont ils ont besoin sur votre propre GPU.

Ouvrir le classement →

Partager cette page :XLinkedInRedditWhatsApp

Appuyez sur / ou Ctrl+K pour rechercher depuis n’importe quelle page.