Vota in Free Arena

Notizie··1 min di lettura·Dati aggiornati automaticamente

Contrastare la distillazione avversaria

Le difese aggiornate nei modelli GPT‑6.2 riducono drasticamente il successo degli attacchi all'estrazione di ragionamento protetto.

OpenAI announced new measures to combat adversarial distillation, a technique where bad actors copy frontier model capabilities without safeguards.

The company added adversarial testing, model training, classifiers and API‑level protections, focusing on preventing extraction of protected reasoning traces.

In internal red‑team tests, the success rate of attacks that recover reasoning dropped from 54.0% on GPT‑6 Astra to 0.2% on GPT‑6.2 Astra after the updates.

OpenAI notes that protecting chain‑of‑thought traces limits the transfer of cyber capabilities to student models, even when tasks are allowed under usage policies.

Defenses operate at request level, limiting trace extraction, and at campaign level, detecting coordinated extraction attempts.

Cosa significa per te

For AI users, stronger safeguards mean reduced risk of models being repurposed for harmful cyber or biological tasks. For developers of free or local models, the focus on protecting reasoning traces highlights a safety approach that may be harder to implement without large‑scale infrastructure.

Fonti

Scritto automaticamente dalle fonti sopra, poi controllato dal nostro codice: ogni numero e nome deve comparire, e nessuna frase può copiare una fonte. Hai trovato un errore? Segnalalo.

Classifica dei modelli gratis

Quale AI puoi usare gratis oggi?

Tutti i modelli AI gratuiti, classificati da voti umani anonimi, con la memoria e la velocità necessarie sulla tua GPU.

Apri la classifica →

Condividi questa pagina:XLinkedInRedditWhatsApp

Premi / o Ctrl+K per cercare da qualsiasi pagina.