Vote na Free Arena

Notícias··1 min de leitura·Dados atualizados automaticamente

Combatendo a destilação adversarial

Defesas atualizadas nos modelos GPT‑6.2 reduziram drasticamente o sucesso de ataques na extração de raciocínio protegido.

OpenAI announced new measures to combat adversarial distillation, a technique where bad actors copy frontier model capabilities without safeguards.

The company added adversarial testing, model training, classifiers and API‑level protections, focusing on preventing extraction of protected reasoning traces.

In internal red‑team tests, the success rate of attacks that recover reasoning dropped from 54.0% on GPT‑6 Astra to 0.2% on GPT‑6.2 Astra after the updates.

OpenAI notes that protecting chain‑of‑thought traces limits the transfer of cyber capabilities to student models, even when tasks are allowed under usage policies.

Defenses operate at request level, limiting trace extraction, and at campaign level, detecting coordinated extraction attempts.

O que isso significa para você

For AI users, stronger safeguards mean reduced risk of models being repurposed for harmful cyber or biological tasks. For developers of free or local models, the focus on protecting reasoning traces highlights a safety approach that may be harder to implement without large‑scale infrastructure.

Fontes

Escrito automaticamente a partir das fontes acima, depois verificado pelo nosso código: todo número e nome deve aparecer nelas, e nenhuma frase pode copiar uma fonte. Encontrou um erro? Reporte‑o.

Ranking dos grátis

Qual IA você pode usar grátis hoje?

Todo modelo de IA gratuito, classificado por votos humanos cegos, com a memória e velocidade que ele precisa na sua própria GPU.

Abrir o ranking →

Compartilhe esta página:XLinkedInRedditWhatsApp

Pressione / ou Ctrl+K para pesquisar de qualquer página.