Relatórios de IA · Anthropic · 2026-10-12 · Blog / comentário
Fortalecendo nossas defesas contra ataques de destilação
Título original: Strengthening our defenses against distillation attacks
A Anthropic afirma que novos métodos reduziram em cerca de 90 a 99% os dados coletados por ataques de destilação, segundo as primeiras evidências. Essas campanhas encobertas, em escala industrial, copiam sem autorização as capacidades de um modelo para outro, muitas vezes por meio de redes de contas fraudulentas, e a Anthropic teme que possam resultar em modelos lançados sem salvaguardas proporcionalmente robustas. O texto cita a Zhipu destilando as capacidades cibernéticas dos principais modelos dos EUA durante o desenvolvimento do GLM-5.3, que o CAISSI dos EUA avaliou como o modelo de pesos abertos com maior capacidade cibernética lançado até hoje.