magnitude-direction-verifier-split

name	magnitude-direction-verifier-split
description	Separa o sinal de melhoria do agente em dois componentes independentes: magnitude (o quanto o modelo acredita que uma mudanca importa, extraida de self-distillation delta, log-ratio, atencao, ou confianca interna) e direcao (para onde a mudanca deve ir, determinada por verificador externo, testes, ou revisao humana). Combina magnitude × direcao em um plano de correcao ponderado: gaste esforco de correcao onde o agente tem conviccao FORTE e o verificador confirma a direcao; reduza ou escale quando a direcao e incerta. Previne information leakage (agente aprende a imitar formato sem substancia) e overconfidence collapse (self-distillation puro sem verificacao externa). Usar ao projetar loops de melhoria de agente, ao implementar self-distillation com verificacao, ao calibrar feedback de producao, ou quando o agente produz outputs com formato correto mas conteudo errado. Dispara com: 'magnitude direction', 'verifier split', 'trust but verify', 'confidence direction', 'correction weight', 'self-distillation verifier', 'RLSD', 'magnitude signal', 'direction signal', 'weighted correction', 'verification gate', 'confidence extraction', 'model confidence + verifier', 'split correction plan', 'audit trail magnitude'.
license	MIT
compatibility	opencode
metadata	{"audience":"agent-implementers","workflow":"evaluation","priority":"high","source":"The Imitation Game — State of Policy Distillation in Language (Pattern 6: Magnitude-Direction Verifier Split)"}

What I Do

Eu formalizo o principio "trust but verify" para loops de melhoria de agentes. Em vez de tratar o sinal de aprendizado como um bloco unico (o modelo diz X, portanto corrija para Y), eu separo dois sinais que tem fontes, confiabilidades e mecanicas diferentes:

1. Magnitude -- extraida do modelo internamente. Responde a pergunta: "onde o agente acredita que a mudanca importa?" E um sinal de intensidade: quao forte e a conviccao do modelo sobre quais partes do output sao relevantes para o outcome. Fontes de magnitude incluem:

   • Delta de self-distillation: diferenca entre a distribuicao do modelo com e sem informacao privilegiada
   • Log-ratio: log(P_privilegiado / P_sem_privilegio) por token
   • Hotspot de atencao: tokens ou passos que receberam atencao desproporcional do modelo
   • Intensidade de discordancia: variancia entre multiplos rollouts do mesmo agente para o mesmo prompt
   • Score de confianca interna: probabilidade atribuida pelo modelo a propria saida

2. Direcao -- determinada por um verificador externo. Responde a pergunta: "a mudanca deve ir para frente ou para tras?" E um sinal de sinal (positivo/negativo) e classe (correcao/reforco/neutro). Fontes de direcao incluem:

   • Verificador determinista: testes, asserts, validacao de schema, diff contra expected output
   • Avaliador externo: outro modelo, agente, ou council que avalia o output sem acesso a confianca interna do agente
   • Revisao humana: aprovacao, rejeicao, ou correcao manual
   • Metrica de producao: outcome observado (ex: usuario clicou, compra concluida, ticket resolvido)

O plano de correcao ponderado combina os dois:

correction_weight(token, step) = magnitude(token, step) × direction_signal(token, step)

onde direction_signal e +1 (reforcar), -1 (corrigir), ou 0 (neutro/incerto). O resultado e um plano que concentra esforco de correcao onde o modelo TEM conviccao (magnitude alta) E o verificador CONFIRMA a direcao (direction definida). Onde a magnitude e alta mas a direcao e incerta, o plano escala para revisao humana em vez de aplicar uma correcao as cegas.

A audit trail registra separadamente a evidencia de confianca (de onde veio a magnitude) e a evidencia de correcao (de onde veio a direcao), permitindo investigar por que uma correcao foi aplicada -- se foi por conviccao do modelo, por verificacao externa, ou por ambos.

When to Use Me

Carregue esta skill quando:

• Voce esta implementando self-distillation em um agente e quer prevenir information leakage (o agente aprende a imitar o formato de saidas com informacao privilegiada sem realmente entender o conteudo)