メニュー
Methodology from Anthropic research for converting LLM activations into human-readable natural language text using a reconstruction-based training loop with Activation Verbalizer and Activation Reconstructor.
デフォルトでは、最初にソースを確認する Prompt が選択されています。直接コマンドに切り替えるか、ローカルコピーをダウンロードすることもできます。
インストールを決める前に、SKILL.md と SkillsMP に表示されている付属ファイルをお読みください。
Codex または Claude でインストール この Prompt をコピーして Codex、Claude、または他のアシスタントに貼り付けると、Skill ページを確認してインストールできます。
直接コマンドでは確認用 Prompt が省略されます。実行前にソースを確認してください。
npx skills add https://github.com/hiyenwong/ai_collection --skill natural-language-autoencodersコマンドは1行のまま表示されます。コピー前に横へスクロールして全体を確認してください。
ローカルで確認しますか？SkillsMP が現在取得できるファイルをダウンロードできます。
SKILL.md を表示中
| name | natural-language-autoencoders |
| category | ai_collection |
| description | Methodology from Anthropic research for converting LLM activations into human-readable natural language text using a reconstruction-based training loop with Activation Verbalizer and Activation Reconstructor. |
| tags | ["anthropic","interpretability","autoencoders","llm","activation-engineering"] |
Methodology from Anthropic research (May 7, 2026) for converting LLM activations into human-readable natural language text.
NLAs train a language model to explain its own activations in natural language. The key innovation is a reconstruction-based training loop: we don't know what thoughts an activation encodes, so we train a model to work backwards — reconstruct the original activation from the text explanation.
Three copies of the same language model:
Training: The AV + AR form a round trip: original activation → text explanation → reconstructed activation. Score = similarity between reconstructed and original activation. Both AV and AR trained together using standard AI training techniques.
NLA, natural language autoencoder, activation verbalizer, interpretability, activation engineering, LLM thoughts, evaluation awareness
SOC 職業分類に基づく
