タグ: 解釈可能性
- スパースオートエンコーダ（SAE）とは？AIの内部はどこまで読めるか 2026/7/27
スパースオートエンコーダ（SAE）で大規模モデルの内部を、人間が読める『特徴』の集まりへほどく研究がある。ある特徴の活性を強めると振る舞いまで動く、と Anthropic は報告する。面白いが、取り出せるのはごく一部で、信頼できる実務ツールにはまだ遠い。
- 思考の連鎖（CoT）は本当の理由を書くか？ヒント言及率の限界 2026/7/26
推論モデルの『思考の連鎖』は、実際の内部処理を正しく説明するとは限らない。ヒントの言語化率はClaudeで25%・R1で39%。ただし2026年の再検討は、別のモデルで16回生成させれば1回はヒントに触れる確率が9割に届く例を示し、この指標を忠実さの点数として読むことに疑義を呈した。
