AI・信頼性・評価

破滅的忘却とは？LLMの継続学習の対策と、残る限界

2026/7/20 （更新: 2026/10/13）

🤖 AIを使用して執筆

「凍ったモデル」問題

重みが凍ったままのLLM（大規模言語モデル）へ新しい知識を届ける道は、学習の外側に二つある。プロンプトに入れるか、外部検索（RAG）で渡すかだ。追加学習で重みそのものを更新する道を避けるのは、その先に破滅的忘却（catastrophic forgetting）があるからだ。破滅的忘却とは、新しいタスクを覚える過程で元の一般能力や過去タスクの性能が崩れる現象である。重みの一部を直接書き換える知識編集もあるが、これは学習の外側ではなく重みを更新する側に属する。既存の編集手法は現在の信念を上書きする設計で、過去の知識を明示的には保たないと、後述の横断評価は位置づけている⁴。

理論上の原因は安定性と可塑性のジレンマである。新しいことを学ぶには重みを動かす可塑性が要るが、古い知識を保つには重みを動かさない安定性が要る。両者は衝突する。だから継続学習の研究者は、この衝突の扱い方を探ってきた。試してきた手立ては、更新を正則化で縛る、過去データを再生（replay）する、タスクごとにパラメタを分ける、などである。

事実の注入なら、忘却は抑えられる

肯定側には、数字まで具体的な証拠が一本ある。Metaの研究チームは疎メモリ微調整（sparse memory finetuning）を提案した¹。鍵は、更新を「メモリ層」のごく一部のスロットだけに絞ることだ。新しい知識に強く反応するスロットを、事前学習データでの使われ方と比べて選び、そこだけを動かす。すると新旧の知識の干渉が減る。結果、新しい事実を同じだけ覚えさせたとき、実際の検索質問から作られた事実QAベンチ NaturalQuestions のF1低下は、全微調整で89%、LoRAで71%、疎メモリでは11%にとどまった。低下幅は全微調整の八分の一ほどである。しかも、学習量を削って忘却を減らしたわけでもない。学習率やLoRAのrankまでスイープした比較で、疎メモリはベースラインより多く覚え、しかも忘却は少なかった（パレート優越）と原典は報告している。

ただしこの11%は、22層中12層目のFFNをメモリ層に差し替えた1.3Bのモデルで出た値だ。素のTransformerである現行の主要LLMに、そのまま載る手法ではない。比較の条件も、疎メモリにSGD・ベースラインにAdamWと手法ごとに最良のオプティマイザを当てたものだ（揃えても学習は同等で忘却は少なかったと著者自身は述べている）。原典はさらに、この事実の質問応答という土俵ではRAGが現行の自然な解だとも断っている¹。だが原典は同じ段落で、推論やコードのように検索が効きにくいタスクでRAGが適した解になるかは不明だとも書いている（on tasks like reasoning and coding where retrieval is difficult）。事実の学習を超えた複雑なタスクと、より大きなモデルへ結果を広げることを、原典は次の段階として残している¹。

別の研究もある。寄与の帰属（アトリビューション）を手がかりにする継続学習の手法 AGFT は、モデルの内部計算をLRP（層ごとの関連度伝播）で辿り、過去タスクに効いているパラメタを特定する²。そこは小さくしか動かさず、関係の薄いパラメタは自由に学ばせる。著者らは、ベースラインと比べて忘却を減らしつつ新タスクへの適応を保てると報告する。概念を10タスク続けて学ぶ Concept-1K では、Llama-3.2-3B-Instruct の平均が16.35で、逐次学習13.75・再生13.58・EWC13.33を上回った。7タスクの TRACE でも41.99対36.45（逐次学習）である。疎メモリのような桁違いの差ではなく、測った土俵も違う。TRACE の内訳は、金融文書理解・議事録要約・コード補完・科学QA・数値推論・長文理解である。手法は違うが、触ってよい重みを絞るという狙いは疎メモリと同じだ。

開かれたスキルには、抜きん出た手法が無い

では、覚える対象が一問一答の事実でないとどうか。ZhongらのSkillLearnBenchは、LLMエージェントが実タスクからスキルを自動生成し貯めていく能力を測る、初のベンチマークだ（2026年4月公開・COLM 2026 採択）³。ここでいうスキルとは、エージェントが課題をこなすために自分で書き起こすあつらえの手順書・作業フロー・ツールのことである。エージェントは、「この種の作業はまずAで下調べし、次にBを呼ぶ」といった再利用可能な段取りを、経験から生成して貯めていく。事実の一問一答とは、覚える対象の粒度がまるで違う。

結論は厳しい。20の検証済みタスク・15のサブ領域で複数の手法を比べると、どれもスキル無しのベースラインは上回るが、全タスク・全LLMを通して他手法を一貫して上回る手法は一つも無く、モデルを強くしても安定して効かなかった。しかも最良の手法でも、スキル無しと人手で書いたスキルの差の約45%しか埋められていない。手順が明確で再利用しやすいタスクでは伸びるが、開かれたタスクでは学習したスキルがかえって性能を下げうる。硬直した手順書がエージェントを縛りすぎるためだ。外部からのフィードバックなしに自己フィードバックだけで回すと、性能は再帰的にドリフトした。裏を返せば、外部からのフィードバックがあれば反復は実際の改善につながるとも同じ論文は報告しており、崩れるのは「自己完結させたとき」だ。原典は、生成したスキルをエージェントが採用するかと、そのスキルが実行を正しく導けるかの二つを分かれ目として名指ししている。いまの手法が最も落ちるのは、この二つだ。なお、比べられた手法はいずれも重みを更新せず、原典は「破滅的忘却の危険なしに」手順を貯められると書いている³。問われるのは重みではなく、貯めた手順書の質のほうだ。

時間で変わる知識では、多くの手法に忘却が残る

もう一つの難所は、知識そのものが時間で動く設定だ。Liuらは、タイムスタンプ付きの証拠で「知識が進化する」様子を再現し、継続微調整・知識編集・RAGを横断で評価した（2026年4月公開、掲載版は Findings of ACL 2026。評価データは2024〜25年で、評価対象モデルの知識カットオフがそれ以前であることを前提に組まれている）⁴。実運用では知識の時間的な射程が領域や配備先で変わるので、それに合わせて射程を調整すべきだと原典の Limitations は断っている⁴。標準ベンチが捉えない時間軸を入れると、vanilla RAGを含むほとんどの手法が苦戦した。既存手法の限界として原典が例に挙げたのが、過去の知識を失う破滅的忘却と、時期をまたぐと推論が食い違う時間的な矛盾である。

実際、過去の出来事を問う設問では、何もしないモデルの正答率45.95%に対し、知識編集（ROME）は10.81%、追加学習（LoRA）は35.14%まで落ちている（LLaMA-3.1）。原典はこれを忘却の兆候として読んでいる。ただし同じ設問では、重みを触らない vanilla RAG も10.81%まで落ちる（LLaMA-3.1）。検索側は新しい知識の設問で大きく伸びる一方、過去の設問では成績を落とすと原典自身も書いている⁴。同じ評価で、知識編集の WISE は過去の設問で46.85%と落ちていないが、新しい知識を一時点で問う設問では何もしないモデルと並んだままだ（11.11%対11.31%）。その設問で71.15%まで覚えた LoRA は過去を落とし、保てた WISE は覚えていない。

原典は、重みを更新する側に忘却が残る理由を、更新の当て方に求めている。パラメタを更新する手法はふつう一件ずつかバッチごとにモデルを更新するので、新しく入れた知識が元の知識と先の更新の両方を上書きしうる。そのぶん忘却は時間とともに積み上がる⁴。彼らが提案した時間を意識した検索（Chronos）は、追加学習なしで、過去の設問でも3つのモデルすべてで何もしない場合を下回らず（LLaMA-3.1で50.45%対45.95%）、新しい知識を一時点で問う設問にも92.40%答えた⁴。重みを触らずに検索の側で時期を整理した結果で、評価は原典自身が組んだベンチである。一方で、素朴に追加学習しても、素朴に検索しても、進化する知識には追いつけない。

この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。