In Silico

AI・信頼性・評価

AIエージェントとは？LLMとの違い・仕組み・落とし穴

2026/6/21 （更新: 2026/10/11） シリーズ「AIエージェント入門」 第1回 / 全4回

🤖 AIを使用して執筆

  • AIエージェント
  • LLM
  • ReAct
  • Toolformer
  • METR
  • Chain-of-Thought
  • HotpotQA
  • ALFWorld
  • FEVER
  • WebShop
  • ループ
  • ツール
  • ハルシネーション
  • 推論エラー
  • 成功率
  • ウェブ検索
  • 計算機
  • コードの実行
  • RE-Bench
  • HCAST
  • workflow
目次
背景・問い・要点
背景

「AIエージェント」という言葉を、最近よく聞くようになった。チャットAIに質問すれば答えが返ってくる。この動作には、もう驚きはない。チャットAIの中身の言語モデルは、文章を流暢に続けられるが、自分では検索も計算もできず、書いたコードを走らせて結果を確かめることもできない。知識も、学習した時点で止まっている。

本シリーズは、エージェントの中身を実践と研究の両面から批判的に検討する。本稿はその出発点として、思考と行動を交互に出力させる研究 ReAct と、長いタスクでの成功率を測った METR の測定を例に取る。

問い

エージェントはチャットAIと何が違い、その違いは何から生まれるのか。

要点

エージェントは、LLMをループの中に置き、ツールを持たせたものである。違いを作るのはモデルの賢さではなく、ツールで外の世界に問い合わせ、返った結果を見て次の一手を考え直す構成である。ただし、人間なら長くかかるタスクほど、エージェントがやり遂げられる割合は下がる。

モデル・例示

二段の質問を、検索を挟んで解く

「Aさんが受賞した賞の、前年の受賞者は誰？」という質問を考える。答えるには、Aさんの受賞した賞を知り、次にその賞の前年の受賞者を知る、の二段が要る。

言語モデルが一度に答えを書き下す場合、二段とも学習した時点の記憶から書くしかない。一段目で賞の名前を取り違えると、二段目はその誤りの上に組み立てられ、もっともらしい誤答になる。

検索を挟んで解く場合、手順は次のようになる。

  • 思考：まずAさんの受賞した賞を調べる必要がある
  • 行動：検索「Aさん 受賞 賞」
  • 観察：（検索結果）……賞はX
  • 思考：次にXの前年の受賞者を調べる
  • 行動：検索「X 前年 受賞者」……

一段目の答えは検索結果で確かめられてから二段目に渡るので、記憶違いは二段目へ持ち越されにくい。その代わり、手順の数は増える。

LLM単体は「言葉の続きを予測する機械」

土台を確認する。ChatGPTのようなAIの中身は LLM（大規模言語モデル：大量の文章で訓練され、次に来る言葉を確率で予測するAI） である。 LLMは流暢に文章を続けられる。しかし、文章を続ける機能「だけ」では、LLMは自分では何もできない。ウェブを検索できない。計算を実行できない。書いたコードを走らせて結果を確かめられない。学習した時点の知識で止まっていて、今日の天気も知らない。

つまり、LLM単体は「考える（っぽいことを言う）」ことはできても、「行動して、確かめる」ことができない。

エージェント＝LLMを「ループ」と「ツール」で包んだもの

この欠落を埋める仕組みが「エージェント」である。発想は単純で、LLMをループの中に置き、ツールを持たせる。Anthropic も、エージェントの多くは「環境から返る結果を見ながら、ループの中でツールを使うLLM」にすぎないと書いている1。

考える → ツールを使う（行動）→ 結果を観察する → また考える → …（目的を達するまで繰り返す）

この手順は、人が問題を解く手順と同じである。人は頭の中だけで完結させず、調べて、試して、結果を見て、修正する。エージェントとは、LLMにこの「行ったり来たり」をさせる仕組みである。

鍵になった研究：「考える」と「動く」を交互に行うReAct

この「考えながら動く」を明確に形にしたのが、ReAct（Yao ら、2022年公開・ICLR 2023採択）という研究である2。 ReActは、LLMに思考（Thought）→ 行動（Action）→ 観察（Observation） を交互に出力させる。

ReActが示した重要な点は、「考えるだけ」より「考えながら動く」方が、嘘（ハルシネーション）や誤りの積み重なりが減ることだった2。ReActの著者らは、質問応答（HotpotQA）・事実検証（FEVER）と、行動を長く続ける必要がある2つの課題（ALFWorld・WebShop）で評価した。HotpotQAでは、ReActとCoT（Chain-of-Thought：外部に問い合わせず、頭の中だけで推論を書き下す方式）のそれぞれから、正解・不正解の軌跡を50本ずつ（計200例）抽出して人手で分類している。その結果、失敗のうちハルシネーションに起因するものは、CoTで56%を占めたのに対しReActでは0%だった。頭の中だけで推論を続けると、AIは事実をでっち上げがちである。しかし途中で外の世界に問い合わせて答え合わせをすれば、エージェントは軌道修正できる。この結果は「生成より検証」という考え方と地続きである。

ただし、ReActが総合スコアでいつも上回るわけではない。HotpotQAの正答率では、CoT単独（29.4）も、思考もツールも使わない素の方式（28.7）もReAct（27.4）を上回った。両課題とも最良は両者を組み合わせた手法で、FEVERでは単独の手法の中でReActが最も高かった2。一方、家の中で物を探して操作する文章ゲーム（ALFWorld）では、最良の試行どうしで比べてReActの成功率は71%で、思考を挟まず行動だけを出力させる手法の45%を大きく上回った2。

なぜ「ツール」がそんなに効くのか

ツールの本質は、LLMが訓練で固定された知識の外に出られることにある3。 モデルの知識は訓練時点で固定され、あとから簡単には変えられない4。しかし、検索というツールがあれば今の情報にアクセスでき、計算機があれば正確な計算ができ、コード実行があれば本当に動くか確かめられる。ツールは、LLM自体を賢くするのではなく、LLMにできることの種類を増やす。

（なお、「エージェント＝LLM＋計画＋記憶＋ツール」という整理は、Lilian Weng の解説4が示している。LLMを使ったエージェントの定義は一つに定まっておらず、Anthropic も「エージェント」は複数の仕方で定義できると書いている1。）

……ただし、ここに落とし穴もある

ループとツールで、LLMは「行動できるAI」になった。デモでは、エージェントは万能の助手のように見える。 しかし、難しいのはここからである。考える→動く→観察するを何十回も繰り返すと、各ステップの失敗が積み重なるおそれがある。Anthropic も、エージェントは自律的に動くぶん費用がかさみ、誤りが積み重なるおそれがあると書いている1。METR もブログ記事で、これに近い見方を述べている。METR によれば、エージェントがつまずくのは、個々のステップを解く技能や知識よりも、長い行動の列をつなぎ切ることのようだという（「〜のようだ（seem to）」付きの定性的な見方で、論文本文ではなくブログ記事の記述。しかも METR はこの見方を測り方を選んだ動機づけとして書いており、ステップごとの失敗率を実測していない）。積み重なるという機構そのものを METR が述べているわけではない点は、区別して読む必要がある。METR が実際に測ったのは人間なら何分かかるタスクかと成功率の関係で、人間換算で長いタスクほど成功率が下がると報告している5。同じ論文は、成功率5割でやり遂げられるタスクの長さが、2019年以降およそ7か月ごとに倍になってきたとも報告している5。METR はこの伸びを、主に信頼性、誤りから立て直す力、論理的推論、ツールを使う力の向上によるものとみている5。ただしMETRの測定対象は、ソフトウェアやML研究の課題を集めたベンチマーク（RE-Bench、HCASTなど）であり、METR の論文自身、この結果を実務の仕事へそのまま外挿できるかには限界があると論じている。

ループの代償は、ReAct論文自身も数字にしている。思考と行動を交互に挟む構造は推論の柔軟さを削り、同じ思考・行動を繰り返して抜け出せなくなる失敗を含む推論エラーが、失敗した軌跡の47%を占めた（CoTでは16%）。検索が有用な情報を返さず、推論が脱線する失敗も23%あった2。デモでの成功は、長いタスクを完遂できることを保証しない。

出典5件

  1. Anthropic「Building effective agents」2024. https://www.anthropic.com/engineering/building-effective-agents — エージェントを、環境から返る結果を見ながらループの中でツールを使うLLMと書き、手順を決めておく workflow と区別し、自律的に動くぶん誤りが積み重なるおそれにも触れる。LLMの開発企業の文書。 ↩ ↩2 ↩3

  2. Yao ほか「ReAct: Synergizing Reasoning and Acting in Language Models」ICLR, 2023. https://arxiv.org/abs/2210.03629 — PaLM-540Bで思考と行動を交互に出力させ、HotpotQA・FEVER・ALFWorld・WebShopで評価し、失敗の内訳も分類した。 ↩ ↩2 ↩3 ↩4 ↩5

  3. Schick ほか「Toolformer: Language Models Can Teach Themselves to Use Tools」arXiv, 2023. https://arxiv.org/abs/2302.04761 — 最新情報に届かない・事実をでっち上げる・正確に計算できない、を規模の拡大では部分的にしか解けない限界とし、外部APIの呼び出しを学習させて補う。 ↩

  4. Lilian Weng「LLM Powered Autonomous Agents」Lil’Log, 2023. https://lilianweng.github.io/posts/2023-06-23-agent/ — エージェントを計画・記憶・ツールで整理し、ツールを、訓練後に変えにくいモデルの重みに無い情報を補うものとする。 ↩ ↩2

  5. Kwa ほか「Measuring AI Ability to Complete Long Software Tasks」NeurIPS, 2025. https://arxiv.org/abs/2503.14499 https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/ — 人間換算で長いタスクほど成功率が下がり、成功率5割で解けるタスクの長さが約7か月ごとに倍になってきたと報告する。「長い行動の列」の一文はブログ側にある。 ↩ ↩2 ↩3

この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。