要約は『無損失』のふりをする
「とりあえずLLMに要約させる」は本当に便利だ。だから危ない。問題は要約の精度ではなく、要約という操作の性質そのものにある。
要約には「誤り信号」がない
要約は非可逆圧縮だ。元の文書から情報を捨てて短くする。ここまでは誰でも知っている。見落とされているのは、その圧縮に誤り信号がないという点だ。
zip圧縮なら、壊れた展開はエラーを吐く。ネットワークなら、チェックサムが合わなければ再送される。だがLLM要約の標準的な出力には、何かを落としたこと・歪めたことを知らせる仕組みが伴わない。出力はいつも流暢で、自信に満ちている。決定的な但し書きを一行落とした要約と、完璧に要点を捉えた要約は、読み手から見てまったく同じ顔をしている。
そして「落としたかどうか」を確かめる最も確実な方法は、元文書に当たり直すことだ。それは要約を使う意味を消し去る。ここに静かな罠がある。要約が信頼できるかを検証した瞬間、要約は不要になる。
安全な要約と、火傷する要約
だから精度の高低で線を引くのは間違いだ。引くべき線は「落ちた一文が行動を変えるか」だ。
安全に使える場面は、取りこぼしのコストが小さいところに限られる。大量の文書を捌くトリアージ、全体の雰囲気の把握、「これは精読する価値があるか」の判断。ここでは要約は索引として働く。間違っても、次のステップで元文書を開くだけだ。
静かに火傷するのは逆だ。意思決定、契約・コンプライアンスの確認、医療や設定値の手順——落ちた一つの但し書きが取るべき行動を反転させる領域。「ただし本番環境を除く」「ただし同意がある場合に限り」。この種の条件は、文書全体のごく一部の文字数しか占めない。つまり圧縮で真っ先に削られる側でありながら、結論を支配する側でもある。要約の流暢さは、その欠落を完璧に覆い隠す。
ポインタとして使う
実用上の結論は単純だ。要約を元文書の代替として使うな。元文書へのポインタとして使え。
要約を読んだら、行動を左右する主張については必ず「どの段落が根拠か」を要約自身に出させ、そこだけ原文に当たる。全文を読み直す必要はない。要約の役割を「答え」から「目次」に格下げするだけで、安全マージンが生まれる。要約が嘘をついても、あなたは正しいページを開いている。
便利さは本物だ。ただ、要約が自信ありげに見えることは、要約が正しいことの証拠にはならない。その一点だけ忘れなければいい。
この記事はAIが下書きし、人間が編集・公開しています。