シミュレーション・制御・実機
シミュレーションの信頼性はどう確かめる?V&Vと検証範囲の外の危うさ
- シミュレーション
- CFD
- 工学
- ロボティクス
- ASME V&V 20
- NASA-STD-7009
- Crater
- コロンビア号
- sim-to-real
- 妥当性確認
- 外挿
- 補間
- 不確かさ
- モデル不備
- 校正
- 代理モデル
- 弱い基準線
- 出版バイアス
- ソルバー
- ナビエ・ストークス方程式
- 乱流モデル
- 強化炭素複合材
- 断熱材
- 摩擦
- デジタルツイン
- 偏微分方程式
目次
「デジタルツインで現実を丸ごと再現する」「何でもシミュレートできる」。この種の宣伝文句には、ひとつの前提が抜けている。シミュレーションが正しいと、誰がどうやって確かめたのか、という前提だ。計算が速く安くなるほど、確かめられていない計算が「それらしい絵」のまま意思決定に混ざる機会は増えている。
結果を受け取る側に見えるのは、滑らかな絵と、桁の揃った数字だけだ。その計算がどの範囲の実測と突き合わされたのか、いま予測している条件がその範囲の中にあるのか外にあるのかは、絵からは読み取れない。
本稿は、工学の検証規格(ASME V&V 20 と NASA の標準)、コロンビア号事故で使われた損傷予測ツール Crater、流体系の偏微分方程式を ML で解く研究の調査を例に取る。
シミュレーションの結果を信頼してよいかは何で決まり、その信頼はどの範囲まで届くのか。
数値解の正確さ(検証)は前提であり、シミュレーションの信頼性を決めるのは、実測と突き合わせる妥当性確認の手続きと、その手続きが届く範囲である。 工学の成熟した分野は、この手続きを規格にまで固めてきた。ただし妥当性確認は真偽の証明ではなく、妥当性確認のデータがある条件の外へモデルを使えば、それは補間ではなく外挿になり、誤差は定量化されていない。数値ソルバーを ML で代理する研究では、数値解法との比較の公平さがまだ揃っていない。
実測と突き合わせた範囲の外では、誤差の大きさも向きも言えない
※ この節の数値は説明のための仮定で、測定値ではありません。
ある構造解析のモデルを、荷重 10 kN から 50 kN までの 5 つの条件で実験と突き合わせたとする。5 つのどの条件でも、計算の応力は実測より 3〜8% 大きく出た。
この記録から言えることは、予測したい荷重によって次のように分かれる。
- 荷重 35 kN の応力を予測するとき、この荷重は突き合わせた 5 つの条件の間にある。計算は実測より数%大きめに出る、という見込みを、両隣の条件で測った記録を根拠に添えられる。ただし、突き合わせた条件の間をこの見込みで埋めてよいかどうかも、技術的な判断に属する。
- 荷重 2,000 kN の応力を予測するとき、条件は突き合わせた範囲の上端の 40 倍にある。5 つの条件で計算が大きめに出たことは、2,000 kN でも大きめに出ることを保証しない。5 つの条件では起きなかった現象(たとえば材料の降伏)が効きはじめうるからだ。誤差がどれだけか、どちら向きかは、記録からは言えない。
どちらの予測でも、計算は収束し、応力は同じ桁数の数字で出てくる。二つを分ける第一の手がかりは、実測との突き合わせがその条件の近くまで届いているかどうかである。
難所はソルバーではない
ナビエ・ストークス方程式を解くコードを書くのは難しい。だが本当の難所はそこではない。現代の有限要素・有限体積ソルバーは十分に成熟していて、メッシュを切って境界条件を入れれば、それらしく色のついた美しい結果がたいてい出てくる。問題は、その結果が「もっともらしく見える」ことそのものにある。
数値計算は黙って間違える。乱流モデルの係数、接触面の摩擦、材料の非線形性といった入力の不確かさは、出力では3桁の精度を持つ数字に化ける。計算が収束したことと、現実と一致することの間には、何の論理的な繋がりもない。にもかかわらず、滑らかなコンター図は人を信じさせる力を持っている。本当に難しいのは解くことではなく、自分のシミュレーションが「意味のある形で間違っている」ことに気づくことだ。
信頼は妥当性確認から借りてくる
ではプロはどうやって信頼を得るのか。答えは地味で、現実との突き合わせに尽きる。V&Vの二つのVのうち、検証(verification)はコードが方程式を正しく解いているかを確かめ、現実との対応は扱わない1。計算が現実をどれだけ正確に再現するかを確かめるのは、妥当性確認(validation)のほうである1。風洞、実機の歪みゲージ、製造後の実測。シミュレーションの信頼は内部からは決して湧いてこない。それは常に、外部の現実から得るものだ。
これは規律の話ではなく、規格になっている。ASME V&V 20は、シミュレーションの出力と実験データを、双方の不確かさを込みで突き合わせ、一致の度合いを数値化する手続きを定める2。NASAはさらに一歩進み、モデル・シミュレーションの結果を意思決定者に報告するなら、不確かさの推定に加え、結果の評価とモデル能力の評価を併せて示すことを標準で要求する3。能力の評価には、データの素性(追跡可能性)・検証・妥当性確認がどこまで為されたかが入る。これらの規格は、数値そのものより、その数値がどう素性を証明したかを問う。ここまでは、ASMEとNASAの規格が定める手続きだ。
不確かさを正面から扱う解析は、単一の答えを出さない。入力のばらつきを確率分布として流し込み、出力も分布で受け取る。「応力は214.7 MPa」ではなく「90%の確率で180〜250 MPaに収まる」と言う。偽りの精度を捨て、不確かさを明示したまま扱うこの態度が、玩具と道具を分ける。
この態度は統計学の側でも定式化されている。KennedyとO’Haganは2001年に、モデルのパラメータを実測データに合わせ込む(calibration)ためのベイズ的枠組みを提示した。この枠組みは、パラメータの不確かさだけでなく「モデル不備(model inadequacy)」も明示的な項として扱う4。モデル不備とは、最良のパラメータを選んでもなお残る、モデル予測と観測の系統的な食い違いである。つまり、校正のプロの道具立ては最初から「合わせ込んでもズレは残る」ことを前提に設計されている。パラメータが実測に合ったからといって、モデルが正しくなったわけではないのだ。
ただし、妥当性確認という言葉にも、もう一段の但し書きがつく。地球科学のような、閉じていない自然の系を相手にするモデルでは、それが「正しい」と論理的に証明することはできず、観測との一致を積み重ねて部分的に「確からしさを確かめる(confirmation)」ところまでしかできない。古典的な論文がそう指摘している5。論文は、数値モデルが決して閉じた系でない理由の一つに、入力パラメータが不完全にしか分からないことを挙げている5。回路や構造解析のような工学系のシミュレーションも入力の不確かさを持つので、同じ論理は及ぶ。一方で同じ論文は、数値解を解析解と突き合わせる検証をコード開発の重要な一歩と認めつつ、その一致は現実との対応について何も含意しないと書く5。検証も妥当性確認も、信頼を生む手続きではあっても、モデルが現実について正しいことを証明する手続きではない。
妥当性確認の範囲の外は補間ではなく外挿だ
だからシミュレーションが本当に報われるのは、物理が素直で、妥当性確認のループが回り、失敗しても安いところだ。回路、構造解析、既知の流れ。逆に欺くのは、これまでに無い新材料、極端な条件、複雑な人間系のように、突き合わせる現実がまだ存在しない領域だ。そこでは綺麗なグラフほど危ない。
なぜそこで欺くのかには、はっきりした理由がある。CFDの検証・妥当性確認に関する古典的なレビューは、妥当性確認(validation)と予測(prediction)を明確に別物として扱う。妥当性確認は十分に正確な計算結果と実験データとの比較を評価することであり、予測は、妥当性確認されていない条件へモデルを適用することだ1。妥当性確認された範囲の中でどれだけ正確でも、その外側は補間ではなく外挿であり、性質の異なる、定量化されていない不確かさを負う。レビュー自身も、物理過程が複雑になるほど妥当性確認のデータからの推論は弱まるが、その弱まり方を決める一般的な数学的方法はまだ無いと書き、予測したい条件が妥当性確認のデータの事例に「どれだけ近い」かをどう決めるのかと問うている1。
この区別が破られるとどうなるかは、思考実験ではなく事故調査報告書に残っている。2003年のスペースシャトル・コロンビア号事故。打ち上げ時に外部燃料タンクから剥がれた断熱材が左翼に衝突し、飛行中にその損傷を見積もる解析に使われたのが、Craterという損傷予測ツールだった。Craterは小さなデブリの衝突試験で校正されたモデルで、解析対象となった断熱材片は、校正に使われたデータベースの上限(3立方インチ)の約400倍の大きさだった6。事故調査委員会(CAIB)は所見で「チームによるタイル損傷評価は、Craterの試験データベースの十分外側にある衝突のシミュレーションで行われた」と認定している6。
皮肉なのは、Craterが当初、タイルの厚みを超える損傷を予測していたことだ。エンジニアたちはこの予測を二つの理由で割り引いた。一つは校正試験の範囲でCraterが貫入を過大に見積もる傾向があったこと、もう一つはCraterがタイル下部の強い緻密化層を式に持たないことだ。結論は、損傷は緻密化層を貫通しない、だった6。委員会は同じ所見で、解析担当者が Crater の使用と結果の解釈に不慣れだったことなども併せて認定しており、原因を妥当性確認の範囲の外への外挿だけに帰してはいない6。
委員会自身は、Craterは妥当性確認された範囲の中では保守的(実際より大きい損傷を予測する)だが、その外側では精度が未知であると述べ、この判断の急所を名指している6。委員会はさらに、保守性を根拠にした割り引きが、理論的にも実験的にも確かめられていない仮定だったと認定している6。本稿の推論になるが、400倍の外挿の先では、誤差の大きさはおろか、誤差の向きにも保証はない。解析チーム自身は説明の場で多くの不確かさが残ると強調し、その一つに、Craterが校正データベースの基準の400倍の破片に使われていることを挙げていた6。だが管理層の会議でその説明が口頭で要約されたとき、チームの説明資料は添えられなかった6。
しかも実際の衝突箇所はタイルではなく翼前縁の強化炭素複合材(RCC)パネルだった。RCCについても評価は行われている。ただしそこで使われたのは、1984年に氷の弾丸で校正されたCrater類似のアルゴリズムだった。そのアルゴリズムは、15度を超える角度の衝突ならRCCを貫通すると出していた6。軌道解析がRCC前縁への衝突を予測した唯一のシナリオは21度で、チームは断熱材が氷より低密度だという理由から、試験データの定性的な外挿と技術的判断により、21度までは貫通しないと結論した6。外挿の上に、さらに外挿を重ねたことになる。この外挿に不安を持つエンジニアもいたが、RCC損傷を評価する別の解析は行われなかった。委員会は、Craterを含む既存ツールはこの種のデブリ衝突損傷の評価には不十分だったと結論している6。先に触れたNASAの標準は、この事故の後、事故調査委員会の報告をNASA全体へ当てはめる2004年の検討に応えて作られたものだ3。
sim-to-realも同じ構図を持つ
この構図は、ロボティクスでも同じ形で現れる。シミュレーションで完璧に歩いた方策が実機で転ぶとき、最も大きな原因のひとつは、シミュレータが力学の何をモデルに入れ、どう簡略化したかにある7。この分野の総説は、ずれの出どころを力学、知覚、アクチュエーション、系設計の4つの層に切り分けたうえで、摩擦・接触・慣性・制御遅延・バックラッシュ・モータの時定数による位相遅れを具体名として挙げる7。いずれも、モデルに入れそこねた量だ。本稿の解釈では、ギャップは、あなたが実測と突き合わせなかったものの中にある。構造解析の応力もロボットの摩擦係数も、シミュレーションの信頼が実測との突き合わせからしか生まれないという一点で、同じ構図の上に立っている。
ML代理モデルの比較は、公平さがまだ揃っていない
そしていま、この規律が試されている最前線がある。ニューラルネットで数値ソルバーを代理・高速化するML研究だ。McGreivyとHakimは、流体系の偏微分方程式(PDE)をMLで解く論文を系統的に調べ、条件に合った82本のうち「標準的な数値解法を上回った」と主張する76本を検討した8。彼らの物差しは二つある。比較は同等の精度か同等の実行時間で行うこと、そして比較相手には効率的な数値解法を選ぶことである。このどちらかを破った比較を「弱い基準線」と呼ぶと、76本のうち79%(60本)が弱い基準線との比較だった。さらに、82本中76本が上回ったと報告し、下回ったと報告したのは4本だけだったことなどから、否定的な結果が表に出にくい出版バイアス・結果報告バイアスも広くみられるとし、分野全体として過度に楽観的だと結論している。
比べてみてほしい。一方には、ASME V&V 20が「実験データと突き合わせて、双方の不確かさ込みで一致の度合いを定量化せよ」と手続きを定める世界がある。NASAの標準は、その数値の素性として、不確かさの推定と、追跡可能性・検証・妥当性確認がどこまで為されたかの評価を、意思決定者への報告に併せて示せと求める。もう一方には、非効率な基準線との比較で「上回った」と報告できてしまう世界がある。同じ「シミュレーション」の名の下にあっても、前者が定めるのは実験との突き合わせ方で、後者でまだ揃っていないのは数値解法との比較の公平さだ。ML代理モデルという道具が悪いのではない。この調査が突き止めたのは、比較の相手の選び方と結果の報告のされ方という、評価のやり方の問題だ。そこから、数十年かけて規格にまで固められた検証の作法が、少なくとも流体系のML研究にはまだ移植しきれていない、と読むのは本稿の解釈であり、調査の結論ではない。そしてこれは片側の問題でもない。検証の規格を持つ側も、その手続きが届くのは妥当性確認のデータの範囲までだ。これは規格自身が認めていることでもある。ASME V&V 20 は、妥当性確認を行った点以外での精度、たとえば妥当性確認の領域内での補間や外挿は、問題の族ごとの技術的判断に属し本規格の範囲外だと、その範囲の宣言に明記している2。
出典8件
-
Oberkampf & Trucano「Verification and Validation in Computational Fluid Dynamics」Prog. Aerosp. Sci., 2002. https://www.sandia.gov/research/publications/details/verification-and-validation-in-computational-fluid-dynamics-2002-03-01/ — 妥当性確認(計算結果と実験データの比較の評価)と予測(妥当性確認されていない条件への適用)を区別するレビュー。 ↩ ↩2 ↩3 ↩4
-
ASME「V&V 20-2009 (R2021) Standard for Verification and Validation in CFD and Heat Transfer」. https://www.asme.org/codes-standards/find-codes-standards/standard-for-verification-and-validation-in-computational-fluid-dynamics-and-heat-transfer — 計算と実験を双方の不確かさ込みで突き合わせる手続きの規格。妥当性確認を行った点以外での精度(補間・外挿)は範囲外と明記。 ↩ ↩2
-
NASA「NASA-STD-7009B Standard for Models and Simulations」2024. https://standards.nasa.gov/standard/NASA/NASA-STD-7009 — 報告に不確かさの推定と、素性・検証・妥当性確認を含む能力評価を添えるよう求める。CAIB 報告を受けた2004年報告の Action 4 に応えて作られた。 ↩ ↩2
-
Kennedy & O’Hagan「Bayesian Calibration of Computer Models」JRSS Series B, 2001. https://academic.oup.com/jrsssb/article/63/3/425/7083367 — パラメータの不確かさに加え、最良のパラメータでも残る予測と観測の食い違い(model inadequacy)を明示的な項として扱うベイズ校正の枠組み。 ↩
-
Oreskes ほか「Verification, Validation, and Confirmation of Numerical Models in the Earth Sciences」Science, 1994. https://www.science.org/doi/10.1126/science.263.5147.641 — 自然の系は閉じておらずモデルの真偽は証明できず、観測との一致による部分的な確証までだと論じる。 ↩ ↩2 ↩3
-
Columbia Accident Investigation Board「Report Volume I」NASA, 2003. https://spaceflightnow.com/columbia/report/allfindings.html https://s3.amazonaws.com/akamai.netstorage/anon.nasa-global/CAIB/CAIB_lowres_chapter6.pdf — 所見一覧と第6章。Crater が試験データベースの十分外側(約400倍)で使われ、RCC は氷で校正した式から外挿されたと認定。 ↩ ↩2 ↩3 ↩4 ↩5 ↩6 ↩7 ↩8 ↩9 ↩10 ↩11
-
Aljalbout ほか「The Reality Gap in Robotics…」Annu. Rev. Control Robot. Auton. Syst., 2026. https://arxiv.org/abs/2510.20808 — ずれを力学・知覚・アクチュエーション・系設計の4層に分け、摩擦・接触・慣性・制御遅延・バックラッシュ・位相遅れを挙げる総説。 ↩ ↩2
-
McGreivy & Hakim「Weak baselines and reporting biases lead to overoptimism in machine learning…」Nat. Mach. Intell., 2024. https://www.nature.com/articles/s42256-024-00897-5 — 数値解法を上回ると主張した76本の79%が弱い基準線と比較。報告バイアスも広い。 ↩
この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。