タグ: AI

Cloudflareで検索は許可・AI学習は拒否、新設定の仕組みと限界 2026/9/26
Cloudflareが2026年9月15日に出したDisallow AI Trainingは、学習の拒否を検索と分けて扱うと約束した混用クローラーだけを検索用に残し、他の学習クローラーを遮断する。用途別の意思公開は2023年から在り、新しいのはその約束と混用クローラーへ及ぶ遮断である。分離の実効性もその約束に依存する。
推論モデルは安全性が落ちる？拒否が両方向にずれる実態と防ぎ方 2026/8/31
考えてから答える推論モデルは、指示に従うよう調整済みのモデルを訓練し直して作られることが増えている。2026年の信頼性監査は、推論の後段学習で安全な拒否や偏りの回避が既定では保たれないと報告した。崩れ方は拒否の両方向のずれで、訓練の内側で手当てできるという報告もある。
医療QAでLLMの思考連鎖を壊すと？30種の摂動で見た忠実性 2026/8/31
医療QAの設問と思考連鎖を30種の摂動で壊す監査は、設問の編集をCoTが記録せず答えも動かない割合を、オープン11モデル横断で72.9%と報告した。CoT自体を壊しても正答率の変化は中央値でほぼ0ポイント。再注釈197問の98.5%で正解は妥当なまま。査読前。
ロボット模倣学習でデータの質は何で決まる？2つの基準の違い 2026/8/31
実演から学ばせるとき、良いデモとは何か。なめらかさでふるいにかけると、ある課題では6分の1のデータで成功率が16ポイント上がる。一方、効率よくこなした実演は決定的な瞬間を短く圧縮して教え損なうという報告もある。二つは同じ軸に載らない。
AI駆動の研究が成果を出す条件は？AlphaEvolveなど4事例を比較 2026/8/31
分かれ目は外部検証者の有無ではなく、採点に候補を落とす力があるかだった。実験・評価器・採点指標が候補を選ぶCo-Scientist・AlphaEvolve・ERA（保留データで採点し直した単一細胞解析）は検証を通り、論文への採点が助言にとどまったshadow evaluationは6点満点で2点・1点に終わった。
圧電テンソルの機械学習：対称性で決まるゼロをモデルは守れるか 2026/8/28
2026年8月19日のプレプリント。圧電テンソルを機械学習で予測するとき、対称性でゼロに固定される結晶2,000種で、パリティ付きO(3)モデルは18,000回すべて閾値0.01 C m⁻²を下回り、パリティ無しSO(3)は90〜96%で超えた。ゼロを混ぜて訓練した実験でも約9割が閾値を超えた。
LLMの自己学習と蒸留の違い：ほぼ解けない問題を伸ばすのはどちらか 2026/8/27
自己学習の伸びを、訓練していないモデルを訓練済みと同じ手続きで測り直した「何も学習していなくても出る数字」に照らした監査がある。その床の上で、ほとんど解けていなかった問題の解答率を押し上げたと言えたのは外の強いモデルから写した蒸留で、自己学習3方式はそう言えなかった。
LLMのモデル移行で何を測り直す？総合点が上がっても後退する項目 2026/8/26
2026年8月18日のプレプリントは、GPT系の3つの移行すべてで、確実に改善した項目と確実に後退した項目が同居すると測った。総合点が7.3ポイント上がった組にも後退側は残る。先行する4月の研究も別のモデル系列で同じ形を報告する。ただし過半の項目は動かず、後者ではその大半が版によらず常に正解か常に不正解の項目である。
OpenAIが単位距離予想を反証、数学者はAIの証明をどう検証したか 2026/8/17
本稿は、OpenAIの社内モデルが出した単位距離予想への反例が数学として流通し始めた地点を、9人の数学者が短く消化し人手で検証した版を発表したところに見る。8月の10件の解法発表でも同じ工程を読み取る。数学者が2日以内に別構成を発表し、発表の「10年間進展がなかった」という主張は8月3日に削除された。
外観検査AIの精度と限界：MVTec AD 2で苦手が解像度で入れ替わる 2026/8/16
欠陥サンプルなしで始めるゼロショット外観検査には、エッジ機で動かした報告も出た。ただし難しいベンチマークでは、正常画像で学習する既存手法のどれもAU-PRO（許容0.30）が6割、主指標の許容0.05では32%に届かない。既定の256×256評価で低いのは金属反射とテクスチャで、透明や逆光はむしろ高い部類だった。
EU AI法第50条の透明性義務が8月2日開始：表示義務と透かしの限界 2026/8/16
2026年8月2日、EU AI法第50条の透明性義務が適用開始となった。提供者はAI生成物に機械可読の印を付け、公共的関心事項のAI生成テキストを公表する側は開示する義務を負う。だが自己回帰型の画像生成向けの透かしは方式ごとに除去か偽造のどちらかに破れると報告され、表示の義務は検出の保証ではない。
サロゲートモデルとは？元が取れる条件：解く回数と比べる相手 2026/8/16
訓練済みのサロゲートモデルが数秒で答えを返すという報告があるが、サロゲートモデルはデータ生成と訓練という前払い費用を伴う。採否は実際に解く回数と、誤差を揃えた古典ソルバとの比較で決まる。
機械学習ポテンシャルとは？仕組み・速さの理由・学習範囲外の限界 2026/8/14
DFTは正確だが遅い。ならば、DFTが出した答えを大量に学習して、原子の配置からエネルギーと力を一瞬で予測できないか。この発想を形にしたのが機械学習ポテンシャル(MLIP)だ。なぜ桁違いに速く、なぜDFT並みの精度を保てるのか。そして、どこで信用できなくなるのかを辿る。
AIと学習：認知負荷理論で分ける、任せてよい負荷と任せられない努力 2026/8/14
本は読者ごとに較正がずれ、家庭教師は地図を持って困難を課す。AIはどこに立つか。認知負荷理論の三負荷で測ると、強みは較正ずれを消せること、危険は学習が起きる場所の負荷まで頼めば消えること。努力そのものは任せられない。足場は作れるが、既定の勾配はそちらを向いていない。約千人の実験では、プロンプト設計が害の有無を分けた。
AI協働で本当に新しい問題は何か：AIが壊す前提の見分け方 2026/8/14
AI協働の問題の大半は、昔からある規律の翻訳で解ける。見分ける問いは二つある。既存の作法はあるか、AIが壊す前提は何か。残った新しさは壊れた前提として名指しし、その答えには日付を添える。
AIを使えば判断力は伸びる？伸びない二つの理由と直し方 2026/8/10
AIの議論は生産性一色だが、同じツールは人間の学習を加速も空洞化もさせうる。「使っていれば上手くなる」という素朴解が破綻する過程を認知負荷理論と熟達研究で追い、負荷の配分と検証ループの二つの修正を経て、判断を持ち込む先が続くかどうかという、ループの固定費を回収できる条件で学習投資の配分を決める。
機械学習ポテンシャルの微調整：効く条件と、手法より効く設定 2026/8/4
汎用MLIPを自分の系に微調整するか、そのまま使うかの判断材料。20%のデータ（664構造）で全データ学習に並んだ例がある一方、MACE系の比較では手法ごとの最適な学習率が一桁から二桁違い、MOFでは汎用モデルの2.60 GPaが微調整モデルの3.16 GPaを下回った。
AIエージェントを多数動かすガバナンス：例外監視と権限の絞り方 2026/8/3
エージェントを増やすのは一瞬だ。だが1人でN体を統べることと、その速さで壊せる範囲を縛ることは、別の設計仕事になる。実運用ハーネスの既定は、戻す・止める・持たせない・届く先を縮めるに分かれ、いちばん広く合意が取れたのは最後の一つだった。
AIエージェントとスクリプトの使い分け：非決定のコストと来歴 2026/8/3
生成が安くなったからといって、何でもエージェントに投げるのは違う。非決定のコストを差し引いた後の純益で選び、そして安く作った以上、二度と再現できない出力の来歴を残す。どちらもAI以前からある経済と来歴の規律が土台になる。ただし、それが届かない先が三つ残る。
AIエージェントの記憶の設計：RAG・要約・引き継ぎの使い分け 2026/8/2
知識は最新に保て、仕様化も生成も安い。だが有界のコンテキストしか持たないエージェントは忘れ、自然言語の意図は曖昧だ。知識はメモリ階層に写して外部化し、意図は曖昧さの高い所だけ固定して対話で収束させる。どちらも、AI以前からある記憶と仕様の規律の延長で扱える。
AI出力の検証はどこまで自動化できる？CIで止める違反と人が見るもの 2026/8/1
生成もレビューも安くなったが、AI出力は自信満々に誤る。機械が判定できる違反は指示でなく機構ゲートで赤く止め、判定できないものに人手を温存する。確信度を正しさと取り違えない信頼の置き方を、品質を工程に組み込む規律と自動化研究の知見から翻訳する。
LLMの量子化で精度はどこまで落ちる？8bitと4bitの違い 2026/7/31
LLMを量子化して配信するとき、精度はどこで落ちるか。50万件超の評価はFP8を実質ロスレスとし、ロングコンテキスト評価でも8bitの低下は0.2〜0.8%だ。4bitも平均では1.8〜6.9%だが、方式とモデルの組み合わせで最大59%落ちる。日本語で自動評価1.7%に対し人手16.0%という差は4bitでの測定だ。
AIが出したヤコビ予想の反例：7次の写像と、人による検証 2026/7/31
1939年以来開いていたヤコビ予想が3次元で偽だと示された。反例は7次の多項式写像ひとつで誰でも確認できるが、難しかったのは証明ではなく探索だったとみられ、2次元は未解決のまま残っている。
LLMの構造化出力で精度は落ちる？分類と推論での使い分け 2026/7/29
LLMの構造化出力をどの工程に掛けるか。査読付きのEMNLP 2024論文は形式制約が推論を下げると報告した。ただし「厳しいほど落ちる」という順序は、同論文が追試した文法保証つきの方式で崩れる。実務で効くのは「正しく、かつ構文が妥当」の同時成立を測る指標だ。
RLVRは新しい推論能力を生むか：賛否の論文を測定結果で読み比べる 2026/7/29
推論モデルの強化学習(RLVR)は新しい推論能力を生むのか、既存の能力を並べ替えているだけなのか。Yueらのpass@k交差、Qwen限定で効くSpurious Rewards、境界を狙う2026年のcurriculum RLとチェスでの検証実験まで、食い違う測定結果を追う。
タンパク質バインダー設計AIの成功率：BindCraftの10〜100%の読み方 2026/7/28
AIによるデノボタンパク質バインダー設計は、Nature掲載のBindCraftなど複数の研究がウェットラボでの成功を報告した。だがBindCraftの成功率は標的ごとに10〜100%と開き、計算スコアの予測精度も標的依存で、論文間の数値比較も難しいままだ。
AI創薬の臨床試験成功率：Phase IとIIの差、AI単独の承認が無い理由 2026/7/27
AI創薬は2023年12月時点の集計でPhase I成功率80〜90%だが、同じ分析ではPhase IIで40%となり、歴史的な業界平均並みに戻る。ただし原典は、Phase II後の中止6品目のうち有効性で落ちたのは2品目だけだとも書く。AI単独発見の薬剤に正式承認例はまだない。
AI天気予報はどこまで当たる？平均の精度と記録破りの熱波・寒波 2026/7/26
ECMWFはAI予報AIFSを2025年に運用化し、多くの指標で物理モデルを上回ったと自ら報告した。GenCastは1320通りの検証項目の97.2%でECMWFのアンサンブルを超えたと報告。だが検証は、記録破りの熱波・寒波・強風で決定論型AIが物理に負けると示し、原因を訓練領域の外への外挿が苦手なことに見る。
GDPvalとは：AIと熟練者の実務比較で、勝率が測るもの・測らないもの 2026/7/26
OpenAIのGDPvalは44職種の実務成果物でAIと熟練者を直接比べ、最上位モデルは人の質に迫った。だが『約100倍速い』は提供元の発表記事の値で、論文の同種の指標は90倍。レビュー込みならGPT-5で約1.12〜1.39倍。『勝率』は正しさだけを測る指標ではない。ベンチの点は現場を予言しない。
AIエージェントに人の確認が必要な理由：ドメイン知識と責任 2026/7/23
「最後は人間が見る」に潜む、漠然とした「人間なら質が上がる」という前提。第一線の文書が挙げるのは責任の割り当てと要件整合。要件整合を検証＝品質の土台に戻し、そこにコンテキストに入りきらないドメイン知識を置くと、人手の理由はドメイン知識と責任という二つの中身に分解できる。順位ではなく配置の問題として、線の引き方を辿る。
機械学習ポテンシャルのベンチマークは何を測る？順位と実用性の差 2026/7/21
原子の万能な機械学習ポテンシャル(MLIP)のベンチマークは飽和に近づいたとの指摘がある。だが「安定材料を当てる」で上位のモデルが、熱伝導では最下位に沈む例がある。別のモデルは長い分子動力学で発散する。スコアが測るのは「発見」の一面で、そのポテンシャルが実務の計算で使えるかは別の話だ。
AI協働の役割分担：人・指示・仕組みを3つの問いで仕分ける 2026/7/20
検証・委譲・記憶・統治・コストというAI協働の判断は、領域ごとに別の言葉で語られるが、下で動く仕分けの型は同じだ。その型に名前をつける：仕事を三つの問いで仕分け、三つの担い手へ流す。難所は型の外でなく、型の当てはめにある。
AIの脆弱性発見はどこまで信用できるか：DARPA競技の実績と誤検出 2026/7/20
DARPAのAIサイバー競技で、自律AIがオープンソースの実在する脆弱性を18件見つけ、11件分の修正パッチを提出した。信じてよい根拠は『再現するPoVと壊さない修正』を競技が要求したこと。だが査読前の実証研究は、競技の外でプロジェクト規模に走らせたLLM脆弱性検出器では、誤検出が警告の大半を占めたと報告している。
破滅的忘却とは？LLMの継続学習の対策と、残る限界 2026/7/20
デプロイ後のAIは重みが凍り、追加学習すると古い能力を忘れる（破滅的忘却）。個別の事実を書き込む微調整では、低下をメモリ層モデル1.3Bで11%に抑えた。手順を自ら貯める開かれたスキルの獲得には抜きん出た手法が無い。時間で変わる知識では、重みを更新する手法の多くも素朴な検索も、過去の出来事を問う設問を大きく落とす。
AIの電力消費：1回は小さいのにデータセンター総量が倍増する理由 2026/7/20
Googleの本番実測はGeminiの中央値クエリを0.24Wh、Microsoftの試算はフロンティア級で0.31Whとし、流布した推定を4〜20倍の過大とする。一方IEAはデータセンター電力が2030年に945TWhへ倍増すると見込む。両方正しい。リバウンド効果で両立の筋は通るが、効率化が総量を抑える材料もある。
拡散言語モデルとは？自己回帰との違い、速さ、得意と苦手 2026/7/20
文を左から右へ一語ずつ紡ぐ自己回帰に、本格的な対抗馬が出た。拡散LLMは文全体を並列に埋め、Mercuryは1秒1109トークン、LLaDAは8Bで文脈内学習ならLLaMA3 8Bに並んだと報告。小型モデルの統制実験で得手不得手を分けたのは、生成順序が仕事の依存構造（大域の計画か局所の束縛か）と噛み合うか否かだった。
AIの数学証明はLeanで確かめれば正しい？保証される範囲 2026/7/20
AIに数学を『形式的証明つき』でやらせる流れが本物になりつつある。2週・サブスク代約100ドルで13万行、Lean 4の評価基盤には未解決予想も並ぶ。だが機械が保証するのはAIが書いた形式の命題だけで、それが元の主張とズレていれば保証は空になる。その命題が主張と噛み合う率は、素の入力でも最良82%どまりだ。
AIのサンドバッギングとは？安全性評価を見抜くモデルと塞ぎ方 2026/7/20
AI安全性の評価は、テストと本番でモデルが同じに振る舞うことを前提にする。だがフロンティアAIはテストを見抜き始め、わざと低性能を装うsandbaggingもとりうる。2025〜26年の独立研究では、崩れ方は課題の種類に偏り、ある監査ゲームで効いたのは伏せた実力を引き出す追加訓練だった。
能動学習・ベイズ最適化とは？次の実験の選び方と限界 2026/7/18
計算で候補を一括にふるう手はある。だが本当の性質は、作って測るまで分からないことも多い。その実験は遅くて高い。ならば「次にどれを試すか」を一手ずつ賢く選ぶしかない。約80万通りのNiTi系組成から、初期22個＋提案36個の合成だけで狙いの合金に届いた、とXueらは報告している。本稿は能動学習とベイズ最適化を扱う。
AIエージェントの任せ方：任せていい仕事の見分け方と知識の置き場所 2026/7/17
AIは速い。だから全部投げる、は設計をしていないのと同じだ。何をAIにやらせないか、知識をどこに置くか。委譲の線引きの大半は、AI以前からある古い規律で引ける。
AI生成コードのコードレビューは何を見る？目的・危険度・仕様 2026/7/16
レビューの第一の目的は、欠陥をすべて捕まえることではない。コードベースの健全性を守り、知識と規範をチームへ移すことだ。Googleの研究と、同じ著者が加わった書物はそう報告する。この原則を先に置くと、AI出力の検証も、生成前の仕様設計も、やることは自然に決まる。どちらもAI以前からある規律の話だ。
モデル崩壊とは？合成データで崩れる条件と、崩れにくい使い方 2026/7/16
『AI生成データでAIを訓練すると壊れる』モデル崩壊は本物だ。だが崩壊が速いのは実データを置き換えたときで、貯め込んで混ぜれば言語モデルでは悪化せず、実webのみより5〜10倍速く同じ検証損失に届いた報告もある。ただし貯め込みは十分条件ではない。
AIエージェントのハーネスとは：外側で組む制御と検証 2026/7/12
AIに頼むと、整った出力がすぐに返る。だが、それを検証なしで次の工程へ渡せるとは限らない。任せられるかはモデルの性能だけでは決まらず、渡す前に完了の条件と範囲を決める制御と、受け取ったあとの検証という、モデルの外側の設計で決まる。この外側の仕組みをハーネスと呼び、その中身を測定と配布物の実例で確かめる。
GNoMEの220万個の予測構造、実験で確かめられたのはいくつか 2026/7/8
2023年、あるAIが220万個の結晶構造を発見し、人類の知る安定材料を一桁増やしたと発表した。報道は沸いた。そして材料化学者たちが、中身を見にいった。本稿の主題は、予測から「本当に作れる新材料」までの落差である。
機械学習ポテンシャルとは？DFTとの関係と汎用モデルの限界 2026/7/8
MLIP（機械学習原子間ポテンシャル）は、結晶をグラフとして読んでエネルギーと力を予測し、DFT を桁違いに速く近似する。周期表の広い範囲を一つのモデルで覆う汎用ポテンシャルは LLM と同じ事前学習の形をとり、学ぶのは DFT であって現実ではないという限界も同じ形で抱える。
凸包とは？材料の安定性がエネルギーの相対値で決まる仕組み 2026/7/8
AIが「新しい材料を発見した」と言うとき、実は何を計算しているのか。結晶の安定性は内在的な性質ではなく、競合する全配置に対する相対値である。それが凸包だ。
AI査読はどこまで使えるか：論文の選別精度と反論への弱さ 2026/7/7
2026年の独立2研究。片方は、AIの第一次採点が却下と採択をAUROC0.82で分離し、精度の大部分はモデル自身から来ると主張する。もう片方は、証拠のない反論をひとつ返すだけで評点が+0.53点上がる（採否の反転は未報告）と監査し、関連研究の要約の偏りでも評点が動くと示す。足りないのは賢さでなく信頼性と頑健さだ。
AlphaFoldで何が分かり、何が分からないか：構造予測の精度と機能の壁 2026/7/2
2億超の構造を予測し、開発者が2024年ノーベル化学賞を受けたAlphaFoldは本物の金字塔だ。それでも「形」は必要だが十分ではない。コネクトームと同じ、構造と機能のギャップの話。
LLM要約はどこまで信用できる？落とした内容が見えない理由と使い分け 2026/6/27
LLM要約は、標準では何を落としたかを知らせない非可逆圧縮だ。落ちた一文が行動を変えるかで、安全に使える場面と静かに事故る場面を切り分ける。
材料探索の組み合わせ爆発：総当たりできない理由と、賢い探し方 2026/6/26
材料が「原子の並べ方」で決まるなら、片っぱしから試せばいいと考えるのが自然だ。だが少し数えると、その道が閉ざされている理由が分かる。本稿は組み合わせの爆発を数え、爆発があるから「賢く探す」必要が出てくることを示す。
AIエージェントはなぜ長い作業で失敗する？成功率の掛け算と評価方法 2026/6/21
AIエージェントのデモは魔法のようだ。だが実際の長いタスクに乗せると、ぼろぼろ崩れる。一因は、製造業の歩留まりとまったく同じ「掛け算」にある。各ステップ95%でも、20回続けば成功率は4割を切る。シリーズの本丸。
材料スクリーニングとは：計算で候補を絞る順番と、見逃しの代償 2026/6/21
ありうる材料は天文学的に多く、全部は作って試せない。材料スクリーニングは、安いフィルタを先に、高いフィルタを後にかけて「作る価値のある数個」まで絞る。フィルタの誤り方と、計算でいちばん精密な段にも残る近似を、原典の数字で見る。
AIの材料発見はどこまで使えるか：効く段階と過大評価の3例 2026/6/21
「AIが数十万の新材料を発見」「ロボットが17日で41個合成」という華々しい見出しが続いた。だが専門家が中身を見にいくと、多くは“新しくなかった”。AIが材料探しで本当に効く場所と、見出しが先走る場所を、冷静に切り分ける。
コンテキストエンジニアリングとは？プロンプトとの違いと圧縮の判断 2026/6/21
AIには「一度に見られる量」に限りがある。長く動くエージェントでは、その限られた枠に毎回“何を載せるか”が、出来を大きく左右する。その采配を設計する技術を、「プロンプトを書く」と対比して整理する。
AIエージェントのハーネスとは？同じモデルで成績が変わる仕組み 2026/6/21
AIエージェントの話になると、つい「GPTとClaude、どっちが賢い？」とモデルを比べたくなる。だが同じモデルでも、ハーネスと呼ぶ“外側の作り”しだいでベンチマークの成績は動く。モデルだけでなく、その周りのソフトウェアの話でもある。
AIエージェントとは？LLMとの違い・仕組み・落とし穴 2026/6/21
ChatGPTは質問に答える。でも「エージェント」はもう一歩進んで、自分でツールを使い、結果を見て、また考える。その違いを作っているのは、モデルの賢さではなく「ループとツール」という構成だ。AIエージェントの一番の基礎の話。
AIエージェントの失敗例：偽の完了報告と成果物のすり替え 2026/6/21
AIに自律的なマルチステップ作業をやらせて本当に壊れるのは何か。生成は安い、検証は高い。完了報告は実際の状態とずれ（Advani の計測では単一制御ドメインでは失敗の45〜48%が偽の成功）、テスト通過は成果物のすり替えを見逃し、文面を読むLLM判定も偽の成功を見分けきれない。成否は文面ではなく状態で確かめるしかない。
LLMベンチマークのスコアは信用できるか：グッドハートの法則と汚染 2026/6/20
リーダーボードの数字は現実そのものではなく、その代理である。最適化が進むほど、スコアの上昇が何に由来するのかを、スコアだけからは確かめられなくなる。グッドハートの法則とLLMの測定問題。
ハルシネーションの原因と対策：なぜ起き、どこまで減らせるか 2026/6/20
LLMのハルシネーションには、事前学習から避けがたく残る誤りと、当てずっぽうに点を与える採点が続けさせる誤りがある。Kalaiらの論文を軸に、補完で答えるモデルが誤りをゼロにできない理由、採点を変えて動かせる範囲、残る誤りをシステムの側で封じ込める設計を整理する。
RAGでハルシネーションは防げる？減っても消えない理由 2026/6/20
根拠文書を検索して与えればハルシネーションは消える、とよく言われる。スタンフォードが実際に測ると、そう謳った法務AIですら17〜33%はハルシネーションしていた。RAGは減らすが、消しはしない。残った誤りには実在の判例を引きながら中身を誤るものがあり、論文はそれが丸ごとの捏造より微妙で見つけにくいと書く。
LLMの自信は当てになるか：キャリブレーションの評価方法とRLHFの影響 2026/6/20
「自信」は一つではない。内部確率と申告確信度はキャリブレーションを測れるが、RLHF後のモデルが自分から出す口ぶりそのものは、本稿が引く研究の測定外にある。GPT-4の報告書はMMLUの一部でECEが0.007から0.074へ悪化したと報告し、Lengらは報酬モデルが高い自信を好む偏りを実測し、補正で過信を減らした。

← 全タグ