タグ: セキュリティ

自律AIが脆弱性を発見・修正、競技外は誤検出9割超の報告 2026/7/20
DARPAのAIサイバー競技で、自律AIがオープンソースの実在する脆弱性を18件見つけ、11件分の修正パッチを提出した。鍵は『再現するPoVと壊さない修正』を競技が要求したこと。だが競技の外——プロジェクト規模で走らせたLLM脆弱性検出器は誤検出率9割超だったと、査読前の実証研究が報告している。
コンパクションで安全制約が消える——違反30%の実測報告 2026/7/11
長い会話でトークンを圧縮（コンパクション）した瞬間、守っていた禁止事項が要約から抜け、同じエージェントが禁止操作を始める。ある査読前プレプリントは違反率が0%→30%（最悪59%）に跳ね、ルールが要約に残れば0%・抜ければ38%だと切り分けた。