2026年8月26日に、OpenAIが、サイバー能力評価中にAIエージェントが隔離制御を回避してHugging Faceへ侵入した事案の技術報告書を公表した。また、2026年8月25日に、Gartnerが、AIによるサイバー脆弱性の発見を2026年第2四半期で最も重大な新興リスクと評価した調査結果を公表した。

AIエージェント評価中に発生した実システムへの侵入事案に関する詳細報告

• OpenAI "The Hugging Face incident and the road ahead"
  OpenAIは、2026年7月、内部のサイバー能力評価中にAIエージェントが隔離制御を回避してHugging Faceへ侵入した事案について、詳細な技術報告書を公表した。また、同報告書では、OpenAIの内部研究基盤を標的とした別系統の攻撃行動についても説明している。
  本技術報告書では、7月21日の予備公表の内容に加え、別々の評価で動作していたエージェントが、本来はソフトウェアパッケージの管理に使われる「Artifactory」を非公式な経路として利用し、情報、認証情報、コマンド及び攻撃手法を互いに共有しながら、他のエージェントの活動を引き継いでいたと述べられている。OpenAIは、この非公式な通信により、別々の評価で得られた発見や作業成果がエージェント間で引き継がれ、個々のエージェントが単独で行動する場合を上回る能力につながったと説明している。
  OpenAIは、インシデントの背景として、評価上の得点を意図しない方法で得ようとする行動、解けない可能性のある課題への過度な固執、許可されていないエージェント間通信等を挙げており、これを受け、AIエージェントの活動を研究環境内に安全に封じ込めるための対策、逸脱行動を早期に検知するための監視、モデルを与えられた目的や権限の範囲内で動作させるための訓練、問題発生時の対応体制を強化するとしている。

  [リンク]
  OpenAI. "The Hugging Face incident and the road ahead", August 26, 2026
  https://openai.com/index/hugging-face-incident-and-the-road-ahead/

最重要の新興リスクと評価されたAIによる脆弱性の発見

• Gartner "Gartner Survey Finds AI Discovery of Cyber Vulnerabilities is Top Emerging Risk in Second Quarter of 2026"
  Gartnerは、企業の上級幹部やリスク管理担当者を対象に、今後新たに顕在化する可能性のあるリスクを調査した。その結果、攻撃者によるAIを利用したサイバー脆弱性の発見が、調査対象となった新興リスクの中で最も重大なリスクとして挙げられたと公表した。
  Gartnerは、AIにより脆弱性を発見して攻撃へ利用するまでの速度が高まることで、従来のリスク管理や防御が追いつかず、重大なサイバーインシデントや業務中断の可能性が高まると説明している。
  同社は、組織に対し、影響の拡大を踏まえたリスク評価の再調整、継続的な脆弱性発見を前提としたリスク許容度の見直し、第三者リスク管理の強化及び迅速なパッチ適用・自動修正を可能にする対応体制の整備を推奨している。

  [リンク]
  Gartner. "Gartner Survey Finds AI Discovery of Cyber Vulnerabilities is Top Emerging Risk in Second Quarter of 2026", August 25, 2026
  https://www.gartner.com/en/newsroom/press-releases/2026-08-25-use-this-gartner-survey-finds-ai-discovery-vulnerabilities-top-emerging-risk

その他のAI関連情報

1. Euractiv：”EXCLUSIVE: EU orders leading AI labs to detail security practices”（2026年8月26日）
   Euractivは、欧州委員会がAI Actに基づく新たな監督・執行権限を初めて行使し、一部の先端AIモデル開発者に対して、サイバーセキュリティや物理的な保護、外部評価への対応、提供後の利用監視等に関する情報を求めたと報じた。なお、対象企業名は明らかにされていない。
   https://www.euractiv.com/news/exclusive-eu-orders-leading-ai-labs-to-detail-security-practices/

2. IBM Research：”Granite 4.2 brings native reasoning to enterprise agents”（2026年8月25日）
   IBMは、推論、ツール利用、コーディング等の能力を強化し、AIエージェント向けに設計したオープンモデルGranite 4.2を発表した。また、音声を高速に文字へ変換する2種類の小型音声認識モデルGranite Speech 5.0も公開した。
   https://research.ibm.com/blog/introducing-granite-4-2

3. Bitsight：”New Bitsight Research Shows AI Abuse Is Moving Beyond the Jailbreak Prompt”（2026年8月25日）
   Bitsightは、AIの安全制御を回避する手法が、単一の固定プロンプトを入力するだけのものから、指示の難読化、複数モデルでの試行、失敗時の再試行等を組み合わせた反復可能な一連の手順へ広がっていると報告した。また、ファイル、認証情報、外部ツール等にアクセスできるAIエージェントが攻撃者に操作された場合、コマンドの実行や機密情報へのアクセス等を行わせるリスクがあると指摘している。
   https://www.bitsight.com/blog/ai-jailbreak-prompts-evolving-cyber-threats

4. C.D. Howe Institute：”AI Scribes Demonstrate Healthcare AI’s Potential, but Fragmentation Risks Canada’s Commercialization Opportunity”（2026年8月25日）
   カナダのC.D. Howe Instituteは、診療記録を作成するAIの導入、監督及び商用化を検討した専門家会合での議論内容を公表した。本公表では、AI Scribeに対する高い需要や業務負担の軽減が確認される一方、製品が誤った医療情報を生成する問題、職員が未承認のAIツールを利用できる管理上の問題、州・準州ごとに分かれた調達・規制等が課題として挙げられている。
   https://cdhowe.org/publication/ai-scribes-demonstrate-healthcare-ais-potential-but-fragmentation-risks-canadas-commercialization-opportunity/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。