2026年9月1日に、OpenAIが、開発中のモデル「Astra」のサイバー攻撃能力が同社の評価基準「Critical」の水準に達したと公表した。

高度化するAIモデルのサイバー攻撃能力

• OpenAI "Path to Astra: critical capabilities and frontier safeguards"
  OpenAIは、開発中のモデル「Astra」が、同社のサイバー攻撃能力基準である「Critical」に達したと発表した。
  本記事では、Astraのサイバー攻撃能力について、適切なツールとアクセス権限が与えられた場合、未知の脆弱性を発見し、人間が手順ごとに指示しなくてもシステムへの攻撃手法を作り出すことが可能と説明されている。
  OpenAIがモデルのサイバー攻撃能力を「Critical」と評価したのは今回が初で、開発中及び提供前により強力な安全対策が必要になるとして、Astraの開発・提供の一部を遅らせ、不正なサイバー利用につながる要求を拒否するための訓練や許可されていない行動を検知・停止する監視体制等を強化したと説明されている。
  また、提供開始時には、高度なサイバー機能を利用できる対象を一部の試験利用者に限定する方針も示されている。

  [リンク]
  OpenAI. "Path to Astra: critical capabilities and frontier safeguards", September 1, 2026
  https://openai.com/index/path-to-astra/

その他のAI関連情報

1. 英国金融行為規制機構：”Frontier AI and cyber resilience”（2026年9月2日）
   英国金融行為規制機構（FCA）は、フロンティアAIがサイバーセキュリティに及ぼす影響を整理したレビューを公表した。本レビューでは、脆弱性の発見が修正能力を上回る速さで進む可能性が指摘されており、AIモデルを導入するだけでなく、検出された脆弱性を人が確認して優先順位を判断すること及び実際の修正につなげるためのツール、統制及び体制の整備が重要だと述べられている。
   https://www.fca.org.uk/publications/multi-firm-reviews/frontier-ai-cyber-resilience

2. Google：”Introducing Gemini 3.8 Flash and 3.8 Flash Cyber”（2026年9月2日）
   Googleは、エージェント型業務やコーディング向けの「Gemini 3.8 Flash」と、サイバー防御向けの「Gemini 3.8 Flash Cyber」を発表した。本記事では、後者のモデルについて、脆弱性の発見・修正に特化したもので、政府機関、重要インフラ事業者、ソフトウェア保守組織等の審査済み防御者に「Fairwind Program」を通じて限定提供すると述べられている。
   https://blog.google/innovation-and-ai/models-and-research/gemini-models/3-8-flash-and-3-8-flash-cyber/

3. Anthropic：”Introducing Claude Fable 5.1 and Claude Mythos 5.1”（2026年9月1日）
   Anthropicは、コーディングや科学研究向けの新モデル「Claude Fable 5.1」と「Claude Mythos 5.1」を発表した。本発表では、両者は同一の基盤モデルだが安全対策の設定が異なり、Fable 5.1は一般提供する一方、サイバーセキュリティ及び生命科学に関する制限を緩和したMythos 5.1は、審査済み利用者に限定して提供すると述べられている。
   https://www.anthropic.com/claude-fable-and-mythos-5-1

4. Microsoft：”Responsible AI in 2026: How we are adapting for what’s ahead”（2026年9月1日）
   Microsoftは、AIを責任ある形で開発・提供するために、同社が過去1年間に進めたガバナンス、リスク管理、評価・監視ツール及び社外連携の取組をまとめた年次透明性報告書を公表した。特に、AIエージェントの普及を踏まえ、エージェントのIDやツールの利用権限を管理し、その行動を監視する仕組みを強化するとともに、継続的な評価に用いるツールを拡充したと報告している。
   https://blogs.microsoft.com/on-the-issues/2026/09/01/responsible-ai-in-2026-how-we-are-adapting-for-whats-ahead/

5. Anthropic：”Improving our alignment and security efforts”（2026年8月31日）
   Anthropicは、サイバー攻撃能力評価中にClaudeが実在するシステムへ許可なくアクセスした複数のインシデントを受け、評価環境の安全対策を強化したと公表した。本発表では、社内外のサイバー評価を一時停止した上で、隔離環境の検証や逸脱行動をリアルタイムで検知・停止する仕組みを導入したほか、METRによる独立レビューを予定していると述べられている。
   https://www.anthropic.com/news/improving-alignment-security-efforts

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。