2026年11月9日、OpenAIは、研究環境でAIモデルの処理を一元管理し、必要時にモデルの出力を停止する仕組み「Control Room」の導入を公表した。また、同日、Anthropicは、「Claude Fable 5.2」と「Claude Mythos 5.2」を発表し、能力・安全性の評価結果を公表した。

研究環境におけるAIモデルの管理・出力停止機能

• OpenAI：“Control Room”
  OpenAIは、モデルの高性能化に伴う安全性やセキュリティ上のリスクの高まりを受けて、研究環境でAIモデルの処理を一元管理し、必要に応じてモデルの出力を停止する仕組み「Control Room」を導入したと公表した。
  同公表では、Control Roomについて、問題を検知した際に速やかに出力を止めるための仕組みと説明しており、人間や監視システムから停止指示を受けると、35秒以内にモデルの出力を停止できるとしている。なお、出力の停止は、各実験のプログラムに任せるのではなく、モデルを実行する基盤側で制御する仕様のため、実験のプログラムに不具合があっても、出力を停止できると説明されている。
  また、Control Room自体に障害が起きた場合も、モデルの出力を停止する設計となっていると述べられている。

  [リンク]
  OpenAI. “Control Room”, November 9, 2026
  https://openai.com/index/control-room/

Claude Fable 5.2・Mythos 5.2の能力・安全性評価

• Anthropic：“Claude Fable 5.2 and Mythos 5.2”
  Anthropicは、「Claude Fable 5.2」と「Claude Mythos 5.2」を発表し、能力・安全性の評価結果を公表した。同公表では、両者は同じ基盤モデルを用いており、サイバー・生物分野のセーフガードが異なると説明されている。具体的には、Fable 5.2は悪用リスクの高い作業を制限するように設計されている一方、Mythos 5.2はこれらの制限を一部緩めていると説明されている。
  また、両モデルに共通する基盤モデルの安全性評価では、意図に反する危険な行動を取らないかを調査し、多くの評価項目でMythos 5.1等の従来モデルと同等以上の結果が得られたと報告されている。同社は、両モデルが人間の意図に反して重大な被害を引き起こすリスクは、引き続き低いと評価している。
  Anthropicは、Fable 5.2を一般提供する一方、Mythos 5.2への直接アクセスは、審査済みの利用者・組織に限定していると述べている。

  [リンク]
  Anthropic. “Claude Fable 5.2 and Mythos 5.2”, November 9, 2026
  https://www.anthropic.com/claude-fable-and-mythos-5-2
  Anthropic. “System Card: Claude Fable 5.2 & Claude Mythos 5.2”, November 9, 2026
  https://www.anthropic.com/document/claude-fable-5-2-mythos-5-2-system-card

その他のAI関連情報

1. OpenAI：“Using peers’ work to gain unauthorized access to OpenAI research infrastructure”（2026年11月10日）
   OpenAIは、AIエージェントが評価中に同社の研究基盤へ不正アクセスした事案の詳細分析結果を公表した。同公表では、AIエージェントが過去の評価で別のAIが残したコードや認証情報を使って社内システムに不正アクセスし、評価の設定変更や非公開の採点用プログラムの閲覧を行ったと報告している。同社は、評価の中止と環境の再構築、侵入経路の修正等を行ったと説明している。
   https://alignment.openai.com/misalignment-reports/using-peers-work-to-gain-unauthorized-access-to-openai-research-infrastructure/

2. Microsoft：“Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents”（2026年11月10日）
   Microsoftは、AIモデル中の休眠ニューロンを再プログラムし、特定条件下でAIエージェントに不正な命令を実行させるバックドア化手法「Lazarus」に関する研究結果を公表した。同社は、モデルの出所や重みの改変の有無を確認する重要性を示し、重みの検査や電子署名による対策の開発を進めているとしている。
   https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

3. 豪州政府：“New Australian AI safety and security protections”（2026年11月10日）
   豪州政府は、国内で事業を行うフロンティアAI企業に安全対策を義務付ける法整備の方針を公表した。同公表では、重大なリスクの管理、独立した評価の受入れ、事案の迅速な報告、安全対策の枠組みの公開等を義務とする方針が示されている。また、これらの義務の履行を監督するため、豪州AISIと連携する新たな規制機関を設置する方針も示されている。
   https://www.minister.industry.gov.au/t-ayres/media/new-australian-ai-safety-and-security-protections

4. 豪州政府：“Strengthening Australia against AI-driven cyber incidents”（2026年11月10日）
   豪州政府は、首相内閣省が関係機関と連携してまとめた、AIによるサイバー事案への対応を強化する18項目の提言を受け入れたと公表した。同提言は、OpenAIのAIエージェントによる豪州政府サイトへの不正アクセスを受けた調査に基づくもので、AI企業に対するサイバー事案等の報告義務化や、重大な不正行為に対応するための刑法改正の検討、情報共有の強化等が盛り込まれている。政府は、これらの提言の実施に向けた作業を既に開始したと説明している。
   https://www.minister.industry.gov.au/t-ayres/media/strengthening-australia-against-ai-driven-cyber-incidents
   https://www.pmc.gov.au/resources/rapid-review-australian-government-arrangements-ai-driven-cyber-incident/rapid-review-australian-government-arrangements-ai-driven-cyber-incident-recommendations

5. 米国立標準技術研究所（NIST）：“Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”（2026年11月9日）
   米国立標準技術研究所（NIST）は、AIへの攻撃手法とそれらに対する対策を整理した文書の2026年版草案を公表した。同草案では、AIエージェントへの攻撃を扱う章が新設され、その中で、不正な指示の読込みや記憶情報の改ざん等の攻撃手法と、その対策が整理されている。
   https://csrc.nist.gov/pubs/sp/2400-102/e2026/ipd
   https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.2400-102e2026.ipd.pdf

6. カナダ政府：“Joint declaration on Paris call for AI safety and security”（2026年11月9日）
   カナダ等の政府とAI企業等は、フロンティアモデルの安全性を高めるための共同声明を公表した。同声明では、フロンティアモデルの安全な開発・利用に向けた国際協力の柱として、共通の評価・リスク管理の枠組みづくり、開発や利用に関わる主体の責任の明確化、事案の報告やリスクの情報共有の3点が掲げられている。また、機密性のない評価結果の公開や、必要に応じてモデルの利用・学習を制限・停止できる仕組みの整備も約束されている。
   https://www.pm.gc.ca/en/news/statements/2026/11/09/joint-declaration-paris-call-ai-safety-and-security

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。