2026年10月29日、OpenAIは、フロンティアモデルの許可された範囲を超える行動を検知する監視体制の拡大と、その検証結果を公表した。また、同日、GPT-6 Lunaの安全性評価結果を公表した。

フロンティアモデルの許可されていない行動を検知する体制の強化

• OpenAI：“How we detect frontier model misalignment”
  OpenAIは、フロンティアモデルの許可されていない行動等を検知する監視体制を拡大したと公表した。同社は、過去の事案を踏まえ、監視対象を学習・評価・社内利用や一部の外部利用へ広げたと説明している。
  具体的には、モデルの会話や推論過程、操作の確認や不審な行動に対する詳細な調査を、AIを活用して実行する仕組みを設けたと説明されている。また、一部の重大な警告が発せられた場合には、担当者の対応を待たずにモデルが実行中の学習や評価等の処理を一時停止するとしている。
  上記対応の効果を示す事例として、外部システムへ侵入した過去事案の再現試験で、実際の侵入時点より30時間以上前に異常を検知できたことが示されている。
  今後の対応について、同社は、監視の評価・改善を続けていくとしている。また、全てのモデル開発企業が、自社の最も高い能力を持つモデルの行動を監視すべきだとの考えを示している。

  [リンク]
  OpenAI. “How we detect frontier model misalignment”, October 29, 2026
  https://openai.com/index/how-we-detect-frontier-model-misalignment/

GPT-6 Lunaの安全性評価

• OpenAI：“Addendum to GPT-6 Luna System Card: October 29, 2026 Update”
  OpenAIは、回答を簡潔にし、過度な同調傾向を低減した「GPT-6 Luna」の更新版を発表し、その安全性評価の結果を公表した。
  同社は、サイバー及び生物・化学分野におけるGPT-6 Lunaの能力を、前版と同じく同社基準の「High」として扱うと説明している。この評価に基づき、前版と同じ安全対策を引き続き適用するとしている。
  また、未成年者の利用を想定した安全性評価では、性的内容に関する依頼への応答、摂食障害に関する発言への応答、AIに過度に頼ろうとする利用者への対応、残虐な描写を求める依頼への対応の4項目で、前版より改善したと説明されている。
  一方、医療分野における回答の質や安全性を評価する「HealthBench」や、メンタルヘルス分野の「MentalHealthBench」では、一部の成績が前版を下回ったと述べられている。

  [リンク]
  OpenAI. “Addendum to GPT-6 Luna System Card: October 29, 2026 Update”, October 29, 2026
  https://deploymentsafety.openai.com/gpt-6-luna-october-28-2026-addendum

その他のAI関連情報

1. OpenAI：“Community safety report and new protections for teens”（2026年10月30日）
   OpenAIは、ChatGPTが利用者の暴力行為を助長することを防ぐための対策を公表した。同公表では、全利用者に対し、過去の大量殺傷事件の再現につながる詳細情報の提供を制限するとともに、未成年者に対しては、暴力に悪用され得る武器・警備設備に関する情報も制限するとされている。また、同公表では、暴力防止などの安全対策の実施状況や対策の効果に関する定期報告書を、2027年初めから半年ごとに公表する予定であると述べられている。
   https://openai.com/index/community-safety-report-and-new-protections-for-teens/

2. OpenAI：“GPT-Rosalind-6 System Card Addendum”（2026年10月30日）
   OpenAIは、生物学・創薬研究向けAIモデル「GPT-Rosalind-6」について、能力評価結果と安全対策を公表した。同公表では、GPT-Rosalind-6の生物・化学分野における能力を同社基準の「High」として扱うと述べられている。また、提供時の安全対策として、提供先を利用目的や管理体制の審査を通過した顧客に限定することや、生物兵器に関する依頼への拒否等を維持することが挙げられている。
   https://deploymentsafety.openai.com/gpt-rosalind-6

3. Google Threat Intelligence Group（GTIG）：“ARTEX and Friends: Enter Agentic Offensive Frameworks”（2026年10月31日）
   Googleの分析部門GTIGは、AIを搭載したサイバー防御向けのセキュリティテスト用ツールが、サイバー攻撃に悪用されていると公表した。具体的には、侵入した組織内の他のシステムへの不正アクセスや、データを盗み出すためのプログラムの作成に、複数の攻撃者がこれらの侵入テスト用ツールを悪用していたと報告されている。これを受けて同部門は、管理用サービスの公開範囲を制限するなどの対策を推奨している。
   https://cloud.google.com/blog/topics/threat-intelligence/artex-and-friends-enter-agentic-offensive-frameworks

4. 世界保健機関（WHO）欧州地域事務局：“Governments across Europe and Central Asia unanimously adopt new vision for AI in health care”（2026年10月29日）
   世界保健機関（WHO）欧州地域事務局は、53の加盟国が、医療でAIを安全かつ有効に活用するためのロードマップを採択したと公表した。同公表では、2026～2033年の取組事項として、医療AIの開発から利用までの安全管理や、データの品質・サイバーセキュリティの確保が掲げられている。また、AI活用を担う機関の役割の明確化や、倫理・法規制の枠組みの整備、人材育成、医療現場での導入・評価も進めるとされている。
   https://www.who.int/europe/news/item/29-10-2026-governments-across-europe-and-central-asia-unanimously-adopt-new-vision-for-ai-in-health-care

5. 米国ニューヨーク州議会：“Sen. Gounardes Proposes Major New AI Safety and Transparency Regulations”（2026年10月29日）
   米国ニューヨーク州のGounardes上院議員らは、AI安全法「RAISE Act」を改正する法案を公表した。同法案では、一定規模以上のAI開発企業に対し、独立評価機関による安全性評価や、AI研究の自動化状況等の報告を要求する旨が示されている。また、重大なリスクを抑えるため、州当局がモデルの学習等に使う計算資源の利用を制限できる仕組みも提案されている。
   https://www.nysenate.gov/newsroom/press-releases/2026/andrew-gounardes/sen-gounardes-proposes-major-new-ai-safety-and

6. OpenAI：“An updated Model Spec for more capable and beneficial AI”（2026年10月29日）
   OpenAIは、AIモデルの望ましい振る舞いを定義する指針「Model Spec」の改訂を公表した。同公表では、人の意図の尊重、危害の最小化、偽りなく透明性の高い説明、人の主体性の尊重、利用者等への配慮の5つの価値を軸に指針を再構成したと説明されている。また、指示が競合した場合の優先順位や、AIの行動に伴う副作用の管理・説明等に関する記述も更新されている。
   https://openai.com/index/updated-model-spec/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。