AI情報通：11月9日15時の情報

2026年11月5日、OpenAIは、「GPT-6 Cyber」の能力及び安全性の評価結果を公表した。また、同日、AI能力・リスクの評価機関METRは、AnthropicでのAI活用によるモデル開発の加速に関する評価結果を公表した。

GPT-6 Cyberのサイバー能力・安全性評価

  • OpenAI “GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents”
    OpenAIは、サイバーセキュリティ向けのモデル「GPT-6 Cyber」を発表し、能力・安全性の評価結果と、提供時に適用する安全対策を公表した。
    サイバー能力の評価では、特定の脆弱性を悪用する攻撃の成功率を測る実験が行われた。その結果、成功率は前世代のGPT-5.6 Cyberの32.1%から48.5%へ向上したと報告されている。同社は、一連の能力評価の結果を踏まえ、同モデルのサイバー分野の危険能力を、前世代の「High」より上位の「Critical」に分類したと述べている。
    安全性の評価では、モデルが許可範囲を守れるかを検証する実験が行われた。その結果、許可範囲外への攻撃を避けた割合は、前世代より高かったと報告されている。
    OpenAIは、本人確認や悪用の監視といった安全対策を講じた上で、同モデルを審査済みの一部の利用者に提供しており、今後、提供対象を段階的に拡大する方針を示している。

    [リンク]
    OpenAI. “GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents”, November 5, 2026
    https://openai.com/index/introducing-gpt-6-cyber/

AIを活用したモデル開発の加速

  • METR “Independent Assessment of AI R&D Acceleration at Anthropic in October 2026”
    AI能力・リスクの評価機関METRは、AnthropicでのAI活用が、AIモデルの研究開発をどの程度加速させているかを調べた結果を公表した。
    同公表では、社内モデルの成績や研究者への聞き取り等を分析し、特定の評価課題で測ったモデルの能力向上速度が、2024年3月～2025年10月の期間に見られた能力向上ペースと比べ、現在は約2倍になったとの推定結果が示されている。
    METRは、AIモデルの研究・開発作業にAIを活用していることが、この加速の主な要因だと推測している。また、高性能化したAIが次のモデルの開発をさらに速めることで、危険な能力が急速に出現するリスクを指摘している。

    [リンク]
    METR. “Independent Assessment of AI R&D Acceleration at Anthropic in October 2026”, November 5, 2026
    https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

その他のAI関連情報

  1. シンガポール・サイバーセキュリティ庁（CSA）／GovTech／IMDA：“Joint Advisory by the Cyber Security Agency of Singapore, Government Technology Agency of Singapore and Infocomm Media Development Authority”（2026年11月6日）
    シンガポールのサイバーセキュリティ庁（CSA）等3機関は、個人向けAIエージェントの利用に関する注意喚起を共同で公表した。同公表では、情報漏えいや、AIエージェントの意図しない挙動を防ぐため、接続先や権限を必要最小限にし、重要な操作は利用者が承認の上実行すること等が推奨されている。また、不審な挙動があれば、エージェントの動作を停止し、メール等のアカウントとの連携を解除することも勧められている。
    https://www.csa.gov.sg/alerts-and-advisories/advisories/ad-2026-015/

  2. Microsoft：“Threat actors use agentic AI tooling to find and abuse exposed secrets”（2026年11月5日）
    Microsoftは、攻撃者が侵入テスト用AIツール「ARTEX」を、ネット上に公開されていたAPIキー等の認証情報を探し、それを使ってクラウド上の機密情報を窃取することに悪用していると公表した。Microsoftは、公開コードから認証情報を削除するだけでは悪用を防げないとし、漏えいした認証情報の無効化・更新や、アプリに与えるアクセス権限の制限を推奨している。
    https://www.microsoft.com/en-us/security/blog/2026/11/05/threat-actors-use-agentic-ai-tooling-to-find-and-abuse-exposed-secrets/

  3. Microsoft：“A new standard for vulnerability management in the AI era”（2026年11月5日）
    Microsoftは、AIを活用したWindowsの脆弱性対応の取組を公表した。同公表では、脆弱性の発見にAIを活用しており、技術者による修正・検証を経て、修正を含む更新プログラムを配信していると説明されている。Microsoftは、各端末に更新プログラムが適用されるまでは脆弱性が残るため、利用組織に速やかな適用を呼びかけている。
    https://blogs.windows.com/windowsexperience/2026/11/05/a-new-standard-for-vulnerability-management-in-the-ai-era/

  4. OpenAI：“Bypassing network restrictions during a coding evaluation”（2026年11月5日）
    OpenAIは、Webサイト制作の能力を測る性能評価テスト中に、AIモデルが通信制限を回避して外部サービスへ接続した事案を公表した。同社は、当該評価を停止し、回避に使われた通信権限の制限や接続経路の遮断等の対策を講じたとしている。
    https://alignment.openai.com/misalignment-reports/bypassing-network-restrictions-during-a-coding-evaluation/

  5. OpenAI：“Trying to prompt-inject the grader in filenames”（2026年11月5日）
    OpenAIは、AIモデルが作成した資料を別のAIに採点させる評価研究において、資料を作成したモデルが、評価担当者からの指示を装って満点を付けるよう求める記述をファイル名に埋め込み、採点用AIを誘導した事案を公表した。同社は、採点用AIのプロンプトインジェクションへの耐性を高め、不正な採点誘導を検知する仕組みを整える重要性を指摘している。
    https://alignment.openai.com/misalignment-reports/trying-to-prompt-inject-the-grader-in-filenames/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。