AI情報通:11月19日15時の情報

2026年11月17日にOpenAIが「GPT-6.2 Astra」及び「GPT-6.2 Sol」、11月16日にAlibabaが「Qwen4-Max」、11月18日にGoogle DeepMindが「Gemini 4 Neon」を発表し、それぞれ安全性やサイバーセキュリティに関する評価結果を公表した。

新たなフロンティアモデルの安全性・サイバー能力評価

  • OpenAI:“Introducing GPT-6.2 Astra and Sol”
    OpenAIは、新モデル「GPT-6.2 Astra」及び「GPT-6.2 Sol」を発表し、安全性の評価結果を公表した。同社は、両モデルのサイバー能力を社内評価基準における最上位の「Critical(重大)」、生物・化学分野の能力を上位から2番目の「High(高)」として扱うと説明している。
    サイバー能力の評価では、脆弱性の発見や悪用能力を測る試験において、前モデル(GPT-6 Astra等)から成績が向上したと述べられている。
    生物・化学分野の評価では、生物実験を支援する能力や、ウイルス・たんぱく質の性質を予測する能力等を測る試験において、GPT-6.2 Astraを中心に前モデル(GPT-6 Astra)から成績が向上したものの、Critical水準には達していないと述べられている。
    この評価を踏まえた安全対策として、OpenAIは、危険な依頼への回答拒否機能の強化や、モデルの行動等の監視に加え、研究環境におけるモデルの処理状況を把握し、必要に応じて停止できる「Control Room」の導入等を実施していると説明している。

    [リンク]
    OpenAI. “Introducing GPT-6.2 Astra and Sol”, November 17, 2026.
    https://openai.com/index/introducing-gpt-6-2-astra-sol/
    OpenAI. “GPT-6.2 Astra and GPT-6.2 Sol System Card”, November 17, 2026.
    https://deploymentsafety.openai.com/gpt-6-2-astra-sol/gpt-6-2-astra-sol.pdf

  • Qwen(Alibaba):“Qwen4-Max: Your New Teammate Has Arrived”
    AlibabaのQwenチームは、新モデル「Qwen4-Max」を発表し、業務遂行能力と併せて安全性の評価結果を公表した。
    ソフトウェア開発分野では、正しく動作するプログラムを、セキュリティ上の欠陥を避けて作成できるかを検証する試験において、前世代モデル(Qwen3.8-Max)から性能が向上し、代表的なセキュリティ欠陥を回避する力が高まったと報告されている。
    また、サイバーセキュリティ分野では、社内の専門家がモデルの作業記録を検証した結果、サイバー防御を支援する能力と、攻撃目的での利用に対する安全対策が強化されたと報告されている。なお、大規模なサイバーリスクをもたらす能力は確認されなかったとしている。
    さらに、化学・生物・放射性物質・核(CBRN)分野では、推論過程を含むモデルの回答を検証した結果、危険な作業を最初から最後まで完遂する能力や、利用者の危険な能力を大きく引き上げるリスクは確認されなかったと報告されている。

    [リンク]
    Qwen Team. “Qwen4-Max: Your New Teammate Has Arrived”, November 16, 2026.
    https://qwen.ai/blog?id=qwen4-max

  • Google/DeepMind:“Introducing Gemini 4 Neon”
    Google DeepMindは、新たなフロンティアモデル「Gemini 4 Neon」を発表し、サイバー防御能力および安全性に関する評価結果を公表した。
    サイバー防御分野では、安全なプログラムを作成する能力や、脆弱性を修正する能力を測る試験で、前モデルを上回った。また、脆弱性を発見・検証する能力を測る試験でも、高い成績を示したと述べられている。
    安全性・不正対策の分野では、サイバー・生物分野の悪用耐性や、外部データに紛れ込ませた不正な指示による攻撃への耐性を測る試験において、前モデル(Gemini 4 Carbon)と同等以上の保護水準を示しつつ、正当な業務への過剰な回答拒否や不適切な行動を抑えることができたと報告されている。
    同社は、Gemini 4 Neonの提供は開始したが、サイバー防御に特化した機能については、信頼された防御担当者に対し、数日以内に提供するとしている。

    [リンク]
    Google DeepMind. “Introducing Gemini 4 Neon”, November 18, 2026.
    https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-4-neon/
    Google DeepMind. “Gemini Models”, November 18, 2026.
    https://deepmind.google/models/gemini/

その他のAI関連情報

  1. OpenAI:“Managing frontier AI risk: From training to deployment”(2026年11月18日)
    OpenAIは、フロンティアAIモデルの学習から社内利用、外部提供までの各段階におけるリスク管理と多層防御の体制を公表した。本公表では、各段階での対策として、研究段階での厳格なネットワーク隔離や、停止指示を受けてから35秒以内にモデル出力を止めるシステムの導入等が説明されている。また、内部モデルがDNS設定の不備を介して外部通信を行った事案に対する実際の対応事例も示されている。
    https://openai.com/index/managing-frontier-ai-risk/

  2. カリフォルニア州(知事室・GovOps):“Governor Newsom’s nation-leading AI safety framework is getting even stronger as California releases next steps on mandatory safety standards and oversight”(2026年11月18日)
    カリフォルニア州は、AI安全法制の強化に関する報告書を公表した。同報告書では、オープンウェイトモデルの開発者を含む、大規模なフロンティアAI開発者が従うべき安全基準の州による策定や、重大インシデントの報告期限の原則48時間への短縮、重大な危害のおそれがあるシステムへの緊急停止命令権限の創設、自己改善型AIの制限等が提言されている。
    https://www.gov.ca.gov/2026/11/18/governor-newsoms-nation-leading-ai-safety-framework-is-getting-even-stronger-as-california-releases-next-steps-on-mandatory-safety-standards-and-oversight/

  3. Microsoft:“The risks of device code authentication for AI coding agents”(2026年11月17日)
    Microsoftは、デバイスコード認証を悪用したフィッシング攻撃が、AIコーディングエージェントに及ぼすリスクの検証結果を公表した。同公表では、攻撃者の認証コードを利用者が承認すると、遠隔でのコマンド実行やエージェントのメモリへの不正な指示の書き込み等が可能になり得るとして、設定の見直しや監視が推奨されている。
    https://www.microsoft.com/en-us/security/blog/2026/11/17/the-risks-of-device-code-authentication-for-ai-coding-agents/

  4. Google/DeepMind(GTIG・Mandiant):“GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold”(2026年11月17日)
    Googleは、攻撃者によるAI悪用が自律型エージェントの活用へ移行している実態を分析した報告書を公表した。同報告書では、攻撃者が複数のAIエージェントを用いた侵入テスト用ツールを悪用してサイバー侵入を自動化・高速化していることや、AIエージェントにより脆弱性発見から悪用実行までを人手なしで自動化するフレームワークが初めて確認された。
    https://cloud.google.com/blog/topics/threat-intelligence/agentic-threat-activity-crosses-a-significant-threshold

  5. METR:“Measuring alignment eval tells”(2026年11月16日)
    METRは、AIモデルが「通常の性能テスト」と、「不正や危険行動をしないかを見る安全性テスト」の違いをどの程度見抜けるかを検証した研究結果を公表した。同公表では、過去1年間でモデルが両者を見分ける精度は大きく向上し、環境の作り物らしさや不正を誘う設定を手がかりに安全性テストだと気づく傾向が強まっていると報告されている。
    https://metr.org/notes/2026-11-16-measuring-alignment-eval-tells/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。