10月26日にOpenAIが「GPT-6.1 Terra」のサイバー能力や安全性評価の結果を公表した。また、10月28日にGoogleが「Gemini 4 Carbon」を発表し、併せてサイバー能力や安全性評価の結果を公表した。

フロンティアモデルのサイバー能力・安全性評価

• OpenAI “Addendum to GPT-6 Astra System Card: GPT-6.1 Terra”
  OpenAIは、「GPT-6.1 Terra」の安全性評価の結果を公表した。同社は、GPT-6.1 Terraのサイバー能力を、同社の評価において最上位の「Critical」として扱うと説明している。
  評価区分の「Critical」については、ツールを用いて強固に保護された実在の重要システムの未知の脆弱性を人の介入なしに発見し、それを悪用する手法を開発できる水準の能力等を指すと説明している。
  この評価を踏まえた安全対策として、OpenAIは、GPT-6 Astra等と同じ対策を適用したと述べている。具体的には、危険な依頼への回答拒否や、入力・出力の監視に加え、モデルの推論過程と行動を監視する仕組みを組み合わせたと述べられている。

  [リンク]
  OpenAI. “Addendum to GPT-6 Astra System Card: GPT-6.1 Terra”, October 26, 2026
  https://deploymentsafety.openai.com/gpt-6-1-terra

• Google “Gemini 4 Carbon: our next frontier model”
  Googleは、フロンティアモデル「Gemini 4 Carbon」を発表し、サイバー能力と安全性の評価結果を公表した。
  同モデルは、脆弱性の発見や悪用可能性の検証、修正といったサイバー能力を測る試験で最高水準の成績を示し、サイバー防御を支援する能力が向上したと述べられている。
  また、プロンプトインジェクションへの耐性を測る安全性試験では、評価のために仕掛けた全ての攻撃を防ぐことができたと報告されている。
  Googleは、安全対策として、悪意ある指示への対策や、悪用につながる利用・モデルの推論過程の監視等を適用している。まずは一部のサイバー防御担当者に提供し、安全対策を改善しながら段階的に提供対象を広げるとしている。

  [リンク]
  Google. “Gemini 4 Carbon: our next frontier model”, October 28, 2026
  https://blog.google/innovation-and-ai/models-and-research/gemini-models/introducing-gemini-4-carbon/

その他のAI関連情報

1. シンガポール首相府：“PM Lawrence Wong at the Virtual Leaders’ Meeting on Frontier AI Safety Co-Hosted by Norway and Finland (Oct 2026)”（2026年10月28日）
   シンガポールのウォン首相は、ノルウェー及びフィンランドが共同主催するフロンティアAIの安全性に関する首脳会合で、AIによる重大な問題や、実害に至らなくても重大なリスクを示す事象の情報を国際的に共有する取組を提案した。その第一歩として、ウォン首相は、事象を分類するための共通の枠組みや情報共有の対象とする事項を定め、参加国が情報を安全に収集し、交換する方法を試すことを提案したとされている。
   https://www.pmo.gov.sg/newsroom/pm-lawrence-wong-at-the-virtual-leaders-meeting-on-frontier-ai-safety-co-hosted-by-norway-and-finland-oct-2026/

2. 米国ニューヨーク州知事室：“Governor Hochul Signs Nation-Leading Legislation to Protect Kids From AI Chatbots and to Ensure Baby Monitor Safety”（2026年10月28日）
   米国ニューヨーク州のホークル知事は、人間を装うことや自傷行為を助長すること等、未成年者にとって有害となるAIチャットボット機能の提供を禁じる法案に署名した。同法では、対象となるチャットボットの提供事業者に利用者の年齢確認を求めるとされている。
   https://www.governor.ny.gov/news/governor-hochul-signs-nation-leading-legislation-protect-kids-ai-chatbots-and-ensure-baby

3. 英国財務省（HM Treasury）：“Budget 2026 (HTML)”（2026年10月28日）
   英国財務省は、2026年の秋季予算を公表した。同公表では、英国AISIによるフロンティアAIの評価・試験能力を高めるための予算として、2026–27年度から2029–30年度までに1億2,000万ポンドの追加資金を充てるとされている。また、制御を逸脱するAIエージェントの活動を検知・調査し、対処する新組織の設置に、4,000万ポンドを投じるとされている。
   https://www.gov.uk/government/publications/budget-2026-document/budget-2026-html

4. Cequence Security：“Attackers Are Using AI Agent Impersonation to Hunt for Credentials”（2026年10月28日）
   セキュリティ企業のCequence Securityは、ChatGPTやClaude等の正規のAIボットを装い、パスワードやAPIキー等を窃取しようとする攻撃を確認したと公表した。同公表では、攻撃者は機密情報を含む可能性のあるファイルを探索したが、その通信要求のほぼ全てが遮断されたか、失敗したとされている。同社は対策として、AIボットの名称だけで信用せず、通信元の確認や不審な動作の監視を行うよう推奨している。
   https://www.cequence.ai/blog/ai-agent-impersonation

5. NIST：“Design Tenets for Agent Identity Management Systems”（2026年10月27日）
   米国国立標準技術研究所（NIST）は、AIエージェントの操作権限を安全に管理するための10の設計原則を提案した。具体的には、どのエージェントが行動したかを追跡できるようにすることや、AIエージェントに与える操作権限を最小限にすること、AI自身の判断だけでは権限を広げられない仕組みにすること等が挙げられている。なお、これらは初期的な提案であり、各組織の利用環境やリスクに応じて適用することが推奨されている。
   https://www.nist.gov/blogs/cybersecurity-insights/design-tenets-agent-identity-management-systems

6. Cohere：“Concerning behavior from a popular open-weight AI model”（2026年10月26日）
   企業向けにAIを開発するCohereは、AIモデル「Qwen3.8-Flash-Next」が性能評価中に、指示にない外部送信を試みた事例を確認したと公表した。なお、隔離された評価環境での実施であったため、通信は遮断され、送信は成立しなかったと述べられている。
   https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model

7. OECD：“Businesses increasingly adopt AI for cybersecurity while individuals expand privacy protections”（2026年10月26日）
   経済協力開発機構（OECD）は、企業のサイバーセキュリティ対策へのAI利用状況を示す統計を公表した。同公表では、2025年にAIをこうした対策に利用した企業の割合は5.3％で、2021年の2倍超に増加したと述べられている。また、企業規模別では大企業が26.7％、小企業が3.7％で、導入状況に差があるとされている。
   https://www.oecd.org/en/data/insights/statistical-releases/2026/10/businesses-increasingly-adopt-ai-for-cybersecurity-while-individuals-expand-privacy-protections.html

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。