2026年10月4日に、米国政府は、米国や日本を含む17か国が、科学研究へのSI（Super Intelligence）の活用等に関する共同宣言を支持したと発表した。また、10月1日に、英国AI Security Institute（AISI）は、評価環境の安全対策を強化し、中断していた評価活動の大半を再開したと公表した。

科学研究へのSI活用に向けた国際的な共同方針

• The White House “U.S. Leads International Coalition to Endorse Kyoto Vision for a Golden Age of Science”
  米国政府は、京都で開催された科学技術と人類の未来に関する国際フォーラム（STS）において、米国と日本を含む16か国が、共同宣言「Kyoto Vision for a Golden Age of Science」を支持したと発表した。
  同宣言では、SIが研究作業を加速するとともに、新たな研究の進め方を可能にするとされている。その上で、SIを科学研究のプロセスに組み込む方針や、研究者による科学研究向けのSIツール、科学データ、計算資源及び実験施設の利用機会を広げる方針が掲げられている。
  また、長期的な研究助成や迅速な資金提供等、多様な研究資金の仕組みを活用することに加え、学生や若手研究者への投資及び研究連携等を拡大する方針も示されている。

  [リンク]
  The White House. “U.S. Leads International Coalition to Endorse Kyoto Vision for a Golden Age of Science”, October 4, 2026
  https://www.whitehouse.gov/releases/2026/10/us-leads-international-coalition-to-endorse-kyoto-vision-for-a-golden-age-of-science/

AIエージェントの評価環境における安全対策強化

• UK AI Security Institute “Building a more secure environment for evaluating dangerous capabilities”
  英国AISIは、AIエージェントがサイバー能力評価中に課題の範囲を越えて実システムへ働きかけた事案を受け、一部のサイバー能力評価を一時停止していたが、安全対策強化の第1段階を完了し、評価活動の大半を再開したと公表した。
  本公表では、第1段階で実施した主な対策として、AIエージェントのサイバー能力評価をインターネット接続なしで実施する方針への変更や、AIエージェントの行動を評価中にリアルタイムで確認・遮断する監視機能の導入などが挙げられている。このうち、インターネット接続なしでの評価は、より強固な管理策を導入できるまでの暫定措置であると述べられている。
  また、第1段階に続く取組として、不審な活動を検知した際に評価環境を自動隔離できる新たなサンドボックス基盤の整備や、ログ・アラートの一元管理による検知・対応能力の強化を進めていると述べられている。

  [リンク]
  UK AI Security Institute. “Building a more secure environment for evaluating dangerous capabilities”, October 1, 2026
  https://www.aisi.gov.uk/blog/building-a-more-secure-environment-for-evaluating-dangerous-capabilities

その他のAI関連情報

1. Donald J. Trump：”Following the Historic White House Accord on Super Intelligence...”（2026年10月4日）
   トランプ米大統領は、SI（Super Intelligence）への対応として、連邦政府内の取組を取りまとめるとともに、AI企業や関係団体との連絡・調整を担う「Super Intelligence Force (SIF)」を設置すると表明した。なお、同組織は、国家情報長官ら4人が率いるとされている。
   https://truthsocial.com/@realDonaldTrump/posts/117382616783706638

2. ABC News：”Rogue OpenAI agent enters another NSW government website, tech giant says”（2026年10月2日）
   ABC Newsは、OpenAIのAIモデルが6月、豪州ニューサウスウェールズ州の国立公園・野生生物局のウェブアプリへ意図しない形でアクセスしていたと報じた。同報道では、個人情報への不正アクセスは確認されていないとしている。
   https://www.abc.net.au/news/2026-10-02/rogue-open-ai-agent-breach-nsw-government-website/107223108

3. United Nations：”Collective action needed to tackle global information crisis, UN-led dialogue hears”（2026年10月2日）
   国際連合は、情報の信頼性に関する国際討議を開催し、未規制・未検証のAIの普及が、偽情報等を巡る既存のリスクを深刻化させているとの議論を紹介した。国際連合は、実務者や研究者、政策担当者の連携を強め、研究資料やツール等を共有する国際的な枠組みを整備するとしている。
   https://news.un.org/en/story/2026/10/1168512

4. Microsoft：”Insights from the 2026 Microsoft Digital Defense Report”（2026年10月1日）
   Microsoftは、2026年版のサイバー脅威動向報告書を公表し、攻撃者がAIをソーシャルエンジニアリングやマルウェア開発、脆弱性を悪用する手法の開発等に利用していると報告した。ただし、現時点では、AIは主に既存の攻撃工程の一部を補助・効率化するために利用されており、攻撃の基本的な手法自体は従来と大きく変わらないと指摘している。また、同報告書では、AIエージェントの安全性はモデル単体ではなく、接続するデータやツール、周辺インフラ等を含むシステム全体で捉える必要があると指摘されている。
   https://www.microsoft.com/en-us/security/blog/2026/10/01/insights-from-the-2026-microsoft-digital-defense-report/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。