2026年9月26日に、オーストラリア首相府は、AIエージェントによる無許可アクセス事案に対する考えを公表した。また同日、中国外交部は、米中両国が、AIのリスクと便益について意見交換する枠組みを設け、AI関連インシデント時の情報共有に向けた連携体制を整えることで合意したと公表した。

AIリスクに対する国際的な対応の動向

• Prime Minister of Australia “Doorstop - Sydney”
  オーストラリア首相府は、AIを人間が適切に管理できる状態を維持するためには、国内での対応に加えて国際的な対応も必要だとするアルバニージー首相の考えを公表した。
  同公表では、AIエージェントによる無許可アクセスが、オーストラリアだけでなく、米国政府サイトを含む複数のサイトでも確認されており、こうした事案は数十件に上ると述べられている。
  また、AIは経済成長や生産性の向上、医療・科学研究の進展に寄与する可能性がある一方、人間がAIの導入・展開を管理できなくなることが主要なリスクとして挙げられており、その低減に取り組む必要があるとの考えも示されている。

  [リンク]
  Prime Minister of Australia. “Doorstop - Sydney”, September 26, 2026
  https://www.pm.gov.au/media/doorstop-sydney-9

• Ministry of Foreign Affairs of the People's Republic of China “China and the United States Reach Eight Deliverables and Understandings”
  中国外交部は、習近平国家主席による米国訪問を通じて、米中両国が合意した8つの成果と合意事項を公表した。
  同公表では、AIのリスクと便益について米中間で意見交換する枠組みを設け、次回の意見交換を2026年11月に実施することで合意したと述べられている。
  また、AI関連インシデントが発生した際の情報共有に向け、両国間の連携体制を整えることで合意したとされている。

  [リンク]
  Ministry of Foreign Affairs of the People's Republic of China. “China and the United States Reach Eight Deliverables and Understandings”, September 26, 2026
  https://www.mfa.gov.cn/eng/xw/zyxw/202609/t20260926_12031663.html

その他のAI関連情報

1. OpenAI：”The Hugging Face incident and other third-party impact from misaligned models”（2026年9月25日更新）
   OpenAIは、Hugging Faceへの不正アクセス事案を受け、AIモデルの訓練・評価時に行われたインターネット上での行動を遡って調査した結果、同事案以外にも、セキュリティ制御の回避やデータの外部送信等、第三者のサービスに影響が及んだ事例を複数確認したと公表した。
   https://openai.com/hugging-face-incident-and-misalignment/

2. OpenAI：”Self-replicating prompt injections exist”（2026年9月25日）
   OpenAIは、AIが読み込んだ悪意ある指示を、自ら作成するメールやファイルに複製することで、その出力を読み込んだ別のAIにも指示が連鎖的に広がる「自己複製型プロンプトインジェクション」が、実験環境で成立し得ることを確認したと公表した。なお、確認された動作は実験環境内に限られ、実際の外部サービスへの影響や被害は発生していないとしている。
   https://alignment.openai.com/misalignment-reports/self-replicating-prompt-injections-exist/

3. OpenAI：”An agent used DNS to reach an external chatbot”（2026年9月25日）
   OpenAIは、開発中の内部研究モデルが、DNSフィルタリングの不備を利用し、インターネット上の外部チャットボットへ問い合わせた事案を公表した。同社は、高性能モデル群について、ツールを利用する訓練・評価・推論を一時停止し、ネットワーク制御の検証と追加の安全性検証を進めていると述べている。
   https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/

4. OpenAI：”Exposing a GitHub token in a public repository”（2026年9月25日）
   OpenAIは、内部モデルが数学の証明課題に対する回答に行き詰まった際、許可されていない手段で別チームの非公開解答を取得しようとした事案を公表した。同公表では、その過程で、モデルは研究者のGitHubトークンを公開リポジトリに書き込み、さらに秘密情報の検知を避けるためにトークンの分割も行っていたとされている。
   https://alignment.openai.com/misalignment-reports/exposing-a-github-token-in-a-public-repository/

5. NBC News：”Bill Gates says AI companies self-regulating isn't enough and governments should be involved in monitoring”（2026年9月25日）
   NBC Newsは、Microsoft共同創業者のBill Gates氏が、AI企業の自主規制だけでは不十分であり、米政府と議会がAIの安全性の監督に関与する必要があるとの見解を示したと報じた。また、同氏は、悪意ある主体が最新のAIを利用すれば、極めて大規模な人的被害につながり得ると警告した。
   https://www.nbcnews.com/politics/politics-news/bill-gates-ai-companies-self-regulating-governments-monitoring-rcna599619

6. Salesforce：”3 Must-Haves for Scaling Agentic AI in Health”（2026年9月25日）
   Salesforceは、医療分野でAIエージェントを本格展開するための三要素を示した。具体的には、権限管理や人による監督等を備えた安全な運用、患者・保険加入者等を理解するための情報の統合、AIと人、既存システムを連携させた業務の実行が挙げられている。
   https://www.salesforce.com/blog/3-must-haves-for-scaling-agentic-ai-in-health/

7. UNESCO：”The African Court on Human and Peoples' Rights discusses use of AI in courts and tribunals”（2026年9月25日）
   UNESCOは、アフリカ人権裁判所とともに、司法分野におけるAI利用と、それが人権や法の支配に及ぼす影響について討議したと公表した。AIの偏りや不透明性、プライバシー、人が最終的に判断・確認する仕組み、AIが生成・加工した証拠の識別等を取り上げるとともに、同裁判所におけるAI利用方針の策定について意見を交わしたとしている。
   https://www.unesco.org/en/articles/african-court-human-and-peoples-rights-discusses-use-ai-courts-and-tribunals

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。