AI情報通：9月17日15時の情報

2026年9月16日に、国際連合が、AIの開発速度に関する懸念と国際協力の必要性を公表した。同日には、カナダ政府とドイツ政府が、安全性を備える高度なAIの開発に向けた投資計画を発表した。
9月14日に、Microsoft AIが、人間による管理と安全性を重視するAI開発・運用指針案を公表した。

AI開発に関する懸念と国際協力の必要性

  • United Nations "AI, climate and conflicts top Guterres' agenda ahead of General Assembly"
    国際連合は、AIの急速な進展に伴うリスクと国際協力の必要性に関するグテーレス事務総長の考えを公表した。
    同記事では、AIには健康、教育、気候等の分野で大きな活用可能性がある一方、AI開発がそのリスクに対する人間の理解を上回る速さで進んでおり、政府は市民をそのリスクから保護する必要があると指摘されている。
    その上で、一部の国だけが自主的にAI開発を一時停止する対策は有効でないとして、国際的な協調の下、ガードレールの整備を求める旨も述べられている。

    [リンク]
    United Nations. "AI, climate and conflicts top Guterres' agenda ahead of General Assembly", September 16, 2026
    https://www.un.org/en/desa/ai-climate-and-conflicts-top-guterress-agenda-ahead-of-general-assembly

設計段階から安全性を備えたAIの開発

  • Innovation, Science and Economic Development Canada "Canada and Germany invest in LawZero to build a new approach to safe, sovereign AI"
    カナダ政府とドイツ政府は、非営利組織LawZeroによるAIの開発を支援するため、それぞれ1億5,000万カナダドルと1億ユーロを投資する計画を発表した。
    本投資は、安全性、透明性及び信頼性を設計段階から備えたAIの開発を支援するものとされている。カナダ政府は、本投資を国内の研究・計算基盤の強化や外国の管理下にあるAIシステムへの依存低減につなげるとしている。また、ドイツ政府は、LawZeroのドイツ拠点での取組支援により、欧州の規範・規制に沿ったAIの開発能力を高めるとしている。
    なお、本取組では、AI評価・科学研究を支援するツールの開発や、設計段階から安全性を具備する新たなフロンティアモデルの開発手法の確立を目指すと述べられている。

    [リンク]
    Innovation, Science and Economic Development Canada. "Canada and Germany invest in LawZero to build a new approach to safe, sovereign AI", September 16, 2026
    https://www.canada.ca/en/innovation-science-economic-development/news/2026/09/canada-and-germany-invest-in-lawzero-to-build-a-new-approach-to-safe-sovereign-ai.html

人間による管理と安全性を重視するAIモデルの開発・運用指針

  • Microsoft AI "Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models"
    Microsoft AIは、AIモデルの開発・運用指針「Humanist AI Code of Conduct」の初稿を公表した。
    同指針では、AIを安全かつ人間の管理下に置くことを最優先とする方針が示されている。具体的には、AIを人間の管理下にある支援技術と位置付け、必要に応じて汎用性、自律性又は能力を抑えるほか、人間による中断、修正又は停止に抵抗しないこと等が定められている。
    また、Microsoft AIは、初稿の内容について6週間の意見募集を行っており、寄せられた意見を検討した上で、2026年内に改訂版を公表し、2027年以降のモデル開発に用いるとしている。

    [リンク]
    Microsoft AI. "Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models", September 14, 2026
    https://microsoft.ai/news/mai-code-of-conduct/

その他のAI関連情報

  1. OpenAI：”Our framework for reporting model misalignment”（2026年9月16日）
    OpenAIは、モデルが指示や意図から逸脱した事例を追跡・調査・公表する新たな枠組みと、過去6か月に確認した予期しない又は懸念される挙動6件の報告書を公表した。同枠組みは、これまで個別に行われていた事例の公表を体系化し、原因解明や対策が完了していない段階でも、外部の研究者等が検証できるよう速やかに情報を共有することを目的としている。
    https://openai.com/index/model-misalignment-reporting-framework/

  2. DeepMind Institute：”Introducing the DeepMind Institute”（2026年9月16日更新）
    Google及びGoogle DeepMindの研究者らは、AGIの安全な開発、有益な利用及び社会への影響に関する研究・協働・議論を進める「DeepMind Institute」を設立した。本記事では、DeepMind Instituteについて、Google社内外の研究者や思想家が参加する場であり、サイバーリスク、バイオリスク、将来の自己改善型システムを制御できなくなる可能性等を検討すると述べられている。
    https://institute.deepmind.com/essays/introducing-the-deepmind-institute/

  3. Check Point：”Synchronous Control Monitoring: Preventing Harmful Agent Actions in Real Time”（2026年9月15日）
    Check Pointは、AIエージェントの実行履歴を継続的に監視し、有害と判断したツール呼び出しを実行前に遮断する「同期制御監視」の仕組みを公表した。本公表では、同仕組みについて、複数段階にまたがる有害な行動も文脈から検知し、100ミリ秒未満で判定する設計であると述べられている。
    https://blog.checkpoint.com/ai-security/synchronous-control-monitoring-preventing-harmful-agent-actions-in-real-time/

  4. National Cybersecurity Standardization Technical Committee：”《人工智能安全治理框架3.0》发布”（2026年9月14日）
    中国のサイバーセキュリティ標準化技術委員会は、「人工知能安全ガバナンス枠組み3.0」を公表した。本公表では、同枠組みが、従来版の構成を引き継ぎつつ、AIの新たな動向と安全上の課題に対応して、リスク分類と対策の内容を更新したものと述べられている。
    https://www.cac.gov.cn/2026-09/14/c_1791137092283345.htm

  5. UK Parliament Joint Committee on Human Rights：”Wide-ranging AI Bill needed to address severe human rights risks posed by AI”（2026年9月14日）
    英国議会の人権合同委員会は、既存の法規制ではAIによる人権リスクに十分対応できないとして、新たなAI法の制定を求める報告書を公表した。本公表では、AIシステムをリスク別に分類し、高リスクな用途へは厳格な義務を課すこと、AIのライフサイクル全体で透明性を確保すること、独立した監督機関を法定組織として設置すること等が提言されている。
    https://committees.parliament.uk/committee/93/human-rights-joint-committee/news/217859/wideranging-ai-bill-needed-to-address-severe-human-rights-risks-posed-by-ai/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。