AI情報通：9月14日15時の情報

2026年9月12日に、Anthropic CEOのDario Amodei氏は、安全性担保のためAI開発のペースを抑制すべきだという提言を公表した。また、2026年9月10日に、Anthropicが、同社のAI「Claude」の悪用事例とそれに対する対応をまとめた報告書を公表した。

AI性能の進展と安全性に関する提言

  • Dario Amodei氏 (Anthropic CEO) "We Must Pace the Frontier"
    Anthropic CEOのDario Amodei氏は、AIの性能向上が安全性研究や対策の進展よりも先行しないよう、AI開発のペースを抑制すべきと主張した。
    本記事では、AIモデルの性能向上が急速に進む一方、モデルの安全性を検証することも難しくなっていると指摘されており、このまま性能向上が続けば、人間によるAIの理解や制御が追いつかなくなる可能性があると述べられている。
    上記を踏まえ、同氏は、具体的な対応策として、継続的に安全性を検証する外部評価者の受け入れ、AI企業間における共通の安全基準等の策定、各国政府による国際的な協調を提言している。

    [リンク]
    Dario Amodei. "We Must Pace the Frontier", September 12, 2026
    https://darioamodei.com/post/we-must-pace-the-frontier

AIの悪用事例と対応

  • Anthropic "Detecting and countering misuse of AI: September 2026"
    Anthropicは、サイバー攻撃や不正な知識蒸留等にClaudeが悪用された事例と、それらに対する対応をまとめた報告書を公表した。
    本報告書では、その一例として、Moonshot AIが、自社のAIモデル「Kimi」の利用者にClaudeの応答を提供していた事例が取り上げられている。本事例では、Moonshot AIが利用者からKimiに送られたリクエストをKimiで処理せずにClaudeへ転送しており、利用者はKimiを使用していると認識していたが、実際にはClaudeの応答を受け取っていたとされている。

    [リンク]
    Anthropic. "Detecting and countering misuse of AI: September 2026", September 10, 2026
    https://www.anthropic.com/threat-intelligence-report-september-2026

その他のAI関連情報

  1. World Economic Forum：”Critical infrastructure is racing to adopt AI. Why visibility must come first”（2026年9月11日）
    Dragos CEOのRobert M. Lee氏は、重要インフラでAIの導入が進む一方、制御環境における監視体制が追いついていないと指摘した。同氏は、自律的判断が可能なAIの導入前に、厳格なガバナンスと制御環境の監視体制を整え、AIが利用不能となった場合にも運用を継続できるよう備える必要があると述べている。
    https://www.weforum.org/stories/artificial-intelligence/critical-infrastructure-ai-adoption-why-visibility-must-come-first/

  2. 英国医薬品・医療製品規制庁：”National Commission into the Regulation of AI in Healthcare: Recommendations for a future regulatory framework”（2026年9月10日）
    英国医薬品・医療製品規制庁は、医療分野でAIを安全に導入・利用するための、今後の規制や管理の在り方に関する提言を公表した。本提言では、AIを用いる医療機器の安全性・有効性だけでなく、責任の所在や透明性、臨床現場での利用、医療機関の管理体制を含め、医療システム全体で安全性を確保する必要性が示されている。
    https://www.gov.uk/government/publications/national-commission-into-the-regulation-of-ai-in-healthcare-recommendations-for-a-future-regulatory-framework

  3. NVIDIA：”Skild AI Taps NVIDIA Physical AI to Teach Robots New Tasks From a Single Video”（2026年9月10日）
    NVIDIAは、Skild AIが開発した、作業の実演動画を1本見せることでロボットにその作業を実行させる基盤モデル「Skild S1」を紹介した。従来の多くの産業用ロボットでは新しい作業ごとに再設定や追加学習が必要だったが、Skild S1はこれらを行わず、事前学習に含まれない複数工程の作業を最長10分程度にわたって実行できるとしている。
    https://blogs.nvidia.com/blog/skild-ai-s1-physical-ai/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。