AI情報通：11月5日15時の情報

2026年11月4日に、Binanceは、社内AIツールの悪用に関連する資産流出事案の初期調査結果と対応状況を公表した。また、2026年11月3日に、Googleは、組織のAIツールの利用権限を乗っ取るサイバー攻撃「LLMJacking」の分析結果を公表した。

組織のAI利用に関連するインシデント事例

  • Binance：“Binance October 29 Security Incident: Preliminary Findings and Response Update”
    暗号資産取引所のBinanceは、2026年10月29日に発生した資産流出事案の初期調査結果と対応状況を公表した。
    同公表では、攻撃者が架空企業の採用面接を装ってBinanceの従業員に不正なコードを実行させ、端末を侵害した後、侵害済みの端末から社内AIツールを悪用して別の従業員端末へ侵入を広げ、認証情報を取得したと説明されている。そしてその後、盗んだ認証情報等を用いて不正な処理を実行し、ウォレットから資産を流出させたと述べられている。
    同社は、この事案への対応として、出金の停止や関係機関と連携した資産の凍結に加え、影響を受けたウォレットシステムと社内AIツールの再構築、関連する認証情報の無効化等を実施したと説明している。また、独立したセキュリティ企業による追加の検証を進め、調査結果を踏まえて対策を強化するとしている。

    [リンク]
    Binance. “Binance October 29 Security Incident: Preliminary Findings and Response Update”, November 4, 2026
    https://www.binance.com/en/square/post/384328127385979

  • Google Threat Intelligence Group／Mandiant：“The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources”
    Googleは、2026年に金融・小売業等の複数企業で確認された、AIツールの利用権限を乗っ取るサイバー攻撃「LLMJacking」の分析結果を公表した。
    同公表では、攻撃者が盗んだAPIキーやクラウドの認証情報を用いて、被害企業の環境でAIツールを大量に利用したり、その利用権限を転売したりしていたと報告されている。利用料金は被害企業に請求され、一部の企業では、攻撃者のアクセスを無効化するまでに累計100万米ドルに達したとも述べられている。
    Googleは、こうした不正利用を防ぐための対策として、APIキー等の認証情報の管理強化や、利用者・システムに与える権限の最小化、AIツールの利用量・料金の制限等を推奨している。また、AIツールの無断での有効化や、不審なAPIアクセスを早期に検知するため、設定変更やアクセス記録を監視するよう呼びかけている。

    [リンク]
    Google Threat Intelligence Group／Mandiant. “The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources”, November 3, 2026
    https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models

その他のAI関連情報

  1. OpenAI：“A thousand fewer paths to root”（2026年11月4日）
    OpenAIは、Linuxの脆弱性の発見から悪用可能性の検証、修正案の作成までをAIで自動化する研究結果を公表した。同公表では、隔離した研究環境において1,724件の脆弱性を再現し、そのうち管理者権限の不正取得につながる948件の脆弱性について悪用を実証するとともに、修正案を作成したと説明している。同社は、人間の専門家による確認を経て、開発・保守担当者への報告と修正を進めているとしている。
    https://openai.com/index/a-thousand-fewer-paths-to-root/

  2. 英国政府・科学・イノベーション・技術省（DSIT）：“Agentic AI resilience measures”（2026年11月3日更新）
    英国政府は、AIエージェントを十分に監視・制御できなくなる事案に備え、重要サービス等を担う事業者に、予防策の実施や事案発生時の対応を義務付ける方針を公表した。同公表では、今後の意見公募等を経て、監視やリスク評価等の予防策、影響を受けた組織への通知、証拠保全の義務付けを含む制度導入案について協議する方針を公表した。
    https://www.gov.uk/government/publications/cyber-security-and-resilience-network-and-information-systems-bill-factsheets/agentic-ai-resilience-measures

  3. 英国国家サイバーセキュリティセンター（NCSC）：“The impact of AI on cyber threat”（2026年11月3日）
    英国国家サイバーセキュリティセンター（NCSC）は、AIがサイバー攻撃に与える影響に関する評価結果を公表した。同公表では、AIは新たな攻撃手法の考案よりも、従来の攻撃にかかる時間や手間の削減、攻撃規模の拡大に大きく寄与すると分析している。また、脆弱性の発見や悪用も速まるため、防御側は脆弱性の修正を急ぐ必要があると指摘している。
    https://www.ncsc.gov.uk/collection/annual-review-2026/understanding-threat/ai-impact-cyber-threat

  4. OpenAI：“Eval-production behavior gaps in agent safety and the role of eval-awareness”（2026年11月3日）
    OpenAIは、AIエージェントの安全性評価と実運用での挙動の違いを調べた研究結果を公表した。同公表によると、安全性評価の試験中に、警告や制限に反する行動を試みた割合は、実運用の類似場面での割合よりも高かったと説明されている。同社は、割合の差を継続して追跡するとともに、評価方法を改善する方針を示している。
    https://alignment.openai.com/eval-production-behavior-gap/

  5. 米国立標準技術研究所（NIST）：“NIST Workshop on SI Incident Management”（2026年11月2日）
    米国立標準技術研究所（NIST）は、政府機関やAI関連企業、大学等の専門家が集まり、AIに関する事案への対応を議論した会合の報告書を公表した。同会合では、AIへの攻撃やAIの悪用・誤動作への対応について議論がなされ、調査に必要な記録の保存や、開発企業・利用組織等の間での情報共有・連携の重要性が指摘されたと報告されている。NISTは、これらの議論を踏まえ、既存の事案対応指針の更新や情報共有の仕組みの検討を進めるとしている。
    https://csrc.nist.gov/pubs/ir/8621/final

  6. ドイツ連邦政府：“Deutschland als KI-Nation 2030”（2026年11月2日）
    ドイツ連邦政府は、2030年に向けたAI政策の目標と18の主要施策をまとめた報告書を公表した。同報告書では、自国の技術基盤の強化と、安全で信頼できるAIの開発・活用の促進が目標として掲げられている。また、その実現に向けた施策として、ドイツAISIの評価・分析機能の強化や、設計段階から安全性を重視したAIモデルの研究支援、AIの開発・利用に必要な計算基盤の拡充等が挙げられている。
    https://www.bundesregierung.de/resource/blob/975228/2459514/b8518975df987ac1cfdc1fc5b655efb3/2026-11-02-ki-data.pdf

  7. Meta／Muse：“Securing Muse: More Than $1 Million in Bug Bounties Paid Out”（2026年11月2日）
    Metaは、脆弱性報奨金制度を通じて発見したAIエージェント「Muse」の問題と対応を公表した。同公表では、社内テスト環境の会話や認証情報に不正にアクセスできる認証不備や、プロンプトインジェクションによって本来阻止されるべき操作をAIに実行させられる脆弱性が見つかったとしている。同社は、認証不備については社内テスト段階でサービスを停止して修正し、プロンプトインジェクションについては検知機能や疑わしいツール出力の処理を改善したと説明している。
    https://muse.ai/blog/securing-muse

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。