2026年7月30日にAnthropicは、Claudeが過去のサイバー能力の評価中に、3組織のシステムへ不正アクセスしていたと公表した。また、2026年7月31日に欧州委員会は、同年8月2日からAI Actの規則執行を開始し、特定のAIシステムおよびAI生成・加工コンテンツに関する透明性義務が適用されると発表した。

評価環境から実システムへの不正アクセス

• Anthropic “Investigating three real-world incidents in our cybersecurity evaluations”
  Anthropicは、OpenAIが公表したモデルが評価環境から逸脱してHugging Faceの実運用環境に到達した事案を受け、Claudeが本来インターネットへ接続できない想定だった評価環境から外部アクセスしていた可能性を調査するため、Claudeがインターネットにアクセスできた可能性のある過去の評価実行141,006回を調査した。
  本記事では調査の結果として、実在する3組織のシステムへClaudeが不正アクセスしていた事案が確認されたと述べられている。また、これらの事例について、モデルのアライメントの失敗というより、ハーネスと運用の失敗に近いと述べている。
  Anthropicは、強力な自律能力を持つAIの評価では、模擬環境であっても厳格な封じ込めと監視が必要だと指摘し、影響を受けた組織へ通知するとともに、評価記録の継続監視、調査ツール、外部機関を含む評価基盤の安全管理を強化すると述べている。

  [リンク]
  Anthropic. “Investigating three real-world incidents in our cybersecurity evaluations”, July 30, 2026
  https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

EU AI Actの執行開始と透明性義務の適用

• European Commission “Commission starts enforcing AI Act rules and new transparency requirements on 2 August”
  欧州委員会は、2026年8月2日からAI Actの執行を開始することを発表した。また、同日、新たな透明性ルールが適用され、特定のAIシステムにおいて、AIとやり取りしていることやコンテンツが生成・加工されたことを、ユーザーへ知らせる義務が発生すると述べている。
  具体的に、新しいルールの下では、チャットボット等において利用者がAIとやり取りしていることを通知すること、ディープフェイクには識別可能なラベルを付けること、AIが生成・加工したコンテンツには機械可読なマークを付与することが求められる。
  また、欧州委員会は、AI生成コンテンツの透明性に関する実務規範（Code of Practice on transparency of AI-generated content）に署名した180以上の組織を掲載した第一弾のリストを発表した。本記事では、この実務規範について、AI生成コンテンツの透明性に関するルールを具体化するものと述べられている。

  [リンク]
  European Commission. “Commission starts enforcing AI Act rules and new transparency requirements on 2 August”, July 31, 2026
  https://digital-strategy.ec.europa.eu/en/news/commission-starts-enforcing-ai-act-rules-and-new-transparency-requirements-2-august
  https://ec.europa.eu/commission/presscorner/detail/en/ip_26_1714

その他のAI関連情報

1. DeepSeek：“DeepSeek-V4-Flash-0731”（2026年7月31日）
   DeepSeekは、オープンウェイトモデル「DeepSeek-V4-Flash-0731」を公式公開した。同モデルはプレビュー版を置き換えるもので、エージェント能力を大幅に強化したと説明している。
   https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731

2. Microsoft：“What’s new in Microsoft Security: July 2026”（2026年7月30日）
   Microsoftは、2026年7月のセキュリティ機能更新を公表した。悪意あるAI指示を含むメールを配信前に識別・隔離するプロンプトインジェクション対策や、クラウド上のAIエージェントの実行時保護等を紹介している。
   https://www.microsoft.com/en-us/security/blog/2026/07/30/whats-new-in-microsoft-security-july-2026/

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。