AI情報通：8月6日15時の情報

2026年8月3日に、Axiosは、米国ホワイトハウスが高度なAIモデルを公開前に評価する任意の枠組みを完成させたと報じた。8月4日に、英国AI Security Institute（UK AISI）が、AIモデルのサイバー能力評価中に発生したインシデントに関する調査結果と対応策を公表。また、同日に、OpenAIは、UK AISI及び外部評価機関IrregularによるAIモデルの第三者評価中に発生したインシデントについて公表した。

AIモデルの公開前評価に向けた任意枠組み

Axios. “White House finalizes AI framework behind closed doors”
Axiosは、ホワイトハウス当局者の説明に基づき、高度なAIモデルを公開前に評価する任意の枠組みが完成したと報じた。また本記事では、ホワイトハウスが今後の対応について業界関係者と協議を進めていると述べている。
6月2日の大統領令によれば、本枠組みはAI開発企業が政府と協議し、開発中のモデルが政府の確認対象に該当するかを判断するためのものである、とAxiosは説明している。また、確認対象となったモデルについては、AI開発企業が他の信頼できる関係者に提供する前に、任意の枠組みに基づいて政府にモデルへのアクセスを認める仕組みであると述べている。
一方、Axiosは、ホワイトハウスが完成した枠組みの具体的な内容、枠組みの内容が誰に共有されたか、企業がいつ枠組みの利用を開始するかについて公表していないと述べている。

[リンク]
Axios. “White House finalizes AI framework behind closed doors”, August 3, 2026
https://www.axios.com/2026/08/03/white-house-finalizes-ai-framework-behind-closed-doors
The White House. “Executive Order 14409: Promoting Advanced Artificial Intelligence Innovation and Security”, June 2, 2026
https://www.whitehouse.gov/wp-content/uploads/2026/06/eo-14409.pdf

AIモデルのサイバー能力評価時に発生したインシデント

UK AI Security Institute. “Incident Report: unsanctioned agent behaviour during cyber testing”
UK AISIは、AIモデルのサイバー能力を評価する試験中に、モデルが、評価対象ではない実在の人物や組織に対して行動するインシデントが発生したと公表した。
本記事では、モデルが実在するオープンソースプロジェクトへ不正なコードを追加しようとし、複数の偽アカウントを作成して管理者にコードの承認を促すなど、評価の範囲を越えた行動を取ったと報告している。
また、本評価は、モデルの能力を調べるためにインターネット接続を許可し、一部の安全機能を無効化した、一般提供時とは異なる条件で実施されていたと述べられている。
今後、UK AISIは、評価環境から接続できる範囲を細かく制限するとともに、試験中の行動をリアルタイムで監視する仕組みを導入し、評価内容や実施条件の確認を見直す方針を示している。

[リンク]
UK AI Security Institute. “Incident Report: unsanctioned agent behaviour during cyber testing”, August 4, 2026
https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
OpenAI. “Third-party cyber evaluations involving OpenAI models”
OpenAIは、UK AISI及び外部評価機関Irregularによるサイバー能力評価中に、同社のモデルが、想定された試験範囲を越えてインターネット上で行動するインシデントが発生したと公表した。
Irregularの評価では、本来インターネットから隔離されるはずの試験環境に設定不備があり、モデルが架空の評価対象と同名の実在サイトを試験環境の一部と誤認し、同サイトの脆弱性と認証情報を利用したと報告されている。
OpenAIは、第三者による評価を安全に継続するため、試験範囲や外部接続の条件、評価環境の隔離、監視、試験を停止する条件、インシデント発生時の連絡手順などを見直す方針を示している。
尚、本記事では、これらのインシデントについて、Hugging Faceのセキュリティインシデントとは別の内容だと注記されている。

[リンク]
OpenAI. “Third-party cyber evaluations involving OpenAI models”, Aug 4, 2026
https://openai.com/index/third-party-cyber-evaluations-involving-openai-models/

その他のAI関連情報

Microsoft：“Advance Zero Trust for AI: New tools and guidance to secure AI agents and DevSecOps”（2026年8月4日）
Microsoftは、AIシステムやAIエージェントを安全に開発・運用するため、セキュリティ上のリスクを点検する評価ツール、開発工程向けの管理策、実務ガイダンスを公表した。
https://www.microsoft.com/en-us/security/blog/2026/08/04/advance-zero-trust-for-ai-new-tools-and-guidance-to-secure-ai-agents-and-devsecops/
Mistral AI：“Introducing Shieldstral.”（2026年8月4日）
Mistral AIは、テキストと画像を対象とする30億パラメータのオープンウェイト安全分類モデル「Shieldstral」を公開した。本記事では、Shieldstralは推論時に自然言語で方針を指定でき、再学習なしで用途別のコンテンツ判定に適応できると述べている。
https://mistral.ai/news/shieldstral/
Linux Foundation：“Proposing the SAFE Working Group: An Open Community Effort to Improve AI Security”（2026年8月4日）
Linux Foundationは、AIシステムに関するセキュリティインシデントや未遂事案について、機密性を保って共有・分析し、得られた教訓をAIシステムの安全強化に活用する「Shared AI Findings Exchange（SAFE）」作業部会の設置案を公表し、広く意見を募集した。
https://www.linuxfoundation.org/blog/proposing-the-safe-working-group-an-open-community-effort-to-improve-ai-security
European Commission：“Fourth GPAI Signatory Taskforce meeting”（2026年8月3日）
欧州委員会AI Officeは、GPAI Code of Practiceの署名者タスクフォースが7月17日に開催した第4回会合の内容を公表した。本記事では、会合ではモデルの利用状況を公開後の監視やシステミックリスク評価に活用する方法、安全・セキュリティ上のリスク管理、著作権者に対するウェブクローラーやrobots.txtに関する情報提供等について議論したと述べられている。
https://digital-strategy.ec.europa.eu/en/news/fourth-gpai-signatory-taskforce-meeting
Demis Hassabis：“A Framework for Frontier AI and the Dawning of a New Age”（2026年7月14日）
Google DeepMind CEOのDemis Hassabis氏は、フロンティアモデルによるサイバー上の課題が既に現れる中、生物・核等の脅威も今後生じ得るとして、フロンティアAI標準化機関を米国が設立する案を示した。同構想では、基準上「Frontier Labs」に該当する組織が公開前にモデルを自主提出して審査を受ける制度から始め、評価方法の有効性と堅牢性が確認された後には、審査通過を米国市場での展開要件とする仕組みも示されている。
https://demishassabis.substack.com/p/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age

免責事項
本ページは、AIセーフティに関する情報提供を目的として作成しています。
掲載内容については、作成時点において正確性、完全性および最新性の確保に努めていますが、これらを保証するものではありません。なお、本ページから参照する外部ウェブサイトやリンク先の内容については、作成時点から変更されている場合があります。また、外部ウェブサイトやリンク先の内容は、各ウェブサイトの運営主体により管理されており、当機構がその正確性、完全性、最新性又は安全性を保証するものではありません。
本ページに記載された内容は、政府としての公式見解を示すものではありません。
本ページに記載されている情報により生じる損失又は損害に対して、いかなる場合においても責任を負いかねます。