AI政策動向マンスリー情報

AIセーフティに関する内容を中心に、国内外の主なAI政策動向をお届けします。
なお、情報収集の都合上、項目ごとに掲載対象期間が異なる場合がございます。

日本AISIの活動（10月1日～10月31日）

  1. （2025/10/01）「第2回 AI利活用における民事責任の在り方に関する研究会」に、オブザーバとして参加
    2025年10月1日、経済産業省 商務情報政策局 情報経済課が主催する「第2回 AI利活用における民事責任の在り方に関する研究会」に、日本AISIがオブザーバとして参加した。
    https://www.meti.go.jp/shingikai/mono_info_service/ai_utilization_civil/002.html

  2. （2025/10/02）「事業実証WG上期報告会」を開催
    2025年10月2日、日本AISIは、AISI事業実証ワーキンググループ(WG)における各サブワーキンググループ(SWG)の活動についての初の報告会を開催した。
    https://aisi.go.jp/activity/activity_information/251003/

  3. （2025/10/08）「LLMの安全性ベンチマークをAll Japan/One Teamで構築するプロジェクト」のキックオフミーティングを開催
    2025年10月8日、日本AISIは、国立情報学研究所　大規模言語モデル研究開発センターと共に、LLMの安全性ベンチマークに関する活動のキックオフミーティングを開催した。
    https://aisi.go.jp/activity/activity_information/251009/
    https://llmc.nii.ac.jp/topics/post-1884/

  4. （2025/10/09）GenAI HR Awards 2025に、副所長の西村が登壇
    2025年10月9日、⼀般社団法⼈⽣成 AI 活⽤普及協会（GUGA）が主催する 「GenAI HR Awards 2025」 のパネルディスカッションにおいて、副所長の西村が登壇した。
    https://guga.or.jp/awards2025/

  5. （2025/10/14）CEATEC2025「AI×データスペース社会への挑戦」に、副所長の平本が登壇
    2025年10月14日、一般社団法人電子情報技術産業協会（JEITA）が主催する 「CEATEC 2025」 のセッション「AI×データスペース社会への挑戦」において、副所長の平本が登壇した。
    https://www.ceatec.com/ja/conference/detail.html?id=2953

  6. （2025/10/16）マイナビTECH+ サイバーセキュリティセミナーin広島にて、副所長の西村が講演
    2025年10月16日、株式会社マイナビ TECH+セミナー運営事務局が主催する 「サイバーセキュリティセミナーin広島」において、副所長の西村が「AI時代におけるサイバーセキュリティ　～サイバー攻撃のトレンドとAIへの対策～」と題して講演を行った。
    https://news.mynavi.jp/itsearch/seminar/1479

  7. （2025/10/21）Security Days Fall 2025にて、副所長の平本が講演
    2025年10月21日、 株式会社ナノオプト・メディアが主催するSecurity Days Fall 2025において、副所長の平本が「イノベーションを支えるAIセーフティ」と題して講演を行った。
    https://f2ff.jp/event/secd#outline

  8. （2025/10/22）第80回 ISSスクエア水平ワークショップにて、桐淵研究員が講演
    2025年10月22日、 ISSスクエア主催する第80回 ISSスクエア水平ワークショップにおいて、桐淵研究員が「AI セーフティを支えるレッドチーミング」と題して講演を行った。
    https://iss.iisec.ac.jp/event/details/80th-ISS2-workshop.html

  9. （2025/10/29）米Anthropic社とMOCを締結
    2025年10月29日、日本AISIは、米国のAI開発企業であるAnthropic社（共同創業者兼CEO ダリオ・アモデイ）とMOC（Memorandum of Cooperation）を締結した。本MOCは、AI評価の科学の進展を目的とし、AIモデルの能力、限界、潜在的リスクを企業が評価するための手法に関する情報交換とベストプラクティスの共有を行うことに合意したものである。
    https://aisi.go.jp/activity/activity_international/251029/

  10. （2025/10/31）「AIセーフティに関する具体的な影響の調査報告書」を公開
    2025年10月31日、日本AISIは、AIシステムが社会に与える具体的な脅威状況に関する調査を実施し、その結果を取りまとめた「AIセーフティに関する具体的な影響の調査報告書」を公開した。
    https://aisi.go.jp/output/output_information/251031/

国内AI政策動向（10月1日～10月31日）

  1. （2025/10/01）経済産業省、第２回AI利活用における民事責任の在り方に関する研究会を開催
    経済産業省は10月1日、第２回AI利活用における民事責任の在り方に関する研究会を開催。画像認識AIと検査装置を組み合わせた検品サービスの検知ミス、画像生成AIによる広告用画像が実在のタレントに酷似していることによるパブリシティ権侵害などのケースについて検討が行われた。
    https://www.meti.go.jp/shingikai/mono_info_service/ai_utilization_civil/002.html

  2. （2025/10/08）経済産業省のAIロボティクス検討会、戦略の方向性の骨子を公表
    経済産業省が2025年8月に設置したAIロボティクス研究会は10月8日、とりまとめとして「戦略の方向性の骨子」を公表した。本骨子では、AIロボティクス戦略の方向性において、プライバシー、セーフティ、セキュリティの確保について触れている。
    https://www.meti.go.jp/shingikai/mono_info_service/ai_robotics/20251008_report.html
    https://www.meti.go.jp/shingikai/mono_info_service/ai_robotics/pdf/20251008_1.pdf

  3. （2025/10/09、17）総務省、AIセキュリティ分科会の第２回、第3回会合を開催
    総務省はAIセキュリティ分科会の第２回、第3回会合を開催。第2回会合では「行政の進化と確信のための生成AIの調達利活用に係るガイドライン（デジタル庁）」の紹介、プロンプトインジェクション攻撃の事例と対策、第3回会合ではAI開発者におけるAIセーフティ対策事例が議題となっている。
    https://www.soumu.go.jp/main_sosiki/kenkyu/cybersecurity_taskforce/02cyber01_04000001_00326.html
    https://www.soumu.go.jp/main_sosiki/kenkyu/cybersecurity_taskforce/02cyber01_04000001_00328.html

海外主要国のAI政策動向　※日時は現地時間

【米国】（10月1日～10月31日）

  1. （2025/10/13）カリフォルニア州知事、コンパニオンチャットボット法（SB243）に署名
    カリフォルニア州知事は、AIチャットボットの安全対策に関する米州初の法律となるコンパニオンチャットボット法（SB243）に署名し、同法案が成立した。同法は、AIチャットボットの提供者に対し、AIを使用しているコンパニオンチャットボットであることの明示、自殺や自傷行為を促すコンテンツを防止するためのプロトコルの維持及び公開などのほか、未成年に対する追加的な措置を義務付けるもの。（2026年1月1日施行予定）
    https://legiscan.com/CA/text/SB243/

【欧州】（10月1日～10月31日）

  1. （2025/10/08）欧州委員会、欧州の産業と科学における AI の導入を加速するための 2 つの戦略を開始
    欧州委員会は10月8日、主要産業におけるAIの導入を促進し、AI主導型科学の最前線に立つため、Apply AI Strategy及びAI in Science Strategyの2つの戦略を開始した。後者で構築する、AIの計算能力、データ、研究資金などの資源をプールする仮想的な機関であるResource for AI Science in Europe (RAISE) は、信頼性が高く安全で人間中心のAIシステムの開発にも資する。
    https://ec.europa.eu/commission/presscorner/detail/en/ip_25_2299

  2. （2025/10/22）英国AISI、AI 制御実験を実行するためのライブラリ、ControlArenaを公開
    英国AISI は10月22日、AI 制御実験を実行するためのライブラリ、ControlArenaを公開した。AIシステムがより強力かつ自律的になるにつれ、人間によるAIシステムの制御維持はAI セキュリティにおける中心的な課題の一つとなっており、開発者がAI制御実験を容易に行えるように本ライブラリが提供されている。
    https://www.aisi.gov.uk/blog/introducing-controlarena-a-library-for-running-ai-control-experiments

【アジア（中国、韓国、インド、シンガポール）】（10月1日～10月31日）

  1. （2025/10/10）インド・DoTとITUは、ニューデリーで開催されたIndia Mobile Congress 2025で「AI for Goodサミット」を主催
    インド通信省電気通信局（DoT）と国際電気通信連合（ITU）は10月10日、ニューデリーで開催された「India Mobile Congress 2025」において、「AI for Good – Impact India」カンファレンスを主催した。カンファレンスでは、医療、農業、気候変動などの国家課題にAI技術を活用することを目的とし、責任あるAIの推進と国際協力の重要性が強調された。また、AIガバナンス、倫理、サイバーセキュリティについても議論された。
    https://www.pib.gov.in/PressReleasePage.aspx?PRID=2177326

  2. （2025/10/10）中国政府、行政分野におけるAI大規模モデルの展開・応用ガイドラインを策定
    中国政府は、行政分野におけるAI大規模モデルの発展と応用を規範化し、行政のデジタル化・知能化およびサービスレベルの向上を目指すガイドラインを制定した。このガイドラインは、「AIの人間中心の規範的応用」「安全確実」「実効性の追求」を基本方針とし、行政の革新的発展を促進するとともに、ガバナンス効率の向上、サービス管理の最適化、科学的政策決定の支援を実現するため、行政サービス、社会ガバナンス、意思決定支援におけるAIの活用を推進するものである。
    https://www.cac.gov.cn/2025-10/10/c_1761819469929310.htm

  3. （2025/10/28）中国・全国人民代表大会常務委員会は、『中華人民共和国サイバーセキュリティ法』の改正を決定
    全国人民代表大会常務委員会は、『中華人民共和国サイバーセキュリティ法』の改正を決定した。これにより、AIの推進、およびAI等新技術のサイバーセキュリティへの活用に関する新たな条項が追加される。前者においては、AIの倫理規範の改善、リスク監視評価と安全監督の強化、AIの応用と健全な発展の促進などが規定されている。（2026年1月1日施行予定）
    https://www.gov.cn/yaowen/liebiao/202510/content_7046194.htm

国内の主要なAI関連レポート等(10月1日～10月31日)

  1. （2025/10/20）国立国会図書館 調査及び立法考査局、「科学研究とAI－サイエンスはどう変わるのかー」を公表
    https://dl.ndl.go.jp/view/prepareDownload?itemId=info:ndljp/pid/14494126

  2. （2025/10/23）独立行政法人 情報処理推進機構、IPAテクニカルウォッチ「AIの動作・分析・利用方法の説明に関するアンケート調査レポート」を公表
    https://www.ipa.go.jp/security/reports/technicalwatch/20251023.html

海外の主要なAI関連レポート等（10月1日～10月31日）　※日時は現地時間

  1. （2025/10/06）G7サイバー専門家グループ(CEG)、金融分野における「人工知能とサイバーセキュリティに関するG7サイバー専門家グループ声明:2025年9月」を公表
    https://www.gov.uk/government/publications/g7-cyber-expert-group-statement-on-ai-and-cybersecurity/g7-cyber-expert-group-statement-on-artificial-intelligence-and-cybersecurity-september-2025

  2. （2025/10/15）英国政府、「International AI Safety Report」に機能とリスクへの影響に関するアップデートを実施
    https://internationalaisafetyreport.org/publication/first-key-update-capabilities-and-risk-implications

  3. （2025/10/20）金融安定理事会、「金融セクターにおけるAI導入と関連する脆弱性の監視」に係る報告書を公表
    https://www.fsb.org/2025/10/fsb-outlines-next-steps-for-authorities-on-ai-monitoring/