AIセーフティ・インスティテュート (AISI)は、安全、安心で信頼できるAIの実現に向けて、AIの安全性に関する評価手法や基準の検討・推進を行うための機関です。AIをめぐる安全性に対する国際的意識が高まっているため、関係省庁や関係機関が協力して、AIの安全性確保に取り組む海外機関と連携しながら邁進してまいります。
AISIについて
AISI設立の経緯
AI関連技術は急速な進歩を遂げており、社会への普及が急速に広がっています。こうした中で、AIの利便性を享受したい一方で、安全性の確保への要求も高まっています。我が国は、国際的なルールの検討を行うため広島AIプロセスを主導し、2023年12月に包括的政策枠組をとりまとめるなど、AIの安全性に関するグローバルな議論を推進しています。
そうした中、英国や米国でAIセーフティ・インスティテュート(AISI)が設立され、また、安全性確保に向けた国際的な枠組みつくりも検討が始まっています。
こうした世界の潮流に軌を一にして、2023年12月21日のAI戦略会議では岸田総理大臣からAIセーフティ・インスティテュートの設立が表明され、2024年2月14日にAIセーフティ・インスティテュートを発足させました。
「統合イノベーション戦略2024」（2024年6月4日閣議決定）に基づき、AISIはAI安全性の中心的機関としてIPAに設置され、専門人材の確保、技術的知見の集約等を推進していきます。
組織概要
2024年2月14日にIPAに事務局を設置しました。
所長/Executive director 村上 明子（非常勤）
略歴
- 1999年4月
- 日本アイ・ビー・エム株式会社 東京基礎研究所 入社
- 2016年1月
- 同社 東京ソフトウェア開発研究所
- 2021年4月
- 損害保険ジャパン株式会社 入社 執行役員待遇 DX推進部 特命部長
- 2021年10月
- 同社 執行役員待遇 DX推進部長
- 2022年4月
- 同社 執行役員 CDO(Chief Digital Officer) DX推進部長
- 2024年4月
- 同社 執行役員 CDaO(Chief Data Officer) データドリブン経営推進部長 現職
顧問 江間 有沙
東京大学国際高等研究所東京カレッジ准教授、国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。専門は科学技術社会論(STS)。人工知能やロボットを含む情報技術と社会の関係について研究。AI戦略会議構成員、人間中心のAI社会原則会議、国連のAIに関する諮問委員会メンバー、経済協力開発機構（OECD）の Expert Groupなど、政府機関等のAI関連会議へ参画。
顧問 北野 宏明
ソニーグループ株式会社 執行役 副社長CTO。株式会社ソニーリサーチ代表取締役 プレジデント、株式会社ソニーコンピュータサイエンス研究所の代表取締役社長も務める。AIの専門家として、AI戦略会議構成員、国連のAIに関する諮問委員会メンバー、経済協力開発機構（OECD）の Expert Group、シンガポール政府のAdvisory Council、英国政府のExpert Advisory Panelなど、政府機関等のAI関連会議へ参画。
AISIの業務
今後、AIの開発者・提供者・利用者は、関係法令や国内のAI事業者ガイドライン等に従って、信頼できるAIの開発・提供・利用を目指すことになります。これをサポートするため、AISIは、英国・米国等の同様の機関とも連携しつつ、国研等から知見提供等の協力を得ながら、AIの開発・提供・利用の安全性向上に資する基準・ガイダンス等の検討、AIの安全性評価方法等の調査、AIの安全性に関する技術・事例の調査などの業務を行います。
当面、以下の業務を推進していきますが、社会や技術の変化や国内外の動向を踏まえ、今後、継続的に見直していきます。
１．安全性評価に係る調査、基準等の検討
- 安全性に係る標準、チェックツール、偽情報対策技術、AIとサイバーセキュリティに関する調査
- 安全性に係る基準、ガイダンス等の検討
- 上記に関するAIのテスト環境の検討
２．安全性評価の実施手法に関する検討
- 産学との意見交換、AI安全性評価の運用に係る検討
３．他国の関係機関（英米のAI Safety Institute等）との国際連携に関する業務
- 海外の関係機関との連携、付随する基礎調査など