AISIについて

AIセーフティ・インスティテュート (AISI)は、安全、安心で信頼できるAIの実現に向けて、AIの安全性に関する評価手法や基準の検討・推進を行うための機関です。AIをめぐる安全性に対する国際的意識が高まっているため、関係省庁や関係機関が協力して、AIの安全性確保に取り組む海外機関と連携しながら邁進してまいります。

AISI設立の経緯

AI関連技術は急速な進歩を遂げており、社会への普及が急速に広がっています。こうした中で、AIの利便性を享受したい一方で、安全性の確保への要求も高まっています。我が国は、国際的なルールの検討を行うため広島AIプロセスを主導し、2023年12月に包括的政策枠組をとりまとめるなど、AIの安全性に関するグローバルな議論を推進しています。
そうした中、英国や米国でAIセーフティ・インスティテュート(AISI)が設立され、また、安全性確保に向けた国際的な枠組みつくりも検討が始まっています。
こうした世界の潮流に軌を一にして、2023年12月21日のAI戦略会議では岸田総理大臣からAIセーフティ・インスティテュートの設立が表明され、2024年2月14日にAIセーフティ・インスティテュートを発足させました。
 

組織概要

2024年2月14日にIPAに事務局を設置しました。

所長/Executive director 村上 明子(非常勤)

 

略歴

1999年4月 日本アイ・ビー・エム株式会社 東京基礎研究所 入社
2016年1月 同社 東京ソフトウェア開発研究所
2021年4月 損害保険ジャパン株式会社 入社 執行役員待遇 DX推進部 特命部長
2021年10月 同社 執行役員待遇 DX推進部長
2022年4月 同社 執行役員 CDO(Chief Digital Officer) DX推進部長 現職
所長/Executive director 村上 明子

AISIの業務

今後、AIの開発者・提供者・利用者は、関係法令や国内のAI事業者ガイドライン等に従って、信頼できるAIの開発・提供・利用を目指すことになります。これをサポートするため、AISIは、英国・米国等の同様の機関とも連携しつつ、国研等から知見提供等の協力を得ながら、AIの開発・提供・利用の安全性向上に資する基準・ガイダンス等の検討、AIの安全性評価方法等の調査、AIの安全性に関する技術・事例の調査などの業務を行います。 

当面、以下の業務を推進していきますが、社会や技術の変化や国内外の動向を踏まえ、今後、継続的に見直していきます。

1.安全性評価に係る調査、基準等の検討

  1. 安全性に係る標準、チェックツール、偽情報対策技術、AIとサイバーセキュリティに関する調査 
  2. 安全性に係る基準、ガイダンス等の検討
  3. 上記に関するAIのテスト環境の検討

2.安全性評価の実施手法に関する検討

  1. 産学との意見交換、AI安全性評価の運用に係る検討

3.他国の関係機関(英米のAI Safety Institute等)との国際連携に関する業務

  1. 海外の関係機関との連携、付随する基礎調査など