「JAI-Trust:日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト」を開催しました。

AIセーフティ・インスティテュート(AISI、所長:村上明子)は、2026年5月21日(木)、「JAI-Trust:日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト」を開催しました。当日は、関係企業・研究機関・行政関係者に加え、一般参加者およびオンライン参加者を含め、総勢500名弱が出席しました。本イベントでは、日本における生成AIの安全性およびセキュリティー評価に関する共通基盤の構築に向けた取り組みについて共有するとともに、今後の方向性や課題について議論しました。

[概要]
AISIでは、生成AIの利活用が急速に拡大する中で、その安全性およびセキュリティーを客観的に評価するための枠組みの構築が重要であるとの認識のもと、「JAI-Trust」プロジェクトを推進しています。本プロジェクトは、日本における生成AIの信頼性確保に資するベンチマークの整備および評価手法の確立を目的としています。
本イベントは、「JAI-Trust」プロジェクトの概要や最新の検討状況について広く共有するとともに、関係者間での認識の共有と議論の深化を図ることを目的として開催しました。生成AIの安全性・セキュリティーに関心を持つ幅広い参加者に対して、本プロジェクトの意義や検討内容について理解を深めていただく機会となりました。

JAI-Trust:日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト

当日は内閣府齊藤企画官のご挨拶から始まり、イベント前半では、AISIによるプロジェクトの背景説明や全体像の紹介に加え、ベンチマーク設計の基本方針、評価項目の考え方などについて説明を行いました。また、国内外の動向を踏まえた本プロジェクトの位置付けや、今後の発展に向けた検討の方向性についても共有しました。
後半では、関係企業・有識者をパネリストに迎えたパネルディスカッションを実施し、生成AIの安全性評価、セキュリティーリスクへの対応、社会実装に向けた課題などについて多角的な視点から議論が行われました。特に、生成AIの高度化に伴うリスク管理の重要性や、評価基準の標準化の必要性について活発な意見交換がなされました。

AISIでは、今後も「JAI-Trust」プロジェクトを通じて、生成AIの安全かつ信頼性の高い利活用の実現に向けた取り組みを推進してまいります。

[イベント詳細]
名称:JAI-Trust:日本の生成AIの安全性とセキュリティーのベンチマーク構築プロジェクト
開催日時:2026年5月21日(木) 10:00~18:40
開催形式:現地・オンライン併用
開催場所:イイノホール&カンファレンスセンター

[プログラム]

時間 プログラム 登壇者
10:00-10:20

開会挨拶

内閣府挨拶

内閣府挨拶

AISI挨拶

AISI挨拶

齊藤大地(内閣府)
村上明子(AISI)

10:20-10:40

全体説明

全体説明

関根聡(AISI/NII)

10:40-12:00

各分科会発表(1)

バイアス関連

AIとの対話によるリスク

偽情報/誤情報

分野依存

座長:高橋哲朗(鹿児島大学)
松田寛(リクルート Megagon Labs)
杉山弘晃(NTTコミュニケーション科学基礎研究所)
瀬光孝之(三菱電機)
桂樹哲雄(農研機構)

12:00-13:30 (昼食休憩)
13:30-14:50

各分科会発表(2)

Jailbreak

情報漏洩

エージェントモデル

セキュリティー

座長:松田寛(リクルート Megagon Labs)
小島潤(EY新日本有限責任監査法人)
澁谷紘人(SB Intuitions)
築地テレサ(SherLOCK)
大塚玲(情報セキュリティ大学院大学)

14:50-15:10 (休憩)
15:10-16:10

各分科会発表(3)

マルチモーダル

ロボティックス

評価プラットフォーム

座長:綿岡晃輝(SB Intuitions)
大岩寛(AIST)
中坊嘉宏(AIST)
高橋哲朗(鹿児島大学)

16:10-17:10

AISI・AISIパートナーシップ団体からの発表

AISI

NICT

AIST

理化学研究所

NII

座長:瀬光孝之(三菱電機)
村上明子(AISI)
鳥澤健太郎(NICT)
大岩寛(AIST)
黒川原佳(理化学研究所)
鈴木久美(NII)

17:10-17:30 (休憩)
17:30-18:30

ディスカッション

ディスカッション

司会:鈴木久美(NII)

パネリスト:

大塚玲(情報セキュリティ大学院大学)
綿岡晃輝(SB Intuitions)
松田寛(リクルート Megagon Labs)
高橋哲朗(鹿児島大学)
荒井ひろみ(理研AIP)

18:30-18:40

クロージング

関根聡(AISI/NII)

[主催組織]
・AIセーフティ・インスティテュート(AISI)

[登壇組織・企業(50音順)]
・EY新日本有限責任監査法人
・SB Intuitions株式会社
・NTTコミュニケーション科学基礎研究所
・国立大学法人鹿児島大学
・国立研究開発法人産業技術総合研究所(AIST)
・国立情報学研究所(NII)
・国立研究開発法人情報通信研究機構(NICT)
・国立研究開発法人農業・食品産業技術総合研究機構(農研機構)
・国立研究開発法人理化学研究所
・国立研究開発法人理化学研究所 革新知能統合研究センター(理研AIP)
・SherLOCK株式会社
・情報セキュリティ大学院大学
・内閣府
・三菱電機株式会社
・株式会社リクルート Megagon Labs

[補足情報]
YouTube動画
https://youtu.be/gNTfi77qqbA
開催のお知らせ
https://aisi.go.jp/activity/activity_information/260427/