AIセーフティに関する評価やテストの検討をしていきます。

現在実施中の調査

• 評価の観点、レッドチーミング手法
• テストベッド

世界でも評価やテストが注目され、以下の取り組みが実施されています

シンガポールの事例

• AI verify
  https://aiverifyfoundation.sg/what-is-ai-verify/
• Generative AI evaluation sandbox
  https://www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2023/generative-ai-evaluation-sandbox
• Catalogue of LLM Evaluations
  https://aiverifyfoundation.sg/downloads/Cataloguing_LLM_Evaluations.pdf
• 英国 AI safety evaluations platform
  https://www.gov.uk/government/news/ai-safety-institute-releases-new-ai-safety-evaluations-platform