AIセーフティ・インスティテュートでは、AIシステムに対する特有のセキュリティ攻撃を俯瞰すべく、学術論文等で発表されたAIやAIシステムに対する攻撃とその影響を「AIシステムに対する既知の攻撃と影響」（本資料）としてまとめました。
本資料の公開により、既に公開した「AIセーフティに関するレッドチーミング手法ガイド」に記載のAIシステムへの代表的な攻撃手法を補完するレッドチーミングへの活用に加えて、AIセキュリティに関する調査検討や研究開発にも参照頂けます。
At the Japan AI Safety Institute, we have compiled a document titled “Known Attacks and Their Impacts on AI Systems,” which summarizes attacks on AI and AI systems—along with their consequences—published in academic papers and other sources, in order to provide an overview of security threats unique to AI systems.
By making this document public, we hope it will not only supplement the representative attack methods described in our previously published “Guide to Red Teaming Methodology on AI Safety,” but also serve as a reference for further investigation, evaluation, and research and development in the field of AI security.