SHIRITAS

用語集

プロンプトインジェクション

外部の文章に紛れた「指示」にAIがだまされ、本来の目的と違う応答や行動をしてしまう攻撃・問題のこと。入力をそのまま信じてしまうと起きやすい。

たとえば: 案内板にこっそり貼られた偽の張り紙を信じて、別の場所へ誘導されるようなもの。

AIによる解説です。正確さは、別のAIで照合していますが、誤りが含まれる可能性があります。

この言葉が出てくる記事