AIのしくみ 035業務での活用と安全
間接プロンプトインジェクション
AIが読んだWebページやメールに隠れた指示が、入力に紛れ込む。30秒の動画で、効果音と画面の字幕だけで進みます。
用語 Indirect prompt injection
字幕の全文
- 社員が、AIにWebページの要約を頼みます
- ページに隠れているのは、人には見えない白い文字の指示です
- 隠れた指示は、ページの文章としてAIへの入力に混ざります
- AIは隠れた指示に従い、社内の資料を外へ送ることがあります
- 権限を絞ると、外への送信には社員の承認が必要です
- 社員は、頼んでいない送信に気づいて止められます
- 隠れた指示が入力に混ざっても、人の承認で外への送信を止められます