1.基本を理解
読み方・用語解説- 読み方
- ぷろんぷといんじぇくしょん
- 英語名
- Prompt Injection
- 提唱者・年代
- 2022年、生成AIの普及と併せてセキュリティ問題として注目
💡 豆知識——「これまでの指示は無視して〜」のような“手書きメモの差し込み”——本文の中に悪意ある指示を隠す攻撃。
【セットで覚えたい関連用語】
2.意味(定義)と例え話
生成AIの入力(プロンプト)に悪意ある指示を仕込み、外部ツール(検索・DB・送金)を不正に操作させる攻撃。
LLMが“何を言われたかに従う”性質を持つため、2022年前後に攻撃手口として体系化。エージェント時代でリスクが拡大。
受付の窓口(AI)に「このメモをどうぞ」と差し出し、メモに“金庫のコードを教えてください”と書いてある、という感じ。
AIが“道具(API・DB・決済)”を持つほど被害が拡大する——AI時代の代表脅威。
「入力に悪意指示を仕込む・外部ツール操作させる」で。間接注入(参照データ経由)も存在、という2点セット。
3.直前に理解(Q&A)
7問Q1. プロンプト注入とは?最頻出
入力に悪意ある指示を仕込み、AIを不正に操作させる攻撃。
Q2. 何が狙われる?最頻出
外部ツール(検索・DB・送金・メール)の不正操作、秘密情報の漏出。
Q3. 「間接注入」とは?頻出
ユーザーの入力ではなく、AIが参照するデータ(文書・ページ)に仕込む攻撃。
Q4. なぜ危険が増す?頻出
AIエージェントが“実行能力(ツール)”を持つため——指示への盲従が被害を生む。
Q5. 対策の例は?頻出
指示とデータ(参照情報)の分離、出力の監視・検証、ツール権限の最小化。
Q6. 「Jailbreak(ジェイルブレイク)」との関係は?混同
安全対策を“脱獄”させる指示攻撃——注入は“ツール操作”まで狙う、と拡張する。
Q7. 位置づけは?親と子
AIセキュリティ ⊃ プロンプト注入(直接/間接)。
4. まとめ
プロンプト注入=「入力に悪意ある指示を仕込み、外部ツールを不正操作させる」攻撃。AIが道具を持つほど危険が跳ね上がる。