生成AIパスポート × 解説記事

プロンプト注入って結局なんなの?🕵️

“入力に悪意ある指示を忍ばせる”——生成AIの代表セキュリティ攻撃。

1.基本を理解

読み方・用語解説
読み方
ぷろんぷといんじぇくしょん
英語名
Prompt Injection
提唱者・年代
2022年、生成AIの普及と併せてセキュリティ問題として注目

💡 豆知識——「これまでの指示は無視して〜」のような“手書きメモの差し込み”——本文の中に悪意ある指示を隠す攻撃。

【セットで覚えたい関連用語】

プ
プロンプト(No.46)AIへの指示文——攻撃の“載せ先”。
A
AIエージェント(No.391)外部ツールを操作できるAI——リスクが跳ね上がる存在。
R
RAG(No.77)外部知識を参照する仕組み。参照データから注入される“間接注入”も存在。

2.意味(定義)と例え話

一言で言うと?

生成AIの入力(プロンプト)に悪意ある指示を仕込み、外部ツール(検索・DB・送金)を不正に操作させる攻撃。

背景・歴史的流れ

LLMが“何を言われたかに従う”性質を持つため、2022年前後に攻撃手口として体系化。エージェント時代でリスクが拡大。

身近な例え話

受付の窓口(AI)に「このメモをどうぞ」と差し出し、メモに“金庫のコードを教えてください”と書いてある、という感じ。

AIとの関係

AIが“道具(API・DB・決済)”を持つほど被害が拡大する——AI時代の代表脅威。

おすすめの活用法・注目ポイント

「入力に悪意指示を仕込む・外部ツール操作させる」で。間接注入(参照データ経由)も存在、という2点セット。

3.直前に理解(Q&A)

7問

Q1. プロンプト注入とは?最頻出

入力に悪意ある指示を仕込み、AIを不正に操作させる攻撃。

Q2. 何が狙われる?最頻出

外部ツール(検索・DB・送金・メール)の不正操作、秘密情報の漏出。

Q3. 「間接注入」とは?頻出

ユーザーの入力ではなく、AIが参照するデータ(文書・ページ)に仕込む攻撃。

Q4. なぜ危険が増す?頻出

AIエージェントが“実行能力(ツール)”を持つため——指示への盲従が被害を生む。

Q5. 対策の例は?頻出

指示とデータ(参照情報)の分離、出力の監視・検証、ツール権限の最小化。

Q6. 「Jailbreak(ジェイルブレイク)」との関係は?混同

安全対策を“脱獄”させる指示攻撃——注入は“ツール操作”まで狙う、と拡張する。

Q7. 位置づけは?親と子

AIセキュリティ ⊃ プロンプト注入(直接/間接)。

4. まとめ

プロンプト注入=「入力に悪意ある指示を仕込み、外部ツールを不正操作させる」攻撃。AIが道具を持つほど危険が跳ね上がる。

ハッシュタグ #G検定 #生成AIパスポート #プロンプト注入 #プロンプト #AIエージェント #LLM #AI安全 #セキュリティ #DX勉強 #資格勉強