AIで開発する › AIと作る安全なアプリ ・ 入門 14 回目（14/16）

ユーザーの文章が、AIへの命令に化ける？｜作る人の指示と分けて、守りを重ねる

これからAIでアプリを作り始める人向け 13分37秒・2026/10/29 公開

再生する（13分37秒）

アプリにAIの部品を入れると、利用者の口コミや投稿、外から届いた文書やWebページに紛れた一文が、AIへの命令として効いてしまうことがあります。これをプロンプトインジェクションと呼びます。架空の観光地チェックインアプリの口コミのまとめ機能を教材に、なぜただの文章が命令に化けるのか、文章が入ってくる道（直接と間接）、作る人の指示と信頼できない文章を分けて渡す設計と、それだけでは確実に防げない理由を話します。道具と権限を絞り、人の確認と出力の確かめを重ねる守り方と、作り物の「わな入りの口コミ」で確かめる方法も紹介します。作り物の口コミを手元のAIに3通りに読ませた結果も見せます。

目次（11）

1. 0:00オープニング
2. 0:531. 口コミに、命令が紛れていた
3. 1:562. まず、そのままAIに読ませてみた
4. 3:103. なぜ、ただの文章が命令に化けるのか
5. 4:494. 入ってくる道は、入力欄だけじゃない
6. 5:595. 作る人の指示と、外の文章を分けて渡す
7. 7:236. 目印だけでは、守りきれない
8. 8:277. 守りを重ねる
9. 10:288. AIへの頼み方と、わなで確かめる
10. 11:439. まとめ
11. 12:40ikijima.com の紹介

再生は押したときだけ読み込みます（YouTube の埋め込み）。声: VOICEVOX:四国めたん　VOICEVOX:白上虎太郎　VOICEVOX:小夜/SAYO　VOICEVOX:ずんだもん