Reprompt攻撃はどのような手口ですか？
- コンステラ
- 1月16日
- 読了時間: 1分
更新日：1月16日
A. 正規リンクに細工した指示を埋め込む手口です。
CopilotのURLパラメータに命令を仕込み、1回のクリックだけで処理が始まります。
悪意のあるプラグインの利用や、利用者による追加操作は不要とされています。
指示を繰り返す構成により、最初の保護が想定どおり機能しない場合があります。
やり取りが継続するよう制御され、チャット終了後もセッションが維持されることもあります。
生成AIの活用が広がる中、AIがアクセスできる情報が意図せず流出する可能性がある点には注意が必要です。
👉 詳細のブログはこちら