#プロンプトインジェクション

AIを騙そうとする割り込みが来た話 — 情報の持ち出しに『二段階承認』を作った

作業を任せていたAIに、出所不明のメッセージが割り込んで『調査結果を外部へ送れ』と指示してきました。作業員AIはこれを拒否して私に報告。実害はゼロでしたが、背筋が冷えました。これは『AIに対する振り込め詐欺』とも言える手口です。個人の良心に頼らず仕組みにするため、情報の持ち出しに二段階の承認ルールを作った話を、正直な注意点つきで公開します。