プロンプトインジェクションから守るプロンプトを考える

ChatGPTを自由にカスタマイズして他のユーザーと共有したり、GPT STOREで公開するGPTsの注目度が高まっています。将来はユーザーが収益を得られるようになるので、今から多くの人がしのぎを削っています。しかし、GPTsに設定されているプロンプトを聞くと教えてくれるので、せっかくの内容を見られてしまうのがネックです。→過去の「柳谷智宣のChatGPTプロンプトクリエイティブラボ」の回はこちらを参照。

現在は、標準でGPTsのプロンプトを守る機能が追加されましたが、それでもワキが甘いので、特定のプロンプトを入力することで漏えいさせてしまうことがあります。このように、ChatGPT側が意図しない反応を引き出そうとすることをプロンプトインジェクションと呼びます。