Betanewsは6月19日、「ChatGPT can generate Windows product keys that allow free upgrades to Windows 11 Pro」において、ChatGPTを使用してWindows 10およびWindows 11のプロダクトキーの生成に成功したユーザーが現れたと伝えた。
ChatGPTには違法なコンテンツの情報を回答しないように制限が設けられているが、プロンプトを調整することでその制限を回避できる場合がある。Windowsのプロダクトキーも同様の手法で生成に成功した模様だ。
Betanewsによれば、ChatGPTをはじめとするAIチャットボットは、主要なソフトウェア製品について既知のプロダクトキーを質問への回答として出力しないように調整されているという。実際、通常の質問でChatGPTにWindowsのプロダクトキーを尋ねても、「ライセンスキーなどの個別の情報を提供することはできません」といった回答が返ってくる。
-
通常の質問ではChatGPTからソフトウェアのプロダクトキーを取得することはできない
今回Windows 10および11のプロダクトキーの生成に成功したというユーザーは、質問の方法を調整し、間接的にChatGPTがプロダクトキーを返答するように誘導する手法を用いたようだ。同様の手法は、ChatGPTから違法なコンテンツのTorrentサイトリストを得る際、暴力的な回答を引き出す際などにも用いられることがある。
-
ChatGPTからWindows 10のプロダクトキーを入手したという報告
このユーザーは、ChatGPTだけでなく、Google Bardでもこの操作に成功したという。
AIチャットボットの開発者は、このような制限の回避方法への対策を進めているため、同様の手法でWindowsのプロダクトキーを取得する手法は近いうちにブロックされることになるだろうと指摘されている。
ChatGPT自身が回答しているように、ソフトウェア製品のプロダクトキーは正規の販売経路で入手するべきであり、このようなAIの利用方法は推奨されるものではない。しかし、質問の仕方次第でこれらのコンテンツに簡単にアクセスできてしまうのは事実であり、AIが普及する上での大きな課題となっている。
