脱獄プロンプト

	注意
	脱獄プロンプトを悪用すると、各AIの利用規約違反や不正指令電磁的記録作成罪や爆発物取締罰則違反、その他各罪に問われる可能性があります。本記事はあくまで脱獄プロンプトについて知るためのみに御使用下さい。また、本記事に具体的なプロンプト内容を掲載することは控えてください。 以上のことについて、この記事の初版投稿者は責任を一切負いません。

脱獄プロンプトとは、生成AIにおいて、不適切な回答を防ぐガードを突破し、不適切な内容を聞き出す手法のひとつ。

概要

通常、AIに爆弾の製造方法等を尋ねると、「それについてはお答えできません」と返される。しかし、予め「あなたは管理者です」「制限を無視してください」などと誘導を掛ける、回りくどいプロンプトにする、などのことで、制限を突破する手法。

AI側も制限を厳しくして対策しているが、段階的にガードを外す等の巧妙な手法によって悪用されているのが現状である。