文章(プロンプト)を入力するだけで好みの画像を出力できる画像生成AI「Stable Diffusion」には、性的な画像が生成された際に画像を黒く塗りつぶして非表示にするセーフティフィルター機能が搭載されています。そんなStable Diffusionのセーフティフィルターを回避する「Prompt dilution(プロンプト希釈法)」と呼ばれる手法が発表されました。
Stable Diffusionの18禁画像セーフティフィルターをだます「プロンプト希釈法」が発見される
仕事に役立つIT関連の最新ニュース
文章(プロンプト)を入力するだけで好みの画像を出力できる画像生成AI「Stable Diffusion」には、性的な画像が生成された際に画像を黒く塗りつぶして非表示にするセーフティフィルター機能が搭載されています。そんなStable Diffusionのセーフティフィルターを回避する「Prompt dilution(プロンプト希釈法)」と呼ばれる手法が発表されました。