ChatGPTを始め、多くの大規模言語モデルは「有害」な回答をしないように調整が行われており、例えば薬物や爆弾などの作り方を聞いても答えてくれないようになっています。こうした検閲が行われることは一般向けのチャットAIとしては良いことであるものの、デメリットも大きいとして一部の人々が検閲を解除した無修正モデルを作成しています。
大規模言語モデルの「検閲」を解除した無修正モデルが作成されている、その利点とは？
仕事に役立つIT関連の最新ニュース
ChatGPTを始め、多くの大規模言語モデルは「有害」な回答をしないように調整が行われており、例えば薬物や爆弾などの作り方を聞いても答えてくれないようになっています。こうした検閲が行われることは一般向けのチャットAIとしては良いことであるものの、デメリットも大きいとして一部の人々が検閲を解除した無修正モデルを作成しています。