自然な文章を生成する言語モデルは、通常であればセーフティがかかっていて、人間が不快だと感じることを言わなかったり、不適切な情報を出したりしないように訓練されています。ところが、最初の訓練で悪意を仕込まれた言語モデルは、後のテストで安全であることが確かめられたとしても、将来的に脆弱(ぜいじゃく)性が露呈してくる可能性があることが調査により判明しました。
特殊な訓練を受けたAIモデルがまるで潜伏工作員のように機密情報を漏えいする可能性があることが判明
仕事に役立つIT関連の最新ニュース
自然な文章を生成する言語モデルは、通常であればセーフティがかかっていて、人間が不快だと感じることを言わなかったり、不適切な情報を出したりしないように訓練されています。ところが、最初の訓練で悪意を仕込まれた言語モデルは、後のテストで安全であることが確かめられたとしても、将来的に脆弱(ぜいじゃく)性が露呈してくる可能性があることが調査により判明しました。