一見無害な画像の中に文字列を埋め込んでAIを攻撃する恐るべき手法が発見される

画像に一見しただけではわからない「隠された文字列」を埋め込み、被害者がこの画像を大規模言語モデルに読み込ませることで、AIエージェントに対するプロンプトインジェクション攻撃が発動するという攻撃手法が発見されました。この攻撃手法を作成して確認するためのツールも、GitHubで公開されています。