Microsoftの研究者は12月7日、Microsoft Research Blog「LLMLingua: Innovating LLM efficiency with prompt compression」において、大規模言語モデル (LLM) に与えるプロンプトを高度に圧縮する新技術「LLMLingua」を発表した。LLMからより高精度の回答を引き出そうとすると、入力するプロンプトはどうしても長くなりがちだ。LLMLinguaを利用すると、長いプロンプトを意味を保持したまま大幅に短縮することができる。