ITちゃんねる

仕事に役立つIT関連の最新ニュース

PyTorch Foundation、量子化とスパース化でLLMの学習と推論を高速化するライブラリ「torchao」公開

PyTorch Foundation、量子化とスパース化でLLMの学習と推論を高速化するライブラリ「torchao」公開

米PyTorch Foundationは、大規模言語モデル(LLM)の学習と推論を高速化するライブラリ「torchao」を9月26日(現地時間)に公開した。torchaoは3条項BSDライセンスで公開しているオープンソースソフトウェア。