EXAONE-3.5-2.4B-Instruct-AWQ
Exaone模型針對資源受限的設備進行了優化,可提供英語和韓語的先進的長篇小寫理解,可支持多達32K代幣。
什麼是EXAONE-3.5-2.4B-Instruct-AWQ ?
EXAONE-3.5-2.4B-Instruct-AWQ是LG AI Research開發的一系列雙語教學模型。這些模型支持長上下文處理高達32K令牌,並經過優化,以在資源約束設備上部署。他們在處理長文本和多語言任務方面提供了高級表現,並支持英語和韓語。 AWQ量化技術可以在保持高精度的同時有效地部署。