EXAONE-3.5-32B-Instruct

EXAONE-3.5-32B-Instruct是由LG AI Research開發的一系列指令調校的雙語（英語和韓語）生成模型，包含從2.4B到32B參數的不同模型。這些模型支援長達32K令牌的長上下文處理，並在真實世界用例和長上下文理解方面展現了最先進的性能，同時在與近期發布的類似大小模型相比時，在通用領域也保持了競爭力。

需求人群：

"目標受眾為需要在多種語言環境下進行文本生成和處理的開發者和研究人員。由於模型支援長上下文處理和雙語能力，它特別適合於需要處理長篇文本和多語言數據的場景，如機器翻譯、文字摘要、對話系統等。

使用場景範例：

利用EXAONE-3.5-32B-Instruct模型開發多語言聊天機器人，提供流暢的對話體驗。

在機器翻譯專案中使用該模型，實現英語到韓語的高效翻譯。

作為內容創作者的輔助工具，使用此模型產生創意文案和文章草稿。

產品特色：

支援長達32,768令牌的長上下文處理能力。

在多種真實世界用例中展現出最先進的效能。

提供2.4B、7.8B和32B三種不同參數規模的模型以適應不同部署需求。

模型經過指令調優，特別適合對話和文字產生任務。

支持雙語（英語和韓語），拓寬了模型的應用範圍。

模型在多個評估基準上表現優異，如MT-Bench、LiveBench等。

提供預量化模型，支援不同的量化類型，以優化推理表現。

使用教學：

1. 安裝必要的函式庫，如`transformers`和`torch`。

2. 使用`AutoModelForCausalLM`和`AutoTokenizer`從Hugging Face載入模型和分詞器。

3. 準備輸入提示（prompt），可以是英文或韓文。

4. 使用模型提供的系統提示來建立對話訊息範本。

5. 將訊息範本傳遞給分詞器，取得輸入ID。

6. 使用模型的`generate`方法產生文字。

7. 使用分詞器的`decode`方法將產生的令牌轉換回文字。