IBM 推出高效推理小型AI模型Granite 3.2：多模態與實用性兼備

IBM 最近發布了其最新的Granite3.2大型語言模型，旨在為企業和開源社區提供“小巧、高效、實用” 的企業人工智能解決方案。該模型不僅具備多模態和推理能力，還提升了靈活性和成本效益，使得用戶更容易採用。

Granite3.2引入了視覺語言模型（VLM），用於處理文檔，進行數據分類和提取。 IBM 聲稱，這一新模型在一些關鍵基準測試中，性能達到或超過了更大型的模型，如Llama3.211B 和Pixtral12B。此外，Granite3.2的8B 模型在標準數學推理基準測試中，也顯示出能匹敵或超越更大模型的能力。

為了提升推理能力，Granite3.2的某些模型還具備“思維鏈” 功能，能夠闡明中間推理步驟。該功能雖然需要較大的計算能力，但用戶可以根據需求隨時啟用或禁用，以優化效率並降低整體成本。 IBM AI 研究副總裁Sriram Raghavan 在發布會上表示，下一代人工智能的重點在於效率、整合與實際影響，讓企業在不超支的情況下實現強大的成果。

除了推理能力的提升，Granite3.2還推出了“Granite Guardian” 安全模型的小型化版本，儘管體積縮減了30%，但性能仍然保持在前一代模型的水平。此外，IBM 還引入了一種名為“可言語化信心” 的能力，這種能力能夠更細緻地評估風險，並在安全監測中考慮不確定性。

Granite3.2是在IBM 的開源Docling 工具包上訓練的，該工具包允許開發者將文檔轉換為定制的企業AI 模型所需的特定數據。模型訓練過程中處理了8500萬份PDF 文件以及2600萬個合成問答對，以增強VLM 處理複雜文檔工作流的能力。

IBM 還宣布推出下一代TinyTimeMixers（TTM）模型，這是一種緊湊的預訓練模型，專注於多變量時間序列預測，具備最長可達兩年的長遠預測能力。

官方博客:https://www.ibm.com/new/announcements/ibm-granite-3-2-open-source-reasoning-and-vision