什麼是Local III ?
Local III是由100多名全球貢獻者開發的高級更新。它引入了一個用戶友好的本地模型瀏覽器,並與Ollama等推理引擎深入集成。 Local III支持具有自定義配置的流行開放模型,例如Llama3,Moondream和Codestral。它提供了增強離線代碼解釋可靠性的設置。
Local III還包括一個稱為模型I的免費,託管的可選模型。與Model I進行對話有助於培訓開源計算機控制語言模型。
目標受眾:
Local III目的是為希望在當地訪問機器智能的代碼解釋和執行的開發人員和技術專業人員提供服務。對於優先使用隱私並需要使用AI模型而無需Internet連接的用戶,它特別有益。
用法方案:
開發人員可以使用Local III在本地編寫和測試代碼,從而消除了對在線服務的需求。
數據科學家可以在沒有互聯網訪問的環境中使用Local III分析和處理數據。
教育機構可以使用Local III作為教學工具,以指導學生在本地環境中使用AI技術。
關鍵功能:
交互式設置選項,以選擇推進提供商,模型和下載新模型。
介紹I模型以獲得無縫體驗,同時為培訓當地語言模型做出貢獻。
與Ollama模型的深度集成簡化了模型配置命令。
針對頂級本地語言模型的優化配置文件,例如Codestral,Llama3和Qwen。
本地視覺支持將圖像轉換為Moondream生成的描述,並通過OCR提取文本。
實驗性本地操作系統模式允許打開解釋器控制鼠標,鍵盤和屏幕查看。
入門:
1。訪問Local III網站並下載插件。
2。安裝插件並啟動它。選擇您喜歡的推理提供商和模型。
3.使用交互式設置下載任何必需的新型號。
4。配置建議的設置以優化特定的模型性能。
5。利用本地資源管理器來管理和使用本地模型。
6。在需要時啟用本地視覺和操作系統模式以進行更高級的交互。
7.參加對話並為開源AI開發的模型培訓做出貢獻。