Deepseek怎麼在本地部署銀河麒麟教程

提示：學習麒麟Kylin-Desktop-V10-SP1系統本地部署Deepseek 的詳細操作步驟（特別說明：因為本次實驗環境為虛擬機，硬件配置低，所以本次實驗以部署DeepSeek -R1 1.5b 為例；其餘版本部署方法是將本實驗中命令參數為1.5b修改為對應的版本號即可）

一、關於Deepseek

1、Deepseek的簡介

DeepSeek（中文名：深度求索）：是一款由國內人工智能公司研發的人工智能模型，擁有強大的自然語言處理能力，能夠理解並回答問題，還能輔助寫代碼、整理資料和解決複雜的數學問題

2、本地部署Deepseek的優缺點

2.1 主要優點

① 離線使用‌：無需依賴網絡連接，隨時隨地都能調用AI能力，特別是在網絡不穩定或無網絡的環境下依然可以使用

② 數據安全：將模型部署在本地可以確保數據不會離開本地設備，降低了數據洩露的風險，適合有嚴格數據合規要求的場景，如金融、政務等

2.2 主要缺點

① 硬件要求高：高版本（671b）需要高性能的GPU和足夠的內存來支持模型的運行

② 資源佔用‌：本地部署會佔用本地的計算資源和存儲空間，對於資源有限的設備可能不太適用。

③ 模型更新滯後‌：模型更新需要手動操作，可能會比雲服務更新滯後，可能無法及時獲得最新的功能

二、本地部署的詳細步驟

1、前期準備

1.1 成功安裝麒麟系統

說明：本次實驗的安裝的系統是：Kylin-Desktop-V10-SP1

1.2 需要連接互聯網

說明：首次部署需要連接互聯網

2、大模型服務工具

2.1 下載Ollama

1.訪問【 Ollama官網】

ollma官網地址：https://ollama.com/

2.點擊【Download】

3.點擊【Linux】

4.點擊【複製】下載命令

5.在桌麵點擊【鼠標右鍵】，選中並點擊【打開終端】

6.在打開的終端中，點擊【鼠標右鍵】，選中並點擊【粘貼】

7.確認命令正確後，按【enter鍵】

curl -fsSL https://ollama.com/install.sh | sh

8.根據實際情況，輸入賬戶對應的【密碼】

9.待下載進程完成後，將進行自動安裝

10.通過輸入【ollama -v】查看ollma版本號，確認安裝成功

ollama -v

2.2 下載Deepseek模型

1.訪問【 Ollama官網】

ollma官網地址：https://ollama.com/

2.點擊【DeepSeek-R1】

3.點擊【下拉選項】根據硬件配置實際情況，選擇對應的版本

4.選擇對應的【版本】（說明：此實驗選用1.5b 版本為例）

5.點擊【複製】運行模型的命令

6.在桌麵點擊【鼠標右鍵】，選中並點擊【打開終端】

7.在打開的終端中，點擊【鼠標右鍵】，選中並點擊【粘貼】

8.確認命令正確後，按【enter鍵】

ollama run deepseek-r1:1.5b

9.下載對應的【DeepSeek-R1 】版本（說明：僅在第一次運行該版本模型時，才會下載）

10.【DeepSeek-R1:1.5b】下載完成

3、Deepseek的簡單使用

1.輸入【ollama run deepseek-r1:1.5b】命令，運行1.5b版本模型

ollama run deepseek-r1:1.5b

2.按需輸入【變量】（說明：此處以“你好，你是誰？” 為例）

3.使用完後，輸入【/bye】退出

4.退出成功（說明：若需再次使用Deepseek-R1 1.5b 需要輸入ollama run deepseek-r1:1.5b ）