中文字幕精品亚洲无线码二区,国产黄a三级三级三级看三级,亚洲七七久久桃花影院,丰满少妇被猛烈进入,国产小视频在线观看网站

代碼改變世界

手把手教你部(bu)署 DeepSeek 本(ben)地模(mo)型

2025-02-05 21:48  AlfredZhao  閱讀(112734)  評論(20)    收藏  舉報

本文目標:部署 DeepSeek 本地模型,并通過 Ollama 提供 API 支持,Chatbox 提供 UI 界面。
原則:不搞那(nei)些高深的玩法,讓小白也能理解并真正的上手實踐。

  • 1.下載Ollama并安裝運行DeepSeek
  • 2.下載Chatbox并配置為本地DeepSeek
  • 3.無需聯網也能和DeepSeek暢快聊天

ds

1.下載Ollama并安裝運行DeepSeek

從Ollama官方網站下載Ollama:

進(jin)入(ru)Ollama官方網(wang)站(zhan)后,可以看到Ollama已經支持(chi)DeepSeek-R1的部署:

點擊DeepSeek-R1的(de)(de)鏈接(jie)可以看(kan)到有關deepseek-r1的(de)(de)詳細(xi)介紹:


目前deepseek-r1模型大小提供了7個選擇:1.5b、7b、8b、14b、32b、70b、671b。
因為(wei)我筆(bi)記本的(de)顯卡(ka)配(pei)置較低(di),所以這里(li)只能選擇最小的(de)1.5b模型來做(zuo)演示:

config
你可以(yi)根據你的硬件情況選擇,通常模型大(da)小(參數量)越(yue)大(da),模型的理解和生成能力越(yue)強,但也會消耗(hao)更多的計算資(zi)源。

點擊Download按鈕下載符合自己平臺的Ollama:

我這里選擇macOS,點擊下載。
下載文件大小不到200M,文件名為:Ollama-darwin.zip

解壓后打開Ollama應(ying)用程序,提示:

點擊Install安裝ollama。

按照提示,打開終端,使用 Command + Space 快捷鍵調用 terminal

這里Ollama默認給出的例子是下載/運行llama3.2大模型,
我們這里不使用這個llama3.2模(mo)型(xing),直接(jie)下載/運行deepseek,參數選擇最(zui)小的1.5b,在終端窗(chuang)口運行下面(mian)命(ming)令:

ollama run deepseek-r1:1.5b

jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
>>> Send a message (/? for help)

這(zhe)里就直接可以和DeepSeek對話了:

>>> Hi! Who are you?
<think>

</think>

Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service 
and would be delighted to assist you with any inquiries or tasks you may have.

>>> 你好,你是誰?
<think>

</think>

你好!我是DeepSeek-R1,一個由深度求索公司開發的智能助手。我擅長通過思考來幫您解答復雜的數學,代碼和
邏輯推理等理工類問題。 Feel free to ask me anything you'd like me to know! 

>>> Send a message (/? for help)

2.下載Chatbox并配置為本地DeepSeek

Chatbox官方(fang)網站:

我(wo)這里還是Intel-based的(de)MAC,

下載的Chatbox-1.9.7.dmg,大小100M多點(dian),點(dian)擊安裝,按(an)下(xia)面提示(shi)拖(tuo)到Applications內(nei):

注意(yi)(yi),這(zhe)里(li)我故意(yi)(yi)選(xuan)錯(cuo)成DeepSeek API,這(zhe)也是初學(xue)者經常會選(xuan)錯(cuo)的(de),實際上(shang),若選(xuan)擇這(zhe)個(ge)你就找(zhao)不(bu)到你本地的(de)DeepSeek模型。

實際正確應該選擇OLLAMA API,然后就可以看到我們上一步安裝好的deepseek-r1:1.5b

3.無需聯網也能和DeepSeek暢快聊天

配(pei)置好(hao)DeepSeek本地模型之后,就可以實現在(zai)斷網(wang)情況下自由問答了,比如(ru),此(ci)刻我正在(zai)寫這篇文章,于(yu)是就問他幫我想幾個備(bei)選的標題:

我正在寫一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”。請你幫我重新生成10個吸引眼球的標題供我選擇。

他真的迅速給我起了10個吸引眼球的標題,還提供了它思考的過程,而且在我這4年前的電腦上跑起來都很迅速。
嗯(ng),真的(de)很贊!不過我還是決(jue)定用自己最(zui)初想的(de)樸實(shi)標題(ti)(ti),不做標題(ti)(ti)黨了(le)。