如何讓本地部署的 DeepSeek 更“懂”你?

      用過DeepSeek的朋友都知道，官網(wǎng)的API總是在斷線，而本地部署的DeepSeek腦袋也不靈光。既然官網(wǎng)的服務(wù)器斷線我們無法干預(yù)，那么有沒有什么辦法讓本地部署的DeepSeek“學(xué)習(xí)”呢?

      添加知識(shí)庫

      第一步 | 安裝AnytingLLM

      這里下載方式可以選擇官網(wǎng)安裝和網(wǎng)盤安裝

      下載完成之后雙擊打開安裝包

      沒有特殊情況這里不用選為所有用戶安裝，直接下一步就先

      這里我們可以選擇安裝的位置，然后點(diǎn)擊安裝

      安裝完成后雙擊運(yùn)行

      點(diǎn)擊“Get Start”

      先在輸入框中輸入“Ollama”再選擇下面的Ollama

      Ollama Moudle選擇你部署的deepseek版本，然后點(diǎn)擊右邊的箭頭下一步

      這里不用管，點(diǎn)擊右邊的箭頭下一步

      這里想填可以填，點(diǎn)擊右邊的箭頭下一步

      這里創(chuàng)建工作區(qū)，因?yàn)榈谝粋€(gè)創(chuàng)建的工作區(qū)AnytingLLM會(huì)告訴你怎樣使用這個(gè)軟件，所以我取名Hello。然后點(diǎn)擊右邊的箭頭下一步

      不用管機(jī)器人的對(duì)話，點(diǎn)擊創(chuàng)建新的工作區(qū)。

      這里會(huì)讓你輸入工作區(qū)名稱，后面程序會(huì)用到，我輸入的是“DeepChat”，點(diǎn)擊“Save”

      到此位置安裝就結(jié)束了

      第二步|做個(gè)學(xué)習(xí)前的測(cè)試

      我們可以在這個(gè)工作區(qū)中問它一些問題

      比如這里問它“三國演義是誰寫的?因?yàn)闆]有學(xué)習(xí)過這個(gè)知識(shí)，所以它答不上來。

      第三步|添加知識(shí)庫

      這里我們讓它學(xué)習(xí)一下三國演義相關(guān)的知識(shí)

      點(diǎn)擊左側(cè)工作區(qū)欄中當(dāng)前工作區(qū)右邊的向上箭頭

      這里有兩個(gè)分支，對(duì)應(yīng)兩種方法添加知識(shí)庫

      分支一：使用文件添加

      先找個(gè)隨便找個(gè)文件夾

      創(chuàng)建一個(gè)文本文件(world、Markdown、pdf等都可以)，把知識(shí)寫進(jìn)去(我這里復(fù)制的百度百科三國演義簡介)

      然后回到AnythingLLM

      把文件拖到下方虛線框內(nèi)

      選中之后，點(diǎn)擊“Move to Workspace”

      右側(cè)出現(xiàn)文件后點(diǎn)擊“Save and Embed”

      這里有可能保存失敗。沒有關(guān)系，關(guān)閉AnythigLLM，打開命令行

      輸入 "ollama pull nomic-embed-text"

      等待下載完成，再打開AnythingLLM

      點(diǎn)擊下方的扳手按鈕

      選擇“人工智能提供商”中的“Embedder”

      點(diǎn)擊“嵌入引擎提供商”

      找到“Ollama”

      保存更改后回到添加知識(shí)庫的界面，再次點(diǎn)擊“Save and Embed”

      選擇知識(shí)庫文件后點(diǎn)擊右側(cè)的釘子按鈕

      點(diǎn)擊“Okey, get it”

      這樣知識(shí)庫就添加完了

      分支二：使用網(wǎng)頁添加知識(shí)庫

      在下方輸入知識(shí)庫的網(wǎng)址(我輸入的三國演義的百度百科)點(diǎn)擊“Fetch Website”

      加載完成后選擇添加的網(wǎng)頁，點(diǎn)擊“Move to Workspace”

      點(diǎn)擊右側(cè)的“Save and Embed”

      如果出現(xiàn)錯(cuò)誤，往上翻有解決方法

      選擇知識(shí)庫文件后點(diǎn)擊右側(cè)的釘子按鈕

      點(diǎn)擊“Okey, get it”

      這樣網(wǎng)站的知識(shí)庫也部署完成了

      第四步|知識(shí)庫測(cè)試

      在當(dāng)前工作區(qū)點(diǎn)擊“New Thread”創(chuàng)建一個(gè)新對(duì)話

      再次問它“三國演義的作者是誰”就能夠依據(jù)知識(shí)庫進(jìn)行回答

      第四步|使用API

      獲取密鑰

      接下來就要申請(qǐng)一個(gè)API，并且使用Python來調(diào)用它

      點(diǎn)擊下方扳手按鈕，進(jìn)入設(shè)置

      選擇工具下面的“API密鑰”

      點(diǎn)擊“生成新的API密鑰”

      點(diǎn)擊“Creat API key”

      點(diǎn)擊“Copy API key”并復(fù)制到一個(gè)地方保存