用過DeepSeek的朋友都知道,官網(wǎng)的API總是在斷線,而本地部署的DeepSeek腦袋也不靈光。既然官網(wǎng)的服務(wù)器斷線我們無法干預(yù),那么有沒有什么辦法讓本地部署的DeepSeek“學(xué)習(xí)”呢?
添加知識庫
第一步 | 安裝AnytingLLM
這里下載方式可以選擇官網(wǎng)安裝和網(wǎng)盤安裝
下載完成之后雙擊打開安裝包
沒有特殊情況這里不用選為所有用戶安裝,直接下一步就先
這里我們可以選擇安裝的位置,然后點(diǎn)擊安裝
安裝完成后雙擊運(yùn)行
點(diǎn)擊“Get Start”
先在輸入框中輸入“Ollama”再選擇下面的Ollama
Ollama Moudle選擇你部署的deepseek版本,然后點(diǎn)擊右邊的箭頭下一步
這里不用管,點(diǎn)擊右邊的箭頭下一步
這里想填可以填,點(diǎn)擊右邊的箭頭下一步
這里創(chuàng)建工作區(qū),因?yàn)榈谝粋€創(chuàng)建的工作區(qū)AnytingLLM會告訴你怎樣使用這個軟件,所以我取名Hello。然后點(diǎn)擊右邊的箭頭下一步
不用管機(jī)器人的對話,點(diǎn)擊創(chuàng)建新的工作區(qū)。
這里會讓你輸入工作區(qū)名稱,后面程序會用到,我輸入的是“DeepChat”,點(diǎn)擊“Save”
到此位置安裝就結(jié)束了
第二步|做個學(xué)習(xí)前的測試
我們可以在這個工作區(qū)中問它一些問題
比如這里問它“三國演義是誰寫的?因?yàn)闆]有學(xué)習(xí)過這個知識,所以它答不上來。
第三步|添加知識庫
這里我們讓它學(xué)習(xí)一下三國演義相關(guān)的知識
點(diǎn)擊左側(cè)工作區(qū)欄中當(dāng)前工作區(qū)右邊的向上箭頭
這里有兩個分支,對應(yīng)兩種方法添加知識庫
分支一:使用文件添加
先找個隨便找個文件夾
創(chuàng)建一個文本文件(world、Markdown、pdf等都可以),把知識寫進(jìn)去(我這里復(fù)制的百度百科三國演義簡介)
然后回到AnythingLLM
把文件拖到下方虛線框內(nèi)
選中之后,點(diǎn)擊“Move to Workspace”
右側(cè)出現(xiàn)文件后點(diǎn)擊“Save and Embed”
這里有可能保存失敗。沒有關(guān)系,關(guān)閉AnythigLLM,打開命令行
輸入 "ollama pull nomic-embed-text"
等待下載完成,再打開AnythingLLM
點(diǎn)擊下方的扳手按鈕
選擇“人工智能提供商”中的“Embedder”
點(diǎn)擊“嵌入引擎提供商”
找到“Ollama”
保存更改后回到添加知識庫的界面,再次點(diǎn)擊“Save and Embed”
選擇知識庫文件后點(diǎn)擊右側(cè)的釘子按鈕
點(diǎn)擊“Okey, get it”
這樣知識庫就添加完了
分支二:使用網(wǎng)頁添加知識庫
在下方輸入知識庫的網(wǎng)址(我輸入的三國演義的百度百科)點(diǎn)擊“Fetch Website”
加載完成后選擇添加的網(wǎng)頁,點(diǎn)擊“Move to Workspace”
點(diǎn)擊右側(cè)的“Save and Embed”
如果出現(xiàn)錯誤,往上翻有解決方法
選擇知識庫文件后點(diǎn)擊右側(cè)的釘子按鈕
點(diǎn)擊“Okey, get it”
這樣網(wǎng)站的知識庫也部署完成了
第四步|知識庫測試
在當(dāng)前工作區(qū)點(diǎn)擊“New Thread”創(chuàng)建一個新對話
再次問它“三國演義的作者是誰”就能夠依據(jù)知識庫進(jìn)行回答
第四步|使用API
獲取密鑰
接下來就要申請一個API,并且使用Python來調(diào)用它
點(diǎn)擊下方扳手按鈕,進(jìn)入設(shè)置
選擇工具下面的“API密鑰”
點(diǎn)擊“生成新的API密鑰”
點(diǎn)擊“Creat API key”
點(diǎn)擊“Copy API key”并復(fù)制到一個地方保存