使用 DeepSeek-R1 本地部署知识库,完全免费开源、离线使用!

华山野人

<p class="ql-block">最近,一家名叫DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型,“DeepSeek-V3”。由于这款大模型太过好用,DeepSeek R1 更是直接免费开源,在AI发烧友圈子传播后,传到了海外社交平台、技术论坛,引发了海外网友的连连称赞。</p> <p class="ql-block">各项性能指标更是和OpenAI-o1 模型不相上下,甚至做到了小部分的超越,关键是开源的,我们可以本地部署使用。</p> <p class="ql-block">1、本地部署,我们可以通过Ollama来进行安装</p><p class="ql-block">‍第1步: 下载官方客户端</p><p class="ql-block">Ollama 官方版:<a href="https://ollama.com/" target="_blank" style="font-size:18px;">【点击前往】</a></p><p class="ql-block">‍第2步: 科学上网,下载deepseek-r1模型</p><p class="ql-block">‍安装命令</p><p class="ql-block">模型 1.5B Qwen DeepSeek R1</p><p class="ql-block">命令 ollama run deepseek-r1:1.5b</p><p class="ql-block">模型 7B Qwen DeepSeek R1</p><p class="ql-block">命令 ollama run deepseek-r1:7b</p><p class="ql-block">模型 8B Llama DeepSeek R1</p><p class="ql-block">命令 ollama run deepseek-r1:8b</p><p class="ql-block">模型 14B Qwen DeepSeek R1</p><p class="ql-block">命令 ollama run deepseek-r1:14b</p><p class="ql-block">模型 32B Qwen DeepSeek R1</p><p class="ql-block">命令 ollama run deepseek-r1:32b</p> <p class="ql-block">我选择7b模型,下载还是太慢了吧</p> <p class="ql-block">2、第3步: AnythingLLM 下载</p><p class="ql-block">‍选择1)Github 开源版 <a href="https://github.com/Mintplex-Labs/anything-llm" target="_blank" style="font-size:18px;">【点击下载】</a></p><p class="ql-block">‍选择2)官方版:<a href="https://anythingllm.com/" target="_blank" style="font-size:18px;">【点击下载】</a></p> <p class="ql-block">注意:本地部署也是支持开启联网搜索模式的</p><p class="ql-block">只需在AnythingLLM的设置界面中,找到“代理技能”选项。 启用Web Search:在代理技能列表中找到 Web Search ,点击开启。 选择搜索引擎即可!</p> <p class="ql-block">如图所示</p><p class="ql-block">‍参考文章: https://www.freedidi.com/18410.html</p><p class="ql-block">‍侵删</p>