打造DeepSeek私人助手

将DeepSeek安装到本地电脑,可以回答通用的问题,但是想要回答专业问题,还需要在本地搭建个人知识库,让DeepSeek变成私人助手。 主要步骤包括:一、安装本地大语言模型运行框架 Ollama;二、安装高性能AI推理模型DeepSeekR1;三、安装个人知识库 AnythingLLM。 一、安装本地大语言模型运行框架 Ollama Ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。Ollama下载地址:https://ollama.com 根据自己电脑的操作系统,选择对应的Ollama版本。并在电脑上安装。 再次打开终端,输入:Ollama list,确认安装成功。 配置 Ollama on Windows 为了充分发挥 Ollama 的潜力,我们需要对「环境变量」进行一些自定义配置: 1 使用Windows + R快捷键打开「运行」对话框,输入以下命令,然后按Ctrl + Shift + Enter以管理员权限打开「环境变量」配置窗口 C:\Windows\system32\rundll32.exe sysdm.cpl, EditEnvironmentVariables 2 在「用户变量」中,根据需要添加以下环境变量。 2.1 更改模型存放路径 Ollama 的默认模型存储路径如下: C:\Users\%username%\.ollama\\models 无论你的 C 盘空间大小,需要安装多少模型,都建议换一个存放路径,例如: 变量名:OLLAMA_MODELS 变量值:D:\ollama\models(示例路径,请根据实际情况调整) 2.2 更改 Ollama API 访问地址和侦听端口 Ollama API 的默认访问地址和侦听端口是http://localhost:11434,只能在装有 Ollama 的系统中直接调用。如果要在网络中提供服务,请修改 API 的侦听地址和端口: 变量名:OLLAMA_HOST 变量值(端口)::8000 只填写端口号可以同时侦听(所有) IPv4 和 IPv6 的:8000 端口。 2.3 允许浏览器跨域请求 Ollama 默认只允许来自127.0.0.1和0.0.0.0的跨域请求,如果你计划在 LoboChat 等前端面板中调用 Ollama API,建议放开跨域限制: 变量名:OLLAMA_ORIGINS 变量值:* 2.4 重启 Ollama 并测试 API 访问 1在「开始」菜单中找到并重新启动 Ollama。 ...

February 3, 2025 · 2 min · Jack