打造DeepSeek私人助手

Mon, 03 Feb 2025 00:00:00 +0000

将DeepSeek安装到本地电脑，可以回答通用的问题，但是想要回答专业问题，还需要在本地搭建个人知识库，让DeepSeek变成私人助手。

主要步骤包括：一、安装本地大语言模型运行框架 Ollama；二、安装高性能AI推理模型DeepSeekR1；三、安装个人知识库 AnythingLLM。

一、安装本地大语言模型运行框架 Ollama

Ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。Ollama下载地址：https://ollama.com

根据自己电脑的操作系统，选择对应的Ollama版本。并在电脑上安装。

再次打开终端，输入：Ollama list，确认安装成功。

为了充分发挥 Ollama 的潜力，我们需要对「环境变量」进行一些自定义配置：

1 使用Windows + R快捷键打开「运行」对话框，输入以下命令，然后按Ctrl + Shift + Enter以管理员权限打开「环境变量」配置窗口

C:\Windows\system32\rundll32.exe sysdm.cpl, EditEnvironmentVariables

2 在「用户变量」中，根据需要添加以下环境变量。

Ollama 的默认模型存储路径如下：

C:\Users\%username%\.ollama\\models

无论你的 C 盘空间大小，需要安装多少模型，都建议换一个存放路径，例如：

Ollama API 的默认访问地址和侦听端口是http://localhost:11434，只能在装有 Ollama 的系统中直接调用。如果要在网络中提供服务，请修改 API 的侦听地址和端口：

只填写端口号可以同时侦听（所有） IPv4 和 IPv6 的:8000 端口。

Ollama 默认只允许来自127.0.0.1和0.0.0.0的跨域请求，如果你计划在 LoboChat 等前端面板中调用 Ollama API，建议放开跨域限制：

1在「开始」菜单中找到并重新启动 Ollama。