目前我使用的(Win+Mac都行)ollama+cherry studio的方案。AnythingLLM的设置相对繁琐,如已经通过ollama下载了本地模型,直接下载cherry stuido就可以进行配置使用。AnythingLLM可以考虑删除,具体根据自己的需求选择AnythingLLM 或者cherry studio或者其他的第三方可视化AI对话框。有任何问题在圈子提问或者评论区提问即可
相关教程:https://www.uied.cn/84831.html

近期,由于国外大量攻击,导致 DeepSeek 经常无法使用;另外,许多朋友希望在本地搭建自己的知识库,以保护自己的资料不被外泄。因此,越来越多的人希望能够在本地部署 DeepSeek,但对于技术难度有所担忧。别担心,这篇教程将为你扫清所有障碍!从环境搭建到模型运行,每一步都进行了详细拆解,即便是零基础的小白也能轻松上手。让我们一起来解决这些问题,顺利完成本地部署,保护个人隐私的同时,享受强大的 AI 功能。

一、 Mac版安装教程:Ollama与AnythingLLM安装及DeepSeek模型下载

1.双击打开。(安装包末尾获取)
图片
2.双击安装 Ollama(支持 M 系列和 Intel 系列 CPU)。
选择【Move to Applications】,然后点击 Next 完成安装即可。
图片
图片

二、下载DeepSeek R1模型

1、点击模型

输入 ollama run + 模型名称,然后按回车键开始下载。
(根据下方附图中的硬件要求选择下载一个或多个模型。此过程可能会稍慢,如果下载失败,请重新输入命令再次尝试。)
如下所示:

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b

2、根据自己的电脑配置选择模型(附上配置参考图片)

3、我这里选择的是8B的版本模型(大小为4.9G)进行测试,然后打开终端复制8B的这段代码
图片

4、粘贴进终端回车,然后正在下载了(需要点时间)

图片
图片
运行命令后,系统将开始下载模型,整个过程大约需要三十分钟(具体时间取决于您的网络速度)。当您看到提示“success”时,表示模型安装成功。
ollama run nomic-embed-text

在终端新窗口中输入命令ollama run nomic-embed-text回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。

温馨提示:若是要删除模型,输入命令ollama rm+模型名称,如ollama rm deepseek-r1:14b
5.双击打开 AnythingLLM(根据电脑芯片选择 ARM 或 Intel 版安装包),将 AnythingLLM 拖入 Applications 文件夹完成安装。
图片
图片
6. 启动台找到AnythingLLM打开
图片
图片
7. 点击【Get started】。
图片
8. 点击箭头,进入下一步。
图片
9. 输入工作区名称,点击箭头继续。
图片
10. 点击【设置】,在其中可以设置模型、界面显示语言等选项。
图片

设置中文

三、AnythingLLM设置

1. 在软件设置中的 LLM首选项 界面,选择提供商为 Ollama,在 Ollama Model 中选择前面下载的 DeepSeek-R1 系列模型,点击 Save changes 保存更改。
图片
2. 在 Embedder首选项 界面,选择嵌入引擎提供商为 Ollama,在 Ollama Embedding Mode 中选择 nomic-embed-text,然后点击 保存更改。
图片

3. 点击 工作区设置,在 聊天设置 界面:

❶ 将 工作区LLM提供商 选择为 Ollama,

❷ 将 工作区聊天模型 选择为 deepseek-r1,

❸ 然后点击 Update workspace agent 更新工作区代理。
图片
图片
4. 在 代理配置 界面,将 工作区代理LLM提供商 选择为 Ollama,将 工作区代理模型 选择为 deepseek-r1,点击 Update workspace agent 更新工作区代理。
图片

四、如何投喂数据(训练AI)

1.在工作区界面,点击【上传】。
图片
2. 点击 Upload,选择需要上传的文件(支持 PDF、TXT、Word、Excel、PPT 等常见文档格式)。勾选需要上传的文件。点击 Move to Workspace 将文件移动到工作区
图片
五、DeepSeek-R1应用展示
图片

创建了一个配套的 DeepSeek学习交流群,方便大家学习讨论最新的 DeepSeek!

由于满200人需邀请,添加微信:uiux09 备注Ai邀请入群。

安装包下载地址:

百度
https://pan.baidu.com/s/18vaVzHZNCNVsDvbjk9YIRQ?pwd=35tx

夸克
https://pan.quark.cn/s/508987065f83