Re: 【分享】deepseek本地部署初体验
其实网上有相当多教程,而且内容都较为简单,这里简单说一下:
在模型方面,部署统一选ollama没什么好说的,点击ollama.com就可以进去下载安装(注意需要翻墙才能访问),然后到cmd直接输入ollama pull deepseek-r1:1.5b,系统会自动开始下载1.5b的模型,也可以根据个人电脑配置选择7b,8b,14b,32b和70b等等更大的模型。
另外还需要选择一个embedding模型来实现知识库功能,这里简单用一个,到ollama官网模型页面找到shaw/dmeta-embedding-zh,复制对应下载代码一样输入到cmd里面下载安装。
部署好ollama之后,可以用chrome和火狐的页面拓展程序page assist来直接访问,页面助手的优点是可以联网访问,也可以构建属于你自己的知识库。
另外还可以用不同的ai模型管理平台来调用ollama的模型,我个人用过的几个分别是anything llm,Cherry studio,chatbox,好像都没有联网搜索功能,但是也有知识库功能,并且可以管理更多本地模型和调用API,个人用下来,Cherry studio报错概率高一些,而anything llm在知识库功能上更加适配。
以上是ollama部署的简单流程,如果是电脑配置较低,没有独立显卡,也没法翻墙,还觉得流程繁琐的,可以考虑LM studio,直接进入lmstudio.ai进行下载安装,缺点是不能联网和构建本地知识库,优点是可以调用核显加速,操作非常简单,适合想要初体验的用户,甚至笔吧评测室的猪王都出了一个简单的教程。
loutre (打工鹅) 在 ta 的帖子中提到:
赶紧研究,就等着你这个部署好了造福大众