Ollama+Cherry Studio构建Windows系统本地AI知识库
构建本地AI知识库的好处:
本地部署对硬件有一定要求。建议至少拥有16GB内存和一块支持CUDA(NVIDIA)或Metal(Apple Silicon)的显卡,以获得流畅的体验。CPU也可以运行,但速度会慢很多。
1.本地部署Ollama
Ollama是一个极简的本地大模型运行框架,首先安装它,是需要用它来下载并管理本地模型。
官网下载Ollama。ollama.com
完成指定目录安装。Ollama默认安装在C盘,后续大模型也安装在C盘,要改变Ollama安装目录,可按Windows图标键+R,输入“cmd”回车,在CMD窗口输入: