#用Ollama在NAS上部署Qwen2.5，打造私有AI助手与文件管理联动
本文分享在群晖DS923+上使用Ollama部署Qwen2.5-7B的实战经验，包括硬件门槛、内存要求、CPU性能、存储规划及安装避坑。无需高端显卡，16GB内存即可流畅运行7B量化模型，让NAS成为私有AI底座，实现本地文件摘要、标签生成等功能，数据不出内网。
git checkout标签：本地部署
#用Ollama部署Llama 3，再通过Nginx让全家设备共享离线大模型
手头那台32G内存、RTX 4090的主机装了Ollama 0.3.10，拉了llama3:8b和70b。手机、MacBook、iPad全跑来要接口。每台设备都pull一遍5GB起步的模型？脑子进水。核心就三点：一台机器扛模型，其他设备当哑终端直连调用。所有prompt和响应全程不离内网。运维从五台设备各自更新缩成只改host服务器上一个systemd进程和Nginx配置。
git checkout
#Ollama本地部署DeepSeek-Coder：VS Code离线代码补全与智能审查全攻略
写代码最烦网络中断导致Copilot转圈圈？金融、医疗项目代码不敢过云端？本文教你用Ollama本地部署DeepSeek-Coder，在VS Code中实现离线代码补全与智能审查。从安装Ollama、拉取模型到配置插件，半小时内搞定。支持7B/14B模型，普通笔记本也能流畅运行，代码完全本地化，无需外部API。
git checkout
#用Ollama本地部署Embedding模型，构建全离线语义搜索与智能问答系统
本文详细讲解如何使用Ollama在本地部署Embedding模型，结合向量数据库构建完全离线的语义搜索与智能问答系统。从环境配置、模型拉取到API调用，全程无云端依赖，确保数据隐私安全。适合企业内部知识库、个人笔记库等场景，告别传统关键词搜索的痛点。
git checkout
#Ollama本地部署Function Calling：让AI自主调用API实现日程、文件与系统操作
本文详细讲解如何在Ollama中启用Function Calling功能，让本地大模型从被动聊天变为主动执行。通过自定义工具描述，模型可调用日程创建、文件读写、系统命令等API，实现自动化工作流。涵盖环境配置、模型选择、Modelfile编写及实际案例，适合希望将本地AI转化为自动化引擎的开发者。
git checkout
#用Ollama本地部署Rerank模型：给RAG检索结果做二次精排
大多数RAG管线第一层用向量相似度做粗筛，速度快但常把“字面接近、语义偏题”的段落推到前面。Rerank（重排序）借助CrossEncoder对查询和候选段落做细粒度相关性判断，是粗筛之后、生成之前的第二道关卡。Ollama从0.4.10起正式支持Reranking模型，可拉取Qwen3-Reranker等专用模型，在本地实现企业级精排能力。本文介绍安装步骤、模型拉取、API调用，以及如何将Rerank嵌入现有RAG pipeline，让检索结果更精准。
git checkout
#用Ollama本地部署多模态模型，让AI直接读取图表和截图生成结构化数据分析报告
本文介绍如何通过Ollama本地部署多模态模型，实现图表和截图的结构化数据分析。从安装Ollama、拉取模型（如llava、bakllava）到多卡推理配置，再到使用Open-WebUI搭建可视化聊天界面，全程离线运行，避免数据外泄和云端费用。适合需要处理敏感数据的财务、用户画像等场景。
git checkout
#用Ollama本地部署开源语音模型，实现离线语音转文字与会议纪要自动生成
开会最怕网断、隐私泄露、费用超支。本文教你用Ollama本地部署Whisper语音模型，一条命令搞定离线语音转文字，数据不出内网，稳定可控，适合会议纪要自动生成场景。
git checkout
#用Ollama本地部署DeepSeek-R1：调整temperature和top_p，从严谨逻辑到创意脑暴
本地部署DeepSeek-R1，告别API排队和网络依赖。Ollama安装简单，一条命令下载模型，完全离线运行。通过调整temperature和top_p参数，精准控制AI输出风格：低温度适合严谨代码，高温度激发创意文案。本文详解参数原理与实战组合，助你玩转本地大模型。
git checkout
#用Ollama与Agent框架构建本地化多工具协同系统：让大模型自主调用搜索、计算与代码执行
本文介绍如何用Ollama、LangChain Agent框架和工具函数在本地构建多工具协同系统，让大模型自主调用搜索、计算和代码执行。从部署模型、注册工具到优化调用规则，详细拆解实现步骤，解决数据隐私、低延迟和离线可用等刚需问题。
git checkout