CASE STORY
项目详情
企业内网私有化 AI 知识库:Dify + Ollama 架构、本地化 Qwen2.5:7B 大模型,全程不调用公有云 API。容器化部署、模型适配、权限配置与知识库体系搭建一体交付,解决文档分散、查阅低效与敏感资料外泄问题。
01
项目背景
企业内部文档分散、查找低效,但敏感资料不能出内网。
- 制度、规范与技术文档分散在共享盘与个人电脑中,检索靠人工翻找
- 资料涉及企业内部信息,不能使用公有云大模型服务
- 即便找到文档也需要人工阅读提炼,效率低
02
建设内容
在内网完成私有化 AI 知识库的容器化部署与知识体系搭建。
- 私有化架构:Dify + Ollama,本地部署 Qwen2.5:7B 大模型
- 全程不调用公有云 API,数据不出企业内网
- 容器化部署:环境容器化,便于部署与版本管理
- 知识库体系:文档分类、切分与向量化,建立可检索知识库
- 权限配置:按部门与角色配置知识可见范围
- 问答应用:面向员工的自然语言问答入口
03
交付与成效
知识库上线后,文档查阅由人工翻找转为问答获取。
- 企业内部文档统一入库,查找效率明显提升
- 全程内网运行,敏感资料零外泄风险
- 沉淀了一套可复用的私有化 AI 知识库交付方法
04
实施方法
私有化 AI 知识库的关键是「数据不出门、答案能溯源」。
- 全程内网:模型与知识库均部署在内网,不调用公有云 API
- 答案可溯源:回答附带出处文档,避免模型幻觉被当成事实
- 权限先于功能:按部门与角色划定知识可见范围,权限先设计再上线
- 容器化交付:环境容器化部署,便于迁移与版本回滚