保密性
敏感数据不会离开您的基础设施，处理围绕本地环境和清晰的访问规则构建。
为什么选择本地 AI
本地 模型 更可靠 用于敏感业务任务
-
数据保留在企业内部
文档、通信记录和知识库均在您的硬件上处理，不会发送到外部服务。
-
模型适应您的需求
解决方案将您的文档、术语和规则作为上下文，因此回答更贴合公司的实际流程。
-
根据您的基础设施选配
根据负载、安全和可用硬件要求选择模型与运行环境。
-
处理大型文档
对规章、会议纪要和技术报告进行结构化分析：提取要点、风险、决策和后续步骤。
-
响应可预测
本地环境可减少对外部队列、限额和互联网连接质量的依赖。
-
自由选择供应商
开放工具和模型可降低对 API 费率、外部限额和供应商条款变化的依赖。
实施优势
实施本地 AI 模型能为企业带来什么？
定制
场景会根据您公司的文档、流程、角色和术语进行配置。
经济性
减少对外部 API 费率的依赖，并使基础设施与维护成本更加透明。
速度稳定
性能围绕约定场景设计：文档量、用户数量和预期响应时间。
可控实施
在开发开始前明确路线图、风险、团队培训和验收标准。
本地 AI 与云端 AI：对比
| 企业获得什么 | 本地 AI | 云端 AI |
|---|---|---|
| 数据安全 | 100%——数据保留在边界内 | 取决于供应商 |
| 成本可预测 | 固定成本（设备） | 可变成本（按 token 计费） |
| 实施速度 | 数小时至数天* | 数小时至数天* |
| 定制 | 全面定制（fine-tuning、RAG） | 有限定制（prompt engineering） |
| 离线运行 | 是 | 否 |
* ——取决于项目和客户基础设施。现有解决方案可快速启动！
应用领域
以下领域中 本地 解决方案尤其 有用
适用于重视控制、速度和准确性的场景：合同、报告、请求、说明、工作通信和内部规章。
法务人员
分析合同、附件、分歧纪要和内部政策。本地 AI 可快速发现风险与措辞差异，并为审批准备摘要。
会计与财务
处理原始凭证、核对付款备注、准备邮件草稿，并围绕文档和结算材料生成结构化说明。
营销与销售
本地模型收集简报、细分请求，并准备营销活动草稿、邮件脚本、方案和简短竞品概览。
制造业
将说明、班次报告、问题日志、流程图和质量摘要转化为供现场主管与管理者使用的简明结论。
人力资源与培训
本地模型可回答新员工的常见问题，协助收集入职材料，并加快检索内部政策和标准。
客户支持与采购
请求分类、回复草稿、通信摘要，并协助处理供应商申请、规格和条款审批。
已经知道要自动化哪个流程？ 讨论实施 →
实际应用场景
本地 AI 如何在业务流程中工作
本地 AI 能快速产生实际效果的典型任务：从文档和请求，到营销、制造及内部培训。
会议纪要
模型转录会议录音，按参与者区分发言，并提取决策、任务和下一步。结果是包含责任人和期限的结构化会议纪要，可直接发送或导入知识库。
文档分析
系统会按关键条款、矛盾和风险分析合同、技术任务书或规章。输出是供管理者、分析师或法务人员使用的简明摘要。
内部知识库
模型根据内部规章、说明和积累的材料回答员工问题。数据不会离开企业服务器，回答仅以经过验证的文档为依据。
请求处理
按类别和优先级对传入申请、邮件和客户请求分类。模型生成回复草稿，由员工在发送前检查，在保留控制权的同时节省时间。
报告编制
模型汇集会议笔记、项目文档和指标等多个来源的数据，并形成结构化报告：状态、风险、财务指标和下一步。
培训与适应
新员工可就内部流程、标准和文档提问。解决方案以企业知识库为上下文，并减轻导师负担。
营销材料
本地模型可协助收集简报、总结研究，并依据品牌语调准备文章、落地页、邮件简报和广告文案草稿。
制造与质量
模型处理工艺说明、班次报告、不符合项和检查清单，并帮助为现场主管、工艺师和车间负责人生成简短摘要。
准备好从想法和案例进入下一步了吗？ 讨论实施 →
实施示例
2026 年应交给智能体完成的工作！
子智能体是高度专门化的 AI 执行者：每个都负责一项任务，并具有透明的输入、结果和限制。工作流程不是依赖一个通用模型，而是由可验证、可按具体目标组合的角色构成。
SUB–01 / MAIL项目实施 有效团队邮件助手分析来信，提示优先级并准备回复草稿。 打开页面 → SUB–02 / MEETING项目实施 有效团队本地会议纪要助手在本地转录会议，并生成会议纪要、摘要、决策和任务。 打开页面 → SUB–03 / LEGAL RAG项目实施 有效团队法律 RAG 导航器检索合同和规范性文件，并提供带来源链接的回答。 打开页面 → SUB–04 / DATA项目实施 有效团队数据分析师通过文本或语音用自然语言查询数据库。 打开页面 → SUB–05 / REQUIREMENTS项目实施 有效团队业务需求分析师将分散的需求整理成一致的技术任务书结构和验收标准。 打开页面 → SUB–06 / SUPPORT项目实施 有效团队支持请求路由助手根据解决方案库回答常见问题，并将投诉、退货和不确定案例转交经理。 打开页面 → SUB–07 / LEADS项目实施 有效团队B2B 线索评估助手按照公开公式评估 B2B 线索，显示分数，并将成交决策交由人工处理。 打开页面 → SUB–08 / SUPPLY项目实施 有效团队采购规划器预测需求并制定采购计划，显示每个品项的数量、预算和置信度。 打开页面 → SUB–09 / DATA项目实施 有效团队企业/网站数据顾问查询企业/网站数据；没有事实依据时会坦诚回答“不知道”。 打开页面 →
AGT–01 / DISCOVERY可提供演示
输入目标、细分市场、访谈、笔记输出报告、引文与机会地图
AGT–02 / INVENTION可提供演示
输入问题、限制与需求冲突输出矛盾模型、方案、测试
AGT–03 / REVIEW可提供演示
输入URL、场景、设计稿、文本输出观察、证据、优先级
想讨论如何将现有解决方案接入您的流程吗？ 讨论实施 →
实施流程
起 分析 从业务流程到 实施
逐步将本地 AI 构想落地到实际工作环境：从分析流程、选择架构，到试点、收集反馈并在团队中上线。
-
业务流程分析
分析任务、文档、角色、安全限制，以及 AI 应节省时间或减少错误的环节。
流程图与成功标准
-
技术方案选型
选择架构：本地 LLM、基于知识库的 RAG、场景自动化，以及与 CRM、ERP 或内部服务集成。
解决方案架构图与集成清单
-
设备选型
根据团队的实际负载，计算 GPU、RAM、磁盘、上下文窗口和响应速度要求。
工作站或服务器配置
-
测试与收集反馈
使用您的数据启动试点，检查准确率、速度和回答格式，并收集员工反馈。
质量报告与改进清单
-
实施
将解决方案接入实际工作环境，并明确使用规则、监控、更新和易于理解的支持方式。
流程中的成熟本地 AI
参考指南
关键术语
用简单定义说明安装本地 LLM 时具体要检查什么。
- LLM
- 大语言模型是一种在大规模文本语料上训练的神经网络，能够理解请求并生成回答。
- RAG
- Retrieval-Augmented Generation（检索增强生成）是一种让模型在您的文档中检索相关片段并据此作答的方法。
- 推理
- 使用已训练模型的阶段：用户发送请求，系统计算回答并返回结果。
- 每秒 token 数
- 回答生成速度。数值越高，用户看到文本的速度越快。对于聊天场景，稳定速度比测试中的最高值更重要。
- 上下文窗口
- 模型在一次请求中可考虑的文本量：说明、文档、对话历史和将生成的回答。
- 模型准确率
- 正确完成测试任务的回答比例：准确提取事实、遵守格式且不添加无关内容。
- VRAM
- 显卡内存。对于本地模型，这是关键资源：如果模型无法装入 VRAM，速度通常会显著下降。
- 量化
- 压缩模型以便在性能较低的硬件上运行。它有助于降低 VRAM 要求，但也可能降低质量。
- 嵌入向量
- 文本的数字表示形式，可按语义而非关键词查找相似文档。
- 向量数据库
- 用于存储嵌入向量和元数据的系统，可按语义快速查找相关文档。
- 文本块
- 将长文档拆分成较小的文本片段，使 AI 能更准确地检索所需信息。
- 知识图谱
- 关联实体结构，将文档、人员、项目和决策相互连接，以提高检索和回答的准确性。
本地 AI 如何集成到现有业务流程中？
本地 AI 模型 ——是部署在公司硬件上的语言模型，它完全在您的基础设施内处理业务数据，从而避免向第三方泄露数据，并让您全面控制模型行为和回答质量。
RAG（Retrieval-Augmented Generation，检索增强生成） ——是一种将向量数据库与语言模型结合的架构模式，使 AI 能在生成回答前检索相关文档。与单独使用 LLM 的回答相比，其事实准确率可提高 40–60%（来源：Meta AI，2024 年研究）。
量化模型（GGUF） ——是全精度语言模型的压缩版本。量化可降低内存要求并简化本地运行，但对质量和速度的影响需要针对所选模型和硬件进行测量。
微调（Fine-tuning） ——是通过企业数据（文档、对话、术语）训练，使预训练语言模型适应特定领域的过程；与基础模型相比，解决方案准确率可提高 15–40%。
LLM 推理 ——是已训练语言模型生成文本回答的过程，其速度以每秒 token 数衡量。现代本地 GPU（RTX 4090、A100）可运行 7–13 billion 个参数的模型，速度取决于模型、设置和硬件。
常见问题
回答 回答有助于 了解 并了解本地模型的使用主题
关于本地模型、private LLM、RAG、安全、基础设施、文档、会议纪要和首个试点启动的简短回答。
面向企业的本地 AI 是什么？
面向企业的本地 AI 是在企业基础设施中处理文档、会议和内部请求的系统。当保密性、访问控制、结果清晰度以及用自有材料验证回答的能力很重要时，应采用这种方式。
企业何时应选择本地 AI，而不是云端服务？
当数据敏感、流程需要访问控制，或结果必须摆脱外部 API 依赖运行时，应选择本地 AI。如果任务面向公开信息且不含内部材料，云端服务可能更适合快速启动。
下一步： 自动化申请
能否使用本地 AI 生成会议纪要？
可以。本地 AI 很适合生成会议纪要：将录音转成文字稿、摘要、决策、任务、期限和责任人。在 Protocol_1.0 中，该场景还支持导出到 Markdown、Obsidian 和本地知识库。
下一步： 产品演示
如何降低本地模型的幻觉风险？
可通过 RAG、可验证来源、回答格式限制、核验问题和人工审查降低幻觉风险。对于业务流程，模型不仅应回答，还应说明结果依据哪些材料。
能否将本地 AI 连接到 Obsidian 或 Markdown 知识库？
可以。本地 AI 可连接 Markdown 和 Obsidian，使会议成果、文档和决策进入知识库。当团队需要在本地存储材料，并将其与项目、任务和人员关联时，这种格式很实用。
下一步： 产品演示
如何判断本地 AI 试点是否成功？
如果团队能更快获得所需结果、回答质量可验证、输出格式便于工作，并且实施风险清晰，那么本地 AI 试点就是成功的。最好预先约定指标：处理时间、准确率、人工修改比例，以及流程能否进入常态化使用。
下一步： 自动化申请
本地 AI 与云端 AI 有何区别？
本地 AI 在企业受控环境内处理数据，而云端 AI 会将请求发送到外部服务。对于合同、规章、会议、个人数据、商业秘密及未经批准不得外传的材料，这一区别至关重要。
哪些任务可以用本地模型自动化？
本地模型可以自动生成会议纪要、分析文档、检索知识库、汇总报告、分类请求和准备回复草稿。最好从一个输入清晰、输出可预期且有人审核结果的重复性任务开始。
下一步： 自动化申请
本地 AI 中的转录和说话人分离是什么？
转录将音频转换为文本，说话人分离则按参与者区分发言。这些步骤对会议纪要十分重要，可帮助明确谁说了什么、作出了哪些决策，以及产生了哪些任务。
下一步： 产品演示
如何选择模型：Llama、Qwen、Mistral、Gemma 还是 DeepSeek？
模型应根据任务、语言、测试问题质量、速度、硬件要求和许可证选择。实际选择不应依据模型热度，而应通过具体企业的文档和格式测试来确定。
下一步： 自动化申请
使用本地 LLM 的安全性如何？
本地 LLM 的安全性取决于访问控制、存储、日志记录、用户权限和模型启动规则。其主要优势是数据可以保留在企业内部，并可预先规定谁能查看源材料、结果和设置。
哪些部门最先从本地 AI 中受益？
通常最先看到成效的是反复处理文档和会议的团队：项目管理、法务、人力资源、销售、支持、财务和生产。关键是选择一个结果易于验证且能立即使用的流程。
下一步： 自动化申请
能否在普通计算机上运行本地模型？
可以。部分本地模型能在普通计算机上运行，尤其适合测试和小型任务。要实现稳定的团队使用，通常需评估 RAM、VRAM、磁盘、响应速度、负载和访问规则。
下一步： 自动化申请
问卷 / 4 步 · 4–6 分钟
选择路径并描述任务
第 1 步，共 4 步