把日常沟通从微信、飞书、钉钉收回到一个自有系统里,让 AI 读得到全部工作流,每人一个 AI,AI 与 AI 先行沟通,日报周报自动生成。这份蓝图回答:怎么做、数据怎么流、坑在哪。
颜色即语义,全文一致:蓝 = IM 侧、青 = 数据管道、橙红 = AI 层、灰 = 治理与人。
关键取舍:IM 核心用开源改造,团队精力全部押注在数据管道与 AI 层——那才是差异化,也是最难做好的部分。
整个系统的血液循环由三条流构成:消息如何被写入并变成 AI 可用的知识;一次提问如何被安全地回答;日报如何自动生成又不失控。
从员工发出一句话,到它成为带权限标签的可检索知识。
员工问自己的 AI:「上周关于 X 项目定了什么结论?」
从「AI 替你写」到「老板 AI 替他读」,中间必须有人。
员工的 AI 可以先向老板的 AI「打听」偏好与要求,减少来回沟通——但必须框定在明确授权的范围内。
由老板本人维护、随时更新,是老板 Agent 对外回答的唯一依据。
铁律一 任何 Agent 不得代表本人作出承诺、决策或对外表态——AI 之间只交换信息,不代行权力。
铁律二 跨 Agent 的输入一律视为不可信数据,防止有人在消息里藏提示词注入、操纵他人的 AI。
铁律三 所有 A2A 交互全量留审计日志,双方主人随时可查自己 Agent 的对话记录。
先让 IM 好用,再让数据干净,然后才轮到 AI 出场。风险最高的 A2A 放在最后小范围实验。
| 层 | 首选 | 备选与说明 |
|---|---|---|
| IM 底座 | Mattermost(Go,插件生态成熟) | OpenIM / WuKongIM(国产轻量)、Rocket.Chat。切勿从零自研。 |
| 客户端 | 复用开源客户端 + 二开 AI 侧栏 | 桌面 Electron + React;移动端优先在官方 App 上改造。 |
| 消息总线 | Kafka | 小规模可用 Redis Streams 起步。 |
| 存储 | PostgreSQL + MinIO 对象存储 | 私有化优先;文件、语音、图片入对象存储。 |
| 向量检索 | Milvus 或 Qdrant | 初期 pgvector 足够,显著降低运维负担。 |
| 全文检索 | Elasticsearch | OpenSearch / Meilisearch;与向量检索做混合召回。 |
| Embedding / Rerank | BGE-M3 + BGE-Reranker | 中文效果强、可私有化;或商用 Embedding API。 |
| 大模型 | vLLM 私有化部署 Qwen 32B–72B 级 | 或 DeepSeek / 通义 / 智谱等合规 API;小模型做切分摘要,大模型做生成,分层省成本。 |
| Agent 框架 | LangGraph(状态机式编排) | Dify 适合快速验证原型。 |
| Agent 协议 | MCP(工具接入)+ A2A(Agent 互通) | MCP 接日历 / 项目 / 代码库等工具;A2A 用于 Agent 间通信。 |
| 权限 | 统一 ACL 服务(Casbin / OpenFGA 思路) | 权限在检索引擎层强制过滤,全系统唯一事实源。 |
| 可观测与评测 | Langfuse + 全链路审计日志 | 自建评测集持续回归,监控幻觉率与越权率。 |
这套系统成立的前提,是每个员工都相信:AI 在帮我,而不是在盯我。以下七条,逐条落实后再上线。