先说一个你可能正在纠结的场景。
你想上 AI 客服,供应商演示得很漂亮。但你心里一直有个疙瘩:客户资料是公司的命根子——谁问过价、谁投诉过、谁有大单意向,全在对话记录里。这些东西要是流到别人的服务器上,被拿去训练别人的模型,甚至哪天被同行看到,怎么办?
所以你想到了私有化部署。但供应商嘴里的"私有化",和你想要的"数据不出公司",往往不是一回事。先一句话说清楚:
私有化部署不是"把软件装进你的机房"就完事。要盯住三个边界:①数据边界——知识库语料、对话记录存在哪、谁能看;②模型边界——用的是本地模型还是云端 API,走云端 API 数据出不出境;③运维边界——升级、打补丁谁来做,供应商倒了怎么办。
关键点一:数据边界——数据存在哪,谁能看
很多"私有化"只私有了一半:程序装在你机房,但知识库语料要同步到供应商的云平台,对话记录默认回传一份"用于改进服务"。这不是私有化,这是合租。
真正要确认的是:语料和对话记录,物理上存在哪台机器、哪个数据库里;供应商的技术人员有没有远程读取权限;日志和备份会不会落到公司之外的地方。
签合同前必问的一个问题:"请把知识库语料、对话记录、日志、备份分别写在哪儿、谁能访问,逐条写进合同附件。"
关键点二:模型边界——本地模型,还是云端 API
这是最容易被糊弄的一条。系统确实装在你机房,但每回答一个问题,背后调的都是供应商的云端大模型 API——也就是说,客户的每一句话,都出了一趟你的公司。
要分两种情况看:走云端 API,就问清楚数据发给谁、存不存在境外服务器、对方拿不拿你的对话去训练;用本地模型,就确认模型文件是不是完整部署在你的机器上,断掉外网还能不能跑。
签合同前必问的一个问题:"断掉外网,这套系统还能不能正常回答客户问题?"——能,才是真本地;不能,就继续问数据去了哪、出不出境。
关键点三:运维边界——升级谁来做,供应商倒了怎么办
私有化部署意味着运维的担子回到了你这边。系统要升级、模型要更新、漏洞要打补丁,这些事谁来做、多久做一次、收不收费,不问清楚,两年后就是一笔糊涂账。
更极端的情况:供应商倒闭或者转行了呢?如果你手里只有一套编译好的程序,没有源码,这套系统就成了一座没人会修的孤岛。有源码,你至少还能找别人接手。
签合同前必问的一个问题:"如果贵公司停止运营,我能不能拿到全部源码和部署文档,自己维护或交给第三方维护?"
三个边界,一张表对照
| 边界 | 假私有化的样子 | 真私有化的标准 |
|---|---|---|
| 数据边界 | 语料、对话记录同步到供应商云端 | 全部数据只存在你的内网,访问权限归你管 |
| 模型边界 | 本地装壳,实际调供应商云端 API | 本地模型断网可跑,或云端 API 走你自己的 Key、路径说得清 |
| 运维边界 | 只有程序没有源码,供应商倒了系统就废 | 源码 100% 交付,升级和补丁的责任、周期、费用写进合同 |
SEVN 的做法
SEVN(北京柒致智能科技有限公司)的数字客服"小思",单个数字员工 1.5 万元起,支持私有化部署、源码 100% 交付——系统装在你的机器上,源码也在你手里。需要调云端大模型时,走企业自己的 Key,不经过 SEVN 的账户;对话数据不出你的内网。每个员工配可视化工作台,它答了什么、依据是什么,你随时看得见。
数据出了门,就不再是你的资产。
私有化部署买的不是软件,是数据的主权。