周一。销售经理把一份报价单发给客户。里面有一个数字,在任何一份内部文件里都找不到。模型“算”出来的,经理没再核对。幸好,客户也没有。

周三。HR 的玛丽娜打开邮箱,看到十二封求职信。像复印的一样,连第一句都分毫不差——仿佛十二个人今天早上共用了一个脑子。

周五。分析师把一份 NDA 整段贴进公开的聊天机器人。“帮我翻译一下,是英文的。”跟着 NDA 一起进聊天框的,还有姓名、金额,以及一桩公司尚未公布的交易条款。

三个人,三个错误,同一件工具。有意思的是,在这三个故事里,AI 全都按吩咐完成了工作。坏掉的不是神经元,是神经元周围的那些习惯。下面就是这十个习惯——从可笑的到真正昂贵的——以及和每一个告别的办法。如果你在自己的团队里看到了影子——别担心,这十个习惯都能改:我专门帮公司解决这样的问题。

十个错误

1. 提要求含糊不清。 “给客户写封信”——收到的就是这样一封信:客气、平稳、空洞,和所有信一个模子。再想象一下,这样的信有四十封。客户连开三封,看到那句眼熟的开头,就不读了。不是生气,不是投诉,只是不读了。而同样的请求,只要补上背景——客户是谁、谈的是什么生意、我们平时的语气,再附一封过去写过的信作例子——得到的文本就会偏离模板,偏离的程度恰好等于你的业务偏离行业平均的程度。想再挖深一点,可以看 Prompt Engineering Guide 中文版。

2. 第一个答案不满意就放弃。 初稿很弱,心里“咔哒”一声:“行吧,又一个玩具。”这跟雇了设计师、看完第一张草图就把人开了没什么两样:钱付了,意义为零。可有意思的事恰恰在那之后才开始。“改短一点。再严肃一点。加上客户的反对意见。现在,挑挑你自己这版的毛病。”这样聊上五分钟,手里的就不是废话,而是一份发出去不丢人的草稿。关于怎么迭代,还是那本 Prompt Engineering Guide 中文版 讲得最细。

3. 以为模型什么都知道。 “看看客户在 CRM 里写了什么。”模型没有接入 CRM,它如实说了。但员工已经觉得受了委屈——到中午,全部门都知道“你们那个 AI 不好用”。工具的声誉就这么白白毁掉。其实只要附上导出的对话记录,模型一分钟就能从里面找到人仔细读上一个小时也未必发现的东西。它没有权限,你就把数据亲手递给它。一个真正接入了数据的助手是什么样子,我借《为总经理准备的 AI 助手》一文展示过。

4. 对输出照单全收。 最贵的一个习惯。美国的律师向法院提交了一份简报,里面引用的判例自信、流畅——只存在于模型的想象里。法官要求出示这些判例的原文。哪个数据库里都找不到。Mata 诉 Avianca 案从此成了自动化偏见的教科书案例,律师的姓氏作为注脚留在了法院命令里。特别憋屈的是:把这些判例核对一遍,一个晚上就够了。花两分钟和原始出处对一遍,演示稿里的数字就不会只活在神经网络的脑子里。控制如何退化成一种仪式,我在《个人 AI 助手的风险》一文里拆解过。

5. 原样发出。 经验丰富的 HR 打开一封求职信,读第一句。“非常期待有机会加入贵团队。”好了,可以关了:这信不是人写的,也不是今天写的。如果一个文本不用改一个标点就能发出去,你的竞争对手此刻正在发同样的东西。而一份加入了你的经验、你的数字、你的语气的草稿,就不再平庸。它会开始收到回复。文本在什么场合管用、什么场合不管用,我在《AI 是用来工作的,不是用来演示的》一文里写过。

6. 把机密喂给它。 三星的工程师往公开聊天机器人里贴代码和会议纪要——直到公司下了严厉禁令。我们的规矩更严:俄罗斯公民的个人数据不能流入境外服务,152-FZ 把理由写得很清楚。出路简单而朴素:“客户甲”“公司乙”,金额换成假设数字——然后安心拿译文。至于公司,是时候搭一套企业环境了,别让员工在方便和安全之间做选择题。相关的监管背景,可以看国家网信办的规范。

7. 躲进个人账号。 “我们公司禁用 AI。”领导在例会上说。就在这一刻,四十个员工在旁边的浏览器标签页里用个人聊天机器人改写报告。几乎每个办公室都这样,禁令对此无能为力:便利永远战胜一纸规定。管用的是另一个办法——企业级访问权限。人们不再躲藏,安全部门看得见日志,数据留在自己家里。企业级替代方案的一个例子是讯飞星火。

8. 拿 AI 当挡箭牌。 “这数字哪来的?”“ChatGPT 给的。”会上这么说,等于认罪;到了法庭,就是判自己:Air Canada 想把责任推给自家那个编造退票规则的聊天机器人,结果被判退款给客户。法院说得很简洁:公司要为机器人说的话负责。也就是说,板子最终会打到人身上——打到按下“发送”的那个人身上。会前核对了来源,你就能在会上说“根据季度报告的数据”,而不是“它是这么跟我说的”。顺便一提:152-FZ 第 16 条规定,人对机器做出的、带来法律后果的决定有权提出异议。机器决策的责任该怎么划分,我在《个人 AI 助手的风险:机器做出的决定,谁来负责?》里讨论过。

9. 只发钥匙不给说明书。 许可证买了,权限开了,所有人等着奇迹。一个季度后,一片安静:试过,看不懂,放弃了。钱花了,热心人凉了,效果为零。可这一切本来一天就能解决:一小时的本部门任务实操,一个内部优秀提示词库,一个可以随时请教的人。被认真教过的团队,收获数倍于只拿到密码的团队。想给自己和团队找个入门起点,清华大学免费开放的 AI 课程是个不错的选择。

10. 用禁令代替管理。 禁令的结局永远只有一种:转入地下,然后是泄露——公司通常是从新闻里才知道的。而管理不但可行,而且必须:按自治等级给场景分类,记录日志,检查的是结果而不是登录次数。速度并不会因此消失——它只是不再让人害怕。四个自治等级、每一级配什么控制,我在《个人 AI 助手的风险:四个自治等级与对应控制》里逐一拆过。

延伸阅读

简而言之

AI 能容忍含糊的提问,但不容忍对答案的不负责任。出错的很少是工具,更多是工具周围的那些习惯。

如果你在这些故事里认出了自己的公司——这些问题是可以解决的。我帮助团队避开这十大错误地使用 AI:规章制度、培训、企业环境、审计。联系我,一起看看你的情况。