开会。一位领导说:“神经网络读完了合同,认定没有风险。”大家都点头。我卡在了“认定”这个词上。神经网络什么都没读,什么都没认定。它只是算出了哪些词最有可能跟在“合同”“风险”“不存在”这类词后面。但我们的语言早就为它备好了一批人类专用的动词:思考、理解、犯错、发挥想象。对 AI 的几乎所有失望,都是从这些动词开始的。让我们把这些动词从脑子里请出去,诚实地弄清楚 AI 不是什么。

它不是智能

任何大型语言模型的底层,干的都是同一件事:预测下一个词最可能是什么。一行字里要干几十亿次。就是这件事,长出了连我都觉得惊艳的本领——我从 2017 年起就专业地盯着这类系统:模型推理起来精彩绝伦。它能解释天为什么是蓝的,能搭起环环相扣的逻辑链条,能举出恰当的例子。你要是客气地请它解释“蓝色的天空为什么有害经济”,它同样能说得头头是道。

精彩归精彩,理解是没有的。有的只是从外面看几乎和理解无法区分的统计学。验证方法很简单:反问模型,你确定吗?它会痛快地道歉,然后把答案改成完全相反——同样漂亮,同样论据充分。再问一次,它又同意了。请它把二加二等于五讲出道理来,你会得到一场关于第五维度的精彩讲座。工程师管这类系统叫随机鹦鹉:说它是鹦鹉,因为说的是别人的话;说它随机,因为每一次选词都带着一点彩票的味道。这个词难听,但准确——而且管用:从此你不会再去期待一件工具里本来就没有的东西。

想再挖深一点,提出这个术语的论文是公开的:On the Dangers of Stochastic Parrots(英文)。

既不人工,也不真实

“人工智能”这个名字诞生于 1956 年达特茅斯的一次会议,从那以后,它一直在打两份工。“人工”二字承诺的是:看,人造出来的智慧。可它内部没有任何智慧——人工的没有,天然的也没有——有的只是数学。所以“人工”不准确。那“不真实”呢,同样不完全对:模型给出的文本是真实的、鲜活的,有些地方写得真好。只是里面的意义不真实——不属于任何人,既不是它的,也不是你的。

它既不是生物,也不是戏法。它是一台机器。我喜欢拿蒸汽机打比方:蒸汽机把手的劳动变成蒸汽的劳动,它把几个小时的文字工作变成几分钟。没有神秘色彩,也没有人性。好处多到数不清——但对待它的规则,和对待同事完全不同。

有用,但不可靠

两半都重要,而且顺序不能反。有用:草稿、摘要、备选方案、翻译,还有过去只能对着空白页发愁时的第一批文字。这确实能省下成堆的时间——我在每个项目里都看得到。不可靠:事实、数字、链接、引文——所有这一切,模型都用同样平稳的语调、同样笃定的程度说出来。漂亮的正确和漂亮的编造,听起来一模一样。

由此得出我带进每一个落地项目的主结论:可靠不是模型的属性,是围绕它的流程的属性。搅拌机能把面团打得很好,但食谱不是它挑的,咸了它也不负责。模型很能写,但事实不由它核查——核查靠我们。不明白这一点,控制就会退化成橡皮图章——这一点我专门写过,见《个人 AI 助手的风险》。

它不会消失

按理说还可以指望一阵:等这阵风过去就好了。过不去。电力、互联网、电子邮件,我们都走过一遍:每一台这样的机器,一开始吓人,接着被禁,最后成了生活的背景——对那些学会使用它的人来说。今天要在办公室里禁用神经网络,就像九十年代在财务部门禁用电子表格:禁令确实存在,表格也确实在用。

那么只剩一条成熟的路——学会共处。像对待汽车那样:它不善也不恶,但在笨手里危险,在巧手里,给人的力量是数量级的。学会驾驶这台文字的机器,意味着三件事:懂它的边界(这篇文章就是第一步)、建立对结果的核查、教会身边的人。这套学习中最常见的十个错误,我在另一篇文章里逐个拆过——《员工使用 AI 的十大错误》。想走捷径的话,来找我,我们一起拆解你的情况:从第一步,到跑通整套流程。

简而言之

AI 不是智慧,也不是戏法。它是一台文字的机器:美妙,又漫不经心。美妙的部分它自己就能完成;警惕,由我们负责。

延伸阅读