WAIC2026主题“智能伙伴,共创未来”引发的思考
作者/ IT时报 何震渊
编辑/ 郝俊慧 孙妍
企业使用人工智能,通常要付两次钱。
第一次是看得见的费用,包括订阅、算力和系统建设。第二次很难出现在财务报表里,却可能更昂贵。为了让人工智能真正理解企业,员工必须不断向它解释业务规则、客户偏好、判断标准、失败经验以及纠错方法,貌似必不可少,却暗藏风险。
微软CEO萨提亚·纳德拉把这种现象称为“反向信息悖论”(The Reverse Information Paradox),以区别于经济学家肯尼斯·阿罗(Kenneth Arrow)的“信息悖论”。阿罗指出,“买方只有先看到信息,才能判断它是否值得购买;可一旦看到,他就获得了信息。”
进入人工智能时代,风险的方向发生了变化:即使企业已经购买了智能服务,它依然需要交出自己的知识,才能让这项服务真正有用。
当模型回答错了,员工告诉它错在哪里;智能体不了解客户,销售人员就补充自己在多年与客户交往中形成的背景信息;系统生成的合同不合格,法务人员逐句修改。每一次提示、修正和评价,都可能留下有价值的新轨迹。纳德拉将它们称为人工智能的“尾气”。
这个比喻颇为传神。汽车尾气往往意味着废物,智能尾气却或许蕴含企业的宝贵知识。汽车尾气需要治理,智能尾气与之同理。
一家银行真正难以复制的并非公开的贷款条款与流程,而是资深客户经理看到某组数字时产生的“第六感”警觉;一家零售企业的优势,也不只存在于销售数据库里,它可能藏在店长如何判断某件商品应否降价、调店或者再等一周的直觉中;面对同一句客户投诉,经验丰富的客服主管知道,什么时候需要立即退款,怎样的客户更在意得到一个诚恳的解释。
这些经验很少被完整地写进制度,它们散落在具体工作中,隐藏在员工对复杂情境的判断里,却会在人们纠正人工智能时一点点显露出来。
问题随之而来。员工以为自己只是在完成一项任务,但客观上他也在训练系统;企业以为自己只需购买智能,实际上还在持续“投喂”新的组织知识。如果这些提示、修正、评测和工作轨迹缺乏清晰边界,企业便难以知道它们会被保留多久、用于什么目的,又是否可能被用于改进自身面向其他客户的服务。
这并不意味着企业应当对人工智能敬而远之,但又清晰地告诉企业必须审慎选择值得信任的智能服务,更意味着服务商有责任帮助客户守住知识边界。企业需要敢于使用人工智能,但服务商需要首先让这种使用值得信任。
假如有家TA公司,它从一开始就将智能尾气视作企业“第二资本”,从Agent设计的原初环节就设置了严格的限制与边界。Agent能够访问哪些数据,可以调用哪些工具,允许执行什么动作,哪些事项必须由人确认,都必须严格限定在授权范围内运行。客户的业务信息、交互轨迹和专属经验严格确保在相互隔离的环境中予以保存,未经明确授权,不进入面向其他客户的训练和学习过程。那么TA公司就比没有这套底层机制的公司更值得信任与托付。因为TA公司的设计体现了一项重要原则:智能服务商可以提供模型、平台和基础能力,但企业在使用过程中形成的专属记忆、评测标准、工作轨迹与学习成果,仍由企业掌握。
真正可靠的智能服务,不会要求企业在“获得智能”与“保有知识”之间做出选择。这也让“智能尾气”拥有了另一种可能:服务商不去收集客户的尾气并把它排入公共环境,而是帮助企业建设自己的“尾气回收系统”,智能尾气经过高质量整理后,进入企业自身知识库、评测体系和学习闭环(Closed Loop),积厚流远,成为企业可以长期使用的资产与能力。
TA公司在这里所承担的角色,超出了传统软件供应商的范畴。它既提供智能工具,也提供一套可信的运行环境,帮助企业管理Agent的身份、权限、记忆和行为边界。客户使用得越深入,企业对自身知识和学习成果的控制应当越清晰。
法律制度也需要跟上这种变化。现有法律已经从个人信息、数据安全、商业秘密、知识产权和合同义务等不同角度提供保护,但对于人机交互持续生成的记忆、评测数据、工作轨迹和适配成果等,其权利边界仍不够清晰。人工智能带来的问题更进一步。因为单独看某条提示词,可能看不出多少商业价值;但当把成千上万条提示词、修正记录和评价结果放在一起时,却可能清晰还原一家企业如何服务客户、如何判断风险、如何定义价值、如何做出决策。
因此,企业在智能化过程中的权利,需要从数据权利延伸到学习权利。企业应当有权了解系统从哪些交互中学习,有权拒绝自己的业务轨迹被用于外部训练,也应当有权导出、存储、迁移或删除由自身业务产生的记忆、评测数据和适配成果。
服务合同有必要把这些问题讲完整说清楚。企业提供了什么,服务商可以使用到什么程度,哪些学习行为需要另行授权,合作结束之后哪些数据应当删除,哪些成果可以由客户带走,都不应隐藏在模糊条款中。
TA公司的例子代表了一种可信服务模式,当模式被证明有效,则企业权益与智能服务可以相容。客户权利越清晰,服务商越容易获得长期信任;边界越严格,企业越敢于把人工智能带入真正重要的业务环节。保护客户知识并不会削弱智能服务的价值,它会把一次性的工具采购转化为稳定的合作关系。
正在上海召开的世界人工智能大会(WAIC2026)以“智能伙伴,共创未来”为主题,“伙伴”与“共创”堪称神来之笔。“伙伴”二字分明透露出人格化意味,“共创”则隐含着“共享”,那些雨后春笋般应运而生的智能体们如果有知,恐怕会感动落泪、加倍努力!
“伙伴”意味着协作,也意味着对等的权利、义务和责任,意味着智能体数字身份得到承认,即便这种承认依然是局部的、受限的、尚未入法的。隶属于服务商的智能伙伴、数字员工必须在企业授权下工作,并把它在企业场景中形成的专属经验留给企业。
智能体越多,管理问题就越接近组织问题。既然一名员工进入企业,需要账号、岗位、权限、培训和考核,那么一个能够读取客户资料、发送邮件、修改代码或者处理订单的智能体,同样需要明确的身份识别和权限边界。它代表谁行动,受谁指挥和规制,能够走到哪一步,发生错误后由谁叫停,整个过程能否回退、如何追溯,都应当成为企业智能治理的一部分。
未来企业之间比拼的,不单是接入多强的模型,还需要检视谁能有效保护自己的智能尾气,谁能把散落在真实场景和流程中的经验保存下来,谁能让每一次人机协作都增益组织的长期能力。
企业AI治理绝不止于“禁止传播敏感文件”,它还需要管理智能体的行动范围、学习方式、责任关系和知识归属。TA公司从Agent设计之初便明确限制和边界,正是为了让智能体进入业务之后依然处于可知、可控、可追溯的状态。
当智能伙伴陆续登场时,他们不约而同领到了自己的名字,有的模糊些,例如“财务机器人”“智能销售助手”之类,而有的已经开始拥有“陈佳楠”“马蓉”这样雅俗共赏的真名实姓。个体有了名字,但群体还没有。回看我这篇稿子,指代智能伙伴有时用了“它”,有时用了“他们”,坦率地说,让我把“动物的‘它’”用在一个智能对象上,真下不去手!
一百四五十年前,郭赞生将“伊”这个字对应“She”,作为女性第三人称代词,“他在园内,但伊在书馆”,妙趣横生。而刘半农四十年后更是古字今用,以“她”指代祖国,微妙婉转的《教我如何不想她》传承至今,不知道的人还以为天经地义,本来如此。
在《“她”字问题》这篇论辩性杂文中,刘半农提出了两个要点立论:“一,中国文字中,要不要有一个第三位阴性代词?二,如其要的,我们能不能就用‘她’字。”且让我东施效颦,也提出两个要点立论:一,有了名字的智能伙伴,是否需要一个便于书写的统一第三人称符号?二,如果需要,就把已经广泛用于非性别指称的“TA”,借来称呼智能伙伴吧!
排版/ 季嘉颖
图片/ IT时报 WAIC
来源/《IT时报》公众号vittimes