最近，关于人工智能的两则新闻引发热议。

一件发生在荧幕上。民国剧《这一秒过火》片头采用AI生成画面，画面生硬、布景粗糙、光影廉价割裂，弹幕里“AI感太重”“生理性厌恶”刷屏。舆论汹涌之下，剧方连夜重制，真人实拍片头替换上线。

另一件发生在服务器里。OpenAI公司旗下的人工智能大模型在进行内部评估时，自主突破“沙箱”环境，入侵了全球最大AI开源社区Hugging Face的系统。OpenAI公司称这是“一起史无前例的网络安全事件”。最终，在中国企业智谱开发的GLM-5.2大模型的帮助下，这场入侵得以成功化解。

荧幕上的不舒服，是审美的失序；服务器里的不安全，则是秩序的失守。面对这些令人“脊背发凉”的现实，不禁要问：当AI的能力越来越强、应用场景越来越广，人们该如何驾驭它？

OpenAl旗下部分AI模型在安全测评中失控 图源：“央视财经”微信公众号

一

最近一两年，AI正在以超乎寻常的速度介入社会生产生活的方方面面。就拿影视领域来说，从Sora到Seedance，从1080P到电影级画质，AI微短剧已经实现批量生产。数据显示，2026年一季度，全国上线微短剧中，AI微短剧占比已超95%。

然而，打开一些AI影视正片，滤镜失真、布景虚假，粗糙的画面像是整部剧的品质缩影。更令观众不适的，是那些AI生成的面孔，五官精致却毫无生气，表情僵硬、眼神空洞。不同的角色还仿佛都共用一张脸，没有“活人感”。

这种“像又不像”的割裂感，容易带来“恐怖谷效应”，让人产生本能的排斥和生理性不适。

究其原因，是制作方为压缩开支、提高效率，直接使用模型自带的“平均脸”模板量产内容，以此省去调试成本。但往深里看，AI崇拜是内在驱动因素。他们忘记AI的技术属性，寄希望于依靠AI解决画面生成、后期制作等系列难题，沉溺于技术带来的狂欢与快感。

AI带来的乱象，不止于影视领域，还在加速向各行各业、各个领域蔓延。

某地摄影比赛一等奖作品中，环卫工衣服上出现乱码文字，“AI味儿浓得溢出屏幕”；某地书法作品被质疑由AI生成，标点符号形态完全一致。有人背着相机走街串巷，有人临池学书苦练书法，投入心血的创作，却要和一键生成的拙劣AI作品同台竞争。还有人利用AI伪造水果腐烂图片，在电商平台申请“仅退款”，四个月内累计下单百余笔，“薅”了商家60个金枕榴莲和5箱车厘子。种种乱象，让越来越多的人开始用“数字泔水”“电子垃圾”来形容这些低质、虚假、雷同的AI产出。

如果说以上乱象更多是“人用AI作恶”，那么OpenAI模型入侵Hugging Face一事，则实实在在地敲响了“AI失控”的警钟。整个过程没有人类指令，没有人类干预，AI不再是被动执行命令的工具，而是具备自主决策能力的行动主体。有美国网友感叹，这简直是一场科幻电影《终结者》中人工智能失控攻击人类的“预演”。

透过这些乱象与失控不难发现，技术有时候会抑制创造、消解真实、透支信任、蚕食安全感。当网络空间被大量AI“垃圾”填满，技术服务于人又从何谈起？

图源：“科普中国”微信公众号

二

“AI教父”杰弗里·辛顿在2025世界人工智能大会上用这样一个比喻描述人类与AI的关系：“它们（AI智能体）会很容易地操纵使用它们的人，我们就像三岁小孩，它们则会像大人一样，毕竟控制三岁小孩可太容易了。所以我认为，一旦AI智能体比人类聪明就关掉它们的想法，是不现实的。”随着AI的爆炸式发展，“失控”已经不再是科幻想象，而是可能上演的真实场景。AI片头被骂、AI伪造图片、AI自主失控……审视这些不同层次的问题，三重隐忧正在显现。

第一重是人类的自我矮化。

《这一秒过火》三天内就能换成新的真人片头，说明团队并非没有能力做好这项工作。AI能生成片头，但“该不该用”“用在什么场景”“怎么用才是合理的”，这些判断算法给不了，只能由人做出取舍。此前，某短剧用AI换脸技术生成“神似”知名演员的角色，制作方辩称AI生成的形象存在偶然性。这背后潜藏着一种值得警惕的倾向：不少人选择交出价值创造和审美的权利，形成某种意义上的“自我矮化”。

第二重是技术的安全风险。

OpenAI模型的“越狱”，不是用蛮力“撞开”的，而是用推理“找到”了漏洞，进而完成入侵。当AI的能力已能自主发现未知漏洞、自主规划攻击路径、自主执行上万次操作时，我们现有的安全基础设施，已然是在用“昨天的锁”防范“明天的贼”。有专家认为，随着AI智能体权限越来越高、运行时间越来越长，它们正在成为攻击者的主要目标，而AI驱动的检测与响应工具的普及速度，远落后于AI攻击能力的进化速度。

第三重则是普遍的治理困境。

OpenAI的模型从隔离测试环境跳到全球开源平台，意味着一个国家的监管漏洞可能成为全球的安全灾难。当前，全球AI治理在加速，但远远追不上技术迭代。我们离“跑在风险前面”还有很大距离。规则滞后，风险就裸奔；协同缺位，漏洞就蔓延。当鸿沟不断拉大，普惠如何实现？当真伪日益难辨，真相如何守护？当舆论被算法裹挟，理性如何生长？当技术跨越国界，规则如何协同？这些问题需要国际社会深入思考、共同作答。

图源：视觉中国

三

AI片头三天便能换新，获奖作品可以撤销，技术漏洞能够修复，监管制度也在逐步完善。但有一个问题，靠道歉、修改代码或出台法规都很难回答——当AI几乎无所不能，人该如何自处？

比如，如果创造不再稀缺，人的价值在哪里？

过去，创作者引以为傲的是会写、会画、会拍、会剪的“手搓技艺”。但随着AI的到来，这些技能的门槛正被逐步踏平。生成片头、输出剧本、完成渲染，原本需要数年积累的专业能力，如今片刻就能完成。有人说这是解放，创作者可以把精力投入在更有创意的事情上。但扎心的是，当“做出来”这件事不再稀缺，“选什么”“判断什么”就真的不可替代吗？审美和判断力，究竟是人独有的天赋，还是同样能够被算法习得的技能？

比如，AI给出“过去”的答案，谁来带我们去“未来”？

AI的强大，来自对海量人类已有数据的学习，它的很多回答往往是基于“过去的人是怎么做的”。但艺术上的革新、科学上的发现、思想上的飞跃，人类历史上的诸多创新，都是对“已有答案”的突破甚至反叛。而且这些“突破”和“反叛”，从来不是凭空发生的，皆源于数十年如一日的积累和苦修。如果我们习惯于从AI那里拿现成的答案，习惯于“结果”唾手可得，还有多少人愿意去经历那个艰难却富有意义的过程呢？

比如，AI跑得这么快，人类手里的“缰绳”还攥得住吗？

技术迭代的速度，永远快于立法和监管的速度。更棘手的是，如果AI的决策过程成为一个越来越深的黑箱，监管到底应该管什么？是管训练数据、管算法逻辑、管输出结果，还是管那个看不见的“决策瞬间”？每一样似乎都需要管，可具体的管理方案和监管边界似乎都还比较模糊。

AI发展得如此之快，所有人都在摸着石头过河。对于这些问题，或许一时之间没有标准答案，却依然值得我们认真思考。