AI数字人越发以假乱真，警惕“意见表达”的算力化 | 封面评论

□蒋璟璟“AI数字人”，持续引发关注。记者在某社交平台上注意到一名为“××AI打假人”的账户，其发帖称自己将致力于揪出纯AI生成的内容博主，还表示“关注了很多AI生成非真实的帅哥美女”。在其关注列表里有300多个账号，记者随机选取了其中20个账号浏览发现，若没有看到评论区的留言提示，记者第一反应只以

□蒋璟璟

“AI数字人”，持续引发关注。记者在某社交平台上注意到一名为“××AI打假人”的账户，其发帖称自己将致力于揪出纯AI生成的内容博主，还表示“关注了很多AI生成非真实的帅哥美女”。在其关注列表里有300多个账号，记者随机选取了其中20个账号浏览发现，若没有看到评论区的留言提示，记者第一反应只以为他们是普通博主。随后，记者线下随机采访了数十名路人，至少有七成受访者称曾刷到过“AI数字人”视频。（法治日报）

其实在本轮AI大模型爆发之初，就有业内人士预言，社媒、电商等领域的客服、“数字人”等场景，将率先就此完成“有意义的商用部署”。从近两年的现实演进来看，上述判断可以说充分得到了验证。这是产业端令人兴奋的商业成就，却是网络信息生态内令人倍感困惑的新挑战。为了适配这种新态势，立法端迅速给出了反应，而相关平台也完善了相应的管理细则，只不过从现实情况来看，乱象仍频，治乱还是不尽如人意。

一个很基本的逻辑在于，“AI数字人”要想具备足够的商业价值，就必须能“以假乱真”。如若不然，破绽百出“一眼假”，就只能被当成笑话看了。但以受众和监管部门的立场看，“数字人”理应是明显标识、严格区分的……所以，这中间就存在着显然的“诉求冲突”。之于此，最耐人寻味的，实则是平台的态度。现实中，一些平台尽管也在纸面上对“数字人”表达了严管的姿态，但其日常治理更多是“高高举起，轻轻放下”，隐隐有“睁一只眼闭一只眼”的意思。“明紧暗松”的态势下，大量的“数字人”账号乘机做大。

时至今日，很多AI人已晋升为“腰部账号”甚至是“头部账号”，平台后台系统是否掌握情况犹未可知，但确信的是，真有大量的粉丝、关乎者是“以假为真”的。除了模糊真假、“欺骗感情”之类的道德瑕疵之外，AI人大批量起号，其实还带了某些更为直接的风险。那就是以技术手段为杠杆，“超级信息传播者”的出现：某某个体或团队，通过所生成、所控制、所运营的大量数字人账号，完全可能构成舆论场内的优势意见甚至是支配式意见——“意见表达”的工业化、算力化，削弱、屏蔽了个体的、群体的真实声音，这是必须警惕的。

“虚拟人”本身是技术中性的，真正需要防范的，是量产“虚拟人”与“虚假意见”的共振。就此而言，相应的治理能力与治理决心，必须尽快跟进。