第07版:经济周刊·深读 上一版3  4下一版  
 
标题导航
回到首页 | 标题导航
2026年07月09日 星期四
3 上一篇  下一篇 4 放大 缩小 默认
谁在制造“数字泔水”?
记者 郝一萍

  当我们随手刷到文字通顺却毫无干货的AI“水文”、千篇一律的换脸短视频、“换汤不换药”的洗稿推文时,或许不知,这些充斥着网络空间的信息垃圾,正是当下亟待整治的“数字泔水”。

  2025年年底,《韦氏词典》编辑出版商美国韦氏出版公司将英文单词“slop”(现常译作泔水)评选为2025年度热词,并将其定义为“通常由AI批量生成的低质量数字内容”。这让“数字泔水”的概念逐渐走进公众视野。

  在各类信息垃圾层层包裹下,公众想要获取有效信息变得愈发困难,这正是“数字泔水”造成的最直观的后果。通过AI等工具,规模化生产的“数字泔水”,不仅没有营养,有些还会刻意造假歪曲、污染AI训练数据形成恶性循环,是人工智能时代特有的网络乱象。

  一组数据令人惊讶:2025年,互联网上由AI生成的数据量占35%至50%,2035年预计将达90%至99%。

  这是中国信息通信研究院云计算与大数据研究所所长何宝宏曾公开的一组数据。“在2023年之前,这个数字还不到5%,现在形势已发生翻天覆地的变化。十年后,我们要想从互联网数据中找出人类统计发布的,概率会变得很低。”他直言,“互联网正在被AI合成的数据所淹没,成了一个大型的‘垃圾填埋场’!”

  当网络被“数字泔水”填满,优质内容该何处立足?网络生态又该如何正本清源?

  乱象

  流量至上 催生“数字泔水”

  近年来,各类AI生成的虚假新闻在网络空间大量蔓延,仿真度高,令人防不胜防。

  今年3月,一条题为《南岸立交垮塌》的视频在网络热传,画面呈现立交桥坍塌场景,上线仅12个小时,便收获5700余个点赞、1100余次转发及千余条网友留言。经核查证实,该画面为AI生成的虚假信息。

  无独有偶,重庆有网民在短视频平台发布题为《涪陵灌溪沟农贸市场对面房屋倒塌》的视频,经查同样是借助AI工具编造的不实内容。而这些AI虚假视频的制作者,发布不实信息的目的大多是为了博取网络流量、借机牟利变现。

  除了编造虚假新闻外,AI一键生成爽文、伪科普、“魔改”短视频等,也都是“数字泔水”集中爆发的领域。这类内容大多由个人流水线生产。

  今年4月,一对“90后”夫妻依托AI批量运营公众号年入200万元的案例,引发全网热议。二人借助AI工具批量生产内容,短短几分钟便可炮制出一篇迎合平台算法的公众号推文,靠广告分成赚取流量收益。

  不少人盯上了AI的“造富”能力,纷纷想要跟风效仿。记者搜索各大网络平台发现,有许多卖家嗅到商机,借机兜售各类关于AI生成的产品,涵盖文生视频软件、AI视频制作教程、AI短剧剧本等。

  点开一个“AI短剧实战教程”的售卖链接,“不用专业设备、无需真人出镜,零基础也能当导演”“靠这套‘傻瓜’流程已赚8万元”“一周赚3300元”“适合学生党、宝妈、上班族做副业”等极具煽动性的宣传话术格外吸睛。

  另一个AI科普视频创作教程则宣称:“无需露脸、不用实拍,也不用专业知识储备,依靠AI工具,就能批量打造多条爆款科普内容。”对此,卖家直言,抖音AI科普赛道流量充足、起号门槛低、变现路径稳定,是当下普通人零基础入局、轻资产创业的热门风口。

  而与卖家承诺的“高回报”相对的是,这些产品售价极低,大多从0.1元/个至10元/个不等。“为何卖得那么便宜?”“这些课程通过什么方式学习?”“学多久能上手?”面对记者的追问,卖家坦言,这些都是提前录制好的视频课程,通过网盘发送,买家自行学习,学习效果无法保证,“我不是学这个的,只是高价买回来低价卖而已。”

  记者尝试购买了一款“AI剧本合集”产品,内含15万个段子、剧本与文案素材,涵盖文艺情感、剧情反转、相亲日常、心灵鸡汤、商业故事、土味情话、古风文案、情感语录等数十个品类。但仔细分辨不难看出,这些内容逻辑混乱、词句空洞乏味,大多不知所云、套路化严重,实际可用价值极低。

  审视

  创作利器 为何沦为“泔水”制造机

  近年来AI技术快速迭代,文本生成、视频剪辑等工具不断简化操作流程、降低使用门槛和成本。

  你是否曾在朋友圈、短视频平台刷到过这样的画面:熟人或网友用AI换脸,把自己代入影视剧经典名场面,一秒置身经典剧情之中。如今,各类相关应用程序层出不穷,只需简单操作,便可一键完成换脸制作。

  从今年年初起,“90后”赵乔便开始沉迷一款AI视频软件。起初,她只是受朋友邀请下载体验、参与共创。可几番使用后她发现,平台生成的不少视频仿真度极高、足以以假乱真,发布到短视频平台后还收获了不少点赞。久而久之,她渐渐深陷其中、频繁制作发布这类AI视频内容。

  记者翻阅其短视频账号发现,自2021年10月注册至2025年12月,四年多她仅发布15条作品,内容多为实景拍摄的旅行vlog(视频日志)与日常随拍;而从今年1月至今,短短6个月里便更新了84条视频,相当于每两天就发布一条。她将自己的AI虚拟分身融入星际大战、古风武侠、女团热舞等各类场景,恰如平台广告语所言:“足不出户便能体验百种人生。”

  “以前我发视频总要等合适的契机,比如碰到有趣的场景或是外出旅游才会更新,拍摄、修视频都很耗费精力,很麻烦。现在有了这款AI软件,创作门槛一下子低了很多。”不过,赵乔也坦言心中存有顾虑。最近,她发现,已有陌生网友擅自使用她的面容共创视频并发布在自己的账号里,“自己的脸被陌生人随意拿去做视频,感觉会给个人信息安全埋下不小隐患。”

  你是否常在平台推送中刷到这类文章:标题噱头十足、行文看似通顺流畅,内容却似曾相识,而阅读量却往往不少。这类文字刻意迎合平台算法逻辑,更易获得流量倾斜。

  “其实,这些文章都是有公式的。”一位自媒体账号运营者告诉记者,“先找到一篇和你同赛道的‘爆款’文章,直接全文复制到豆包或者DeepSeek(深度求索)里,让它帮你分析这篇文章的结构、受众痛点、吸睛亮点,从中提炼出可复制的‘爆款’公式,再结合你的主题就能生成一篇原创内容。”

  她举个例子:“我之前想做护肤赛道,刷到一篇关于大牌‘平替’护肤品的‘爆款’笔记。我把它直接复制给豆包让它拆解出一套创作公式——反常识观点(平价并非无效)+高口碑单品+实测反馈+精准戳痛点,在此基础上,加入我自己实测过的几款‘平替’产品的真实体验,让豆包用以上关键信息生成一篇文章,前后用时不超过20分钟。”

  仅靠几个关键词,就能生成一篇“爆款”文案。今年3月,被曝光的AI“投毒”乱象也是基于这一技术。一些不法组织通过伪造专家身份、虚构研究报告等方式,向AI“投喂”本不存在的虚假信息。这些行为的背后是一款名为力擎GEO(生成式引擎优化)的软件。用户在这款软件上输入几个关键词,即可批量生成十余篇包含夸张虚假信息的宣传软文,不久后,这些内容竟被多个主流AI大模型捕获并转化为标准答案推送给广大用户。消息曝出后,这款软件已在网络上销声匿迹。

  有网友盘点了当下主流的AI工具,包括AI通用大模型中的豆包、千问等;图像设计中的imini、DALL-E等;视频生成中的即梦、可灵等;AI音乐中的海绵音乐等。这些工具本应降低内容创作的门槛,让普通人也能轻松实现创意表达,可在部分投机者手中,却成为批量炮制低质内容、制造“数字泔水”的利刃。

  为防范内容乱象,许多AI工具均发布了免责声明及使用禁令。豆包在相关服务条款中明确提示:难以保证模型生成内容的真实性、准确性与可靠性,平台有可能输出不实甚至虚假信息;同时严禁生成仇恨言论、暴力色情、虚假资讯以及侵犯商标、肖像权等违规内容。AI图像设计工具DALL-E同样划定使用红线,禁止创作仇恨、暴力、色情、虚假及侵权类内容,严禁借助工具造假造谣、误导公众。

  破局

  监管承压

  从生活困扰到行业之殇

  当下,“数字泔水”早已不再局限于单一平台,而是全面渗透短视频平台、社交媒体、搜索引擎等各大场景,无孔不入地充斥在互联网上,成为人们无法回避的困扰。

  最近,刘果就被一篇旅游笔记坑了一回。

  此前,她带着两个孩子去湖州游玩。出发前刷大众点评做攻略,看到一篇笔记推荐了宋茗茶博园,还标注是免费景点。她特意驱车一个多小时赶过去,到了现场才被告知,只有入住景区酒店的客人才能免费入园,普通游客必须购票。考虑到“来都来了”,最终,一家人花了100多元买门票进去、喝了两杯茶。

  “当时我看那篇攻略,其实能看出来是敷衍凑数的‘水文’,文字看着通顺却很生硬,完全没有真实游玩体验,但也没太当回事,就照着攻略来了,没想到被‘背刺’,出游的好心情全被破坏了。”刘果愤愤地说。

  除了老百姓的日常生活之外,学术界也是“数字泔水”的重灾区。原本AI被认为是科研路上的“神助攻”,而近年来,“幽灵文献”(大量不存在的虚假文献)逐渐增多让许多高校学生和科研人员谈“AI”色变。

  去年年底,香港大学社会科学学院的一篇论文,因涉嫌使用AI伪造大量虚假文献与引用而引发争议。最后,该院副院长引咎辞职。此前,AI内容检测机构GPTZero开展了一项抽样调研:其随机抽检的300篇投稿论文中,超过50篇论文被检测出存在伪造参考文献、捏造不存在的作者以及编造实验数据等情况,其中部分论文在同行评审阶段甚至获得了均分8.0的高分评价。

  “如何阻止AI乱编文献?”“AI给我推荐的文献根本找不到,到底有没有这篇论文?”“天塌了!让AI写一段综述,结果发现参考文献是它瞎编的,怎么办?”……许多网友在线求助。

  据中国互联网络信息中心发布的《生成式人工智能应用发展报告(2025)》显示,截至2025年6月,我国生成式人工智能用户规模达5.15亿人,较2024年12月增长2.66亿人,用户规模半年翻番,普及率为36.5%。

  面对如此庞大的用户体量,如何规范“数字泔水”乱象,已成为行业监管和社会治理亟待破解的课题。

  2025年9月,国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》施行。根据该办法,所有利用生成式人工智能技术产生的文本、图片、音频、视频等内容,必须进行显著标识,以帮助公众区分虚拟信息与现实信息。

  此后,新修改的《中华人民共和国网络安全法》发布,进一步明确了AI内容监管与平台主体责任。

  今年2月,中央网信办启动了为期一个月的专项行动,将生成传播“数字泔水”等垃圾信息列为重点整治内容,处置账号3.9万余个,清理违法违规信息70.8万余条。

  整治“数字泔水”,任重道远。

  专家观点

  秒产出 易伪装 难识别

  深度整治仍需多方协同发力

  ——专访天津社会科学院数字经济研究所副所长、副研究员吕静韦

  当前,生成式AI快速普及,网络内容生产进入新阶段,伴随而来的“数字泔水”乱象日益突出,成为影响网络生态、内容生产与人工智能健康发展的突出问题。

  在天津社会科学院数字经济研究所副所长、副研究员吕静韦看来,“数字泔水”是人工智能时代特有的、破坏性很强的网络乱象,之所以如此泛滥,是技术、利益、算法、监管等多重因素叠加的结果,“数字泔水”和普通低质内容有本质区别。

  她向记者厘清两者边界:“普通低质内容多是个人随手分享、能力有限导致的质量瑕疵,零散且无逐利目的;而‘数字泔水’,则是流量变现驱动下,依托生成式AI、爬虫洗稿、流水线‘魔改’工具批量制造的信息垃圾,无信息增量、无原创价值,甚至刻意虚假误导,本质是工业化、有组织的逐利行为。这种依托人工智能规模化生产的乱象,不仅会同质化刷屏,还会刻意造假歪曲,污染AI训练数据形成恶性循环。”

  如今,“数字泔水”早已渗透网络生活的方方面面,形态之多、覆盖面之广,早已超出大众认知。吕静韦梳理出“数字泔水”的六大典型形态,包括AI批量生成的空洞水文、伪科普、假解读,语句通顺却无实质信息;搬运洗稿、同义替换、流水线“魔改”的高度雷同的伪原创内容;靠夸张标题博眼球、内容空洞,仅为广告导流的标题党内容;短视频领域同款脚本、同款文案的批量翻拍、复制;AI刷量控评、恶意带节奏、制造网络对立的评论与话题内容;简单拼凑图集、摘抄堆砌而成的无价值合集内容。这些形态共同构成了当下泛滥的信息垃圾。

  为何“数字泔水”能在网络空间肆意泛滥、屡禁不止?她坦言,这是技术、利益、算法、监管多重因素叠加的结果。AI生成和洗稿工具的普及,让内容生产实现零成本、秒产出,极低的门槛让批量造假毫无阻碍;平台流量分成机制,更是直接催生了“劣币驱逐良币”的乱象,低质内容更容易刷量变现,踏实创作的优质内容反而被淹没。与此同时,AI洗稿的强伪装性让机器难以识别、人工审核跟不上量产速度,算法又持续助推高互动性的低质内容扩散,再加上原创维权成本高、违规处罚力度小,“数字泔水”自然形成了难以打破的恶性循环。

  “‘数字泔水’的危害,绝不是浪费用户时间这么简单。”吕静韦坦言,其负面影响已经波及个人、行业乃至整个社会生态。对普通公众而言,它让人深陷“信息茧房”,被伪知识、假信息误导认知与判断;对内容行业来说,它狠狠挤压优质原创的生存空间,打击创作者的热情,让整个行业陷入低质内卷;对人工智能产业而言,大量垃圾内容污染训练语料,加重模型幻觉问题,大幅拉高企业治理成本;对网络生态来说,冗余信息淹没真实声音,滋生谣言与网络戾气,破坏健康的话语环境。

  眼下,“数字泔水”整治面临着边界模糊、识别困难、跨平台扩散快、利益链隐蔽等难题。如何精准破局?她给出了多方协同的系统方案:监管层面要出台统一认定标准,落实AI内容强制标识制度,重拳打击灰色产业链,大幅抬高违法成本;平台必须摒弃唯流量论,重构算法推荐逻辑,向优质原创内容倾斜,主动限流、清理低质垃圾内容;AI厂商与行业主体要强化源头管控,完善版权溯源与自律机制;全社会也应提升媒介素养,主动辨别、抵制垃圾信息。“唯有多方协同发力,才能彻底清除‘数字泔水’滋生的土壤,让网络空间回归清朗有序。”她说。

3 上一篇  下一篇 4 放大 缩小 默认
版权说明:天津日报所有作品,版权均属于天津海河传媒中心,受《中华人民共和国著作权法》的保护。所有关于天津日报内容产品的数字化应用,包括但不限于稿件签约、网络发布、转稿等业务,均需与天津海河传媒中心商谈,与天津海河传媒中心有互换稿件协议的网站,在转载数字报纸稿件时注明“来源-天津海河传媒中心天津日报”和作者姓名,未与天津海河传媒中心有协议的网站,谢绝转稿,违者必究。
天津海河传媒中心法律事务部