随着生成式AI内容越来越受欢迎,所谓的“AI垃圾内容”也日渐泛滥。这个词在网上流传已有一段时间,但过去一个月里,它的出现频率明显增加——NVIDIA展示了DLSS的新版本后,玩家很快就给它贴上了“AI垃圾内容”的标签。我们在文章 《游戏的未来,还是“廉价美颜滤镜”?DLSS 5为何引发争议》中报道过此事。AI垃圾内容究竟是什么意思、通常出现在哪里,又是为何而生?本文将一一探讨。
什么是AI垃圾内容
“AI垃圾内容”(AI slop)、“AI生成的垃圾内容”,或者简称“垃圾内容”,是一个口语化说法,用来指代借助生成式工具制作的低质量内容。
它通常指快速、大批量生成的文字、图片或视频,未经润色和编辑,也缺乏明确的创作构想。这类内容往往有明显特征,很容易辨认:细节怪异或不合逻辑,内容常常荒诞不经,视觉风格也带有鲜明的生成痕迹。
2024年,科技博主和记者开始使用这个词。英国程序员Simon Willison提议用“slop”一词,作为AI时代“垃圾邮件”(spam)的对应说法。
韦氏词典将“Slop”评为 2025年度词汇
。编辑将其定义为“低质量的数字内容,通常由AI批量生成”。美国方言学会的语言学家也认可了这个词,使它从网络俚语逐渐进入更广泛的日常用语。
什么是批量生产垃圾内容的人
所谓的“垃圾内容生产者”,是指利用生成式工具批量制作内容并从中牟利的人;他们通常不做质量把关,投入的创意也少之又少。从本质上说,这就像在网上散发垃圾邮件,只不过内容换成了视频和图片。
他们采用流水线式的生产模式:找一个成功模板,批量复制成几十个变体,同时发到多个账号上,再靠播放量和广告赚钱。有些人会同时运营50至100个账号。
围绕这种活动已经形成了一整套市场:有人售卖课程、分享提示词、讲解如何绕过审核算法,也有人展示所谓的“成功案例”。参与者背景各异,从失业者到想赚点外快的学生都有。许多“垃圾内容工厂”设在印度、越南和中国,目标则是广告收入更高的西方平台。
如何识别AI垃圾内容
尽管生成内容的质量不断提高,AI垃圾内容依然会露出一些容易辨认的破绽。
长着两只重叠手的男人——显而易见的AI垃圾内容
视觉特征
图片和视频里的常见破绽包括:手部不自然(多指、缺指或关节怪异)、背景和文字模糊或扭曲、口型与声音对不上、“玻璃珠般”的眼睛、一模一样的假笑,以及带有明显生成感的亮面皮肤质感。
文字特征
留意模板化的说法(例如“在一个……的世界里”“值得注意的是”“总而言之”)、缺乏具体细节和真实案例,以及段落结构千篇一律、没有鲜明的作者风格等问题。
账号行为
每天发布几十条相似内容、话题跨度毫不相关、评论为零或反复雷同——这些都是危险信号。
如何借助检测工具判断
如果拿不准,可以使用专业工具:GPTZero和Winston AI是面向英文内容的通用检测器;Isgen.ai则可检测图片和视频。它们都无法做到百分之百准确,但结合视觉线索,有助于综合判断。
社交媒体——AI垃圾内容滋生的主要温床
虚假的海怪
近年来,垃圾内容生产已发展成围绕社交媒体运作的完整产业。古怪的梗图、图片和垃圾视频——比如美国政府追捕吸血鬼、渔民捕获海怪,或巨型生物在森林里游荡——总能吸引点击。生成式AI大幅降低了创作门槛:只要输入一段简短的文字提示,就能生成一张图片或一段视频。一个人就可以搭建起完整的流水线,批量制作迎合热门话题的短片;光是TikTok上,就有数百条几乎一模一样的动物跳舞视频。
社交平台会积极奖励频繁发布内容的账号:算法更愿意推荐持续更新的创作者。结果就是,哪怕视频制作粗糙,也能收获数百万次播放;平台所有者却几乎不在意内容质量——用户继续刷信息流,广告继续展示,收入照样进账。
荒诞AI剧情里的拟人水果。这类视频非常受欢迎
许多用户对低质量内容泛滥感到恼火,也会公开抱怨。但讽刺的是,负面评论同样能提升互动量。
:骗子用AI复刻了他的外貌和声音,制作视频谎称他正在为收容所、农场和教堂筹款,同时打着慈善旗号卖东西。Ray偶然发现了这些视频,对冒充者惟妙惟肖的程度大为震惊,并提醒观众这是骗局。
,算法还进一步助长了这种趋势:针对女性身体的色情化垃圾内容、虚假的犯罪报道,以及煽动反犹和反移民情绪的内容。
你注意到你越来越无法区分一些 AI 生成的内容和真实内容吗?
YouTube上的AI垃圾内容:视频平台的黯淡未来?
,AI垃圾内容目前已占YouTube信息流中新视频的21%至33%。这已发展成一个规模庞大的产业:一些频道的播放量累计达数十亿,订阅人数则以百万计。比如,印度频道Bandar Apna Dost制作的内容围绕一只置身人类情境中的逼真猴子展开,播放量已超过20亿,年收入据估计可能超过400万美元。
不同国家流行的AI垃圾内容类型也各不相同:在西班牙,宗教主题视频表现出色;在韩国,以可爱动物击败掠食者为主题的频道则很受欢迎。YouTube因此陷入两难:AI内容能带来播放量,却也让广告商感到担忧,损害用户对平台的信任。
另一个值得关注的问题是YouTube Kids。超过200个组织和专家 呼吁YouTube限制或彻底禁止儿童内容中的AI垃圾内容,因为这类视频可能扭曲孩子对现实的认知,并助长有害习惯。
AI垃圾内容的危害:事实与数据
AI垃圾内容不只是令人烦恼,它带来的后果要严重得多。
错误信息与造假。逼真的AI图片经常被误认为真实影像。据NewsGuard统计,目前网上已有超过1000个克隆新闻网站 ,其内容主要由AI生成。
污染搜索结果。Google等搜索引擎越来越常推送价值有限的AI生成文章,而不是专家撰写的内容。这迫使平台调整算法,而代价往往由创作者和用户共同承担。
诈骗。 过去两年,Facebook上的AI垃圾信息增加了40%以上。TikTok上也频频发生骗子克隆真实博主的脸、推销假冒商品的案例。
对儿童的影响。如前所述,超过200个组织记录到,儿童长期接触毫无意义的AI内容后,对现实的认知会受到扭曲。
政治操纵。研究人员警告称,AI垃圾内容可能直接影响民主进程:虚假报道和政治人物深度伪造视频会在选举期间左右公众舆论。
AI垃圾内容与政治宣传
低质量生成内容已经成为一种宣传工具。Donald Trump担任总统期间,与白宫相关的账号曾不时发布AI生成的图片和视频,也就是所谓的“垃圾宣传”(slopaganda):模仿《TIME》杂志封面的假图把Trump描绘成国王;视频中,他向抗议者倾倒粪便;还有图片把他画成教皇,或手持红色光剑的《星球大战》绝地武士。
互联网也成了美国与伊朗冲突中的舆论战场:双方都用病毒式传播的视频和图片淹没信息空间。白宫发布的短片将真实军事打击画面与电影、游戏片段混剪在一起;伊朗方面的账号则传播了完全由AI生成的袭击视频。
游戏中的AI垃圾内容:PlayStation Store和游戏商城里的AI垃圾内容
AI垃圾内容也开始渗入游戏,主要出现在独立游戏领域。 正如Kotaku所指出的,PlayStation Store上涌现出一批廉价游戏,它们使用AI生成的封面图,内容也少得可怜。这些游戏往往取材于网络梗,追逐“意大利脑腐”(Italian brainrot)等潮流:搜索Tralalero Tralala、Tung Tung或Bombardiro等关键词,就能找到几十款几乎一模一样的游戏。背后的工作室用模板化方式批量生产内容。
这些游戏几乎不花什么钱,有时甚至不到1美元,因此对儿童尤其有吸引力。Sony已经从PlayStation Store下架了2000多款此类垃圾项目,但相关内容仍在源源不断地涌现。合作游戏热门作品 Peak成功后,大量使用AI素材的克隆游戏也随之出现,靠蹭它的玩家群体获利。
玩家该怎么办?购买前先调查游戏,并参考精心整理的推荐榜单——例如我们关于 史上最佳恐怖游戏 或 PS4和PS5最佳生存游戏的文章。
你在游戏中遇到过人工智能糟糕表现吗?
关于AI垃圾内容的常见问题
AI垃圾内容一定很糟糕吗?
不一定。有些AI生成内容(比如梗图)可能很好玩,甚至颇具艺术趣味。不过,大多数AI垃圾内容都是不费什么心思地批量制作出来的,而且往往意在操纵受众,牺牲了质量和可靠性。
YouTube为什么不屏蔽AI垃圾内容?
因为这类内容能带来收入。AI视频可以拉高播放量、留住观众。YouTube声称会打击低质量内容,但平台算法仍在推荐它们。儿童内容是个例外:在200多个组织施压后,相关政策正逐渐收紧。
能从文字中识别出AI垃圾内容吗?
可以通过一些间接迹象来判断:模板化表达、缺乏具体细节和个人经历,以及段落结构千篇一律、没有鲜明风格。GPTZero或Isgen.ai等工具也能提供帮助。没有任何检测器能做到百分之百准确,但结合仔细阅读,它们仍然有用。
有没有针对AI垃圾内容的法律?
目前还没有全面的相关立法。欧盟《人工智能法案》要求在特定情况下标注AI生成内容,但在打击垃圾内容方面提供的手段有限。YouTube和Meta等平台会自行制定规则,但执行情况仍不统一。
游戏中的AI垃圾内容只存在于独立游戏里吗?
大体上是这样:大型发行商通常会因为担心声誉受损而避免推出这类游戏。不过,一些项目已经开始把AI素材当作辅助工具,二者之间的界线也正逐渐模糊。
你怎么看?面对这些跳舞猫和其他稀奇古怪的AI垃圾内容,你是什么感受?欢迎在评论区分享想法。
您愿意为保证由人类创作的内容付费吗?
当然,并非所有AI生成内容都会自动沦为垃圾内容。AI垃圾内容本身——尤其是梗图——有时也自有一番趣味。不过,网络上生成式内容泛滥、质量参差不齐的现象——比如 互联网曾被吉卜力工作室风格图片淹没 ——已经成了人们普遍反感AI的重要原因之一。垃圾内容的影响范围也已从社交媒体和YouTube扩展到音乐和营销领域。平台究竟会如何应对,目前仍不明朗,尤其是它们看起来往往缺乏采取行动的动力。









