不知道有没有人和我有同感，现在只要打开社交媒体，就会发现屏幕上充斥着标题耸人听闻的故事、情绪化的短视频、猎奇的图片，以及乍看逻辑严密，细究却漏洞百出的各种文章。这些内容有一个共同点，那就是大多出自AI之手，而非人工所为。更可怕的是，这样的内容数量庞大，动辄占据平台热榜，攫取海量流量。这种AI生成的“毒”内容，正以一种近乎疯狂的姿态，荼毒整个互联网的生态，甚至反过来威胁着AI自身的未来。
一.一个爆发的赛道：AI工业化内容生产
1、单日量产一万篇原创内容
前段时间和几个自媒体大V聚会闲聊，听到一些让我大感惊讶的真实故事。比如一家头部MCN机构，只需少量的人，就能通过各种AI工具，创造单日量产一万篇原创内容的“奇迹”，而且可以做到主流自媒体平台全覆盖，什么公众号爆文模板、知乎体写作套路、热门短视频公式等等，应有尽有，适配性极强。

听到这些，我非常汗颜。作为全网近百万粉丝的垂直领域自媒体创作者，我也算撰文无数，爆款、大爆款都写过不少，但时至今日，我写文章还是纯靠“手工”打造，算上构思和修改，完成一篇自己看得过去的稿子，通常也要一两个小时。这种效率，对那些依靠服务器和算法驱动、动辄日产万篇的团队来说，简直毫无可比性。不光是产量，在抓人眼球方面，他们也干得极为“专业”。看看AI生成的这些模版化标题“月薪三千的我，如何靠副业翻身？”、“震惊！95后小伙用这个方法月入百万”、“一夜醒来天塌了，这样的优质偶像也出轨”……谁能忍住不点进去看两眼？

当然，打开进去可能就会让你大失所望，要么是生硬的素材拼凑，要么是画蛇添足的戏剧化描写，要么是一本正经的臆想和胡说八道，总之，隔着屏幕都能闻到浓浓的AI味。这时候你想退出来也没用了，你的流量已经贡献出去了，而这些内容制造者的目的，也就达到了。

2、有人靠卖“课程+工具”闷声发财
除了靠快速AI生文，平台海量发文，攫取大量流量赚钱外，这些MCN机构还有更猛、更暴利的AI“工业产业链”，靠“课程+工具”闷声发财，日进斗金。最常见的模式是，他们通过社交媒体或知识付费平台，兜售诸如“新媒体IP零粉起号课程”、“AI 爆款训练营”一类很有噱头的课程，再捆绑一些标题生成器、AI检测模块、热点追踪插件之类的免费工具，就可以卖个999、1999甚至2999的高价了。

听上去有些不可思议，但“大数法则”告诉我们，只要样本足够多，投流的手笔足够大，再在私域群或评论区埋伏一些“拖”，就总能“钓”到愿意上钩的鱼。听朋友讲，他认识的一个博主，和助理两个人，靠卖“AI时代新媒体掘金术”一类的课程，3个多月的时间就在上海赚了一套房。

二.AI内容，暴力破解平台算法
1、用魔法打败魔法
其实这种模式的核心逻辑并不复杂，无非就是将内容创作，简化为数据游戏，通过AI暴力破解平台算法，精确计算爆款文章的关键词分布、短视频的完播率曲线、评论区的情绪导向等等。然后再利用AI批量生产的优势，快速测试流量偏好，成了就等于找到了流量密码，不断复制、放大；不成就继续测试，反正试错成本接近于0，没什么好心疼的。

举个例子，一家MCN机构，用AI每天快速生成并发布200 条短视频，涵盖 20 个热门话题，然后通过 A/B 测试，筛选出播放量最高的内容模板，再将其标题、内容结构、画面要素、背景音乐、发布时间等关键细节固化或同质化（小规模改动），批量制作几百条，在测试得出的最佳时点，疯狂分发，这样就能最大程度霸占同领域、同时段的流量。至于，这些视频有没有营养，观众会不会厌恶，并不重要，在巨大流量的覆盖下，总有新粉和新流量被收割。

从某个角度来说，AI 内容的泛滥，其实是 MCN 机构与平台算法博弈的产物，是用魔法打败魔法过程中的衍生品。

2、一些平台甚至助长AI内容泛滥
更令人担忧的是，一些平台面对这样的冲击，不但没有加以应对和管控，反而在默许甚至助长这种现象的蔓延，最有代表性的就是Meta。它在2024年推出了“AI Studio”工具，允许用户在Instagram和Facebook上创建AI生成的内容和角色，并明确表示希望这些AI内容能够像普通用户内容一样融入平台。

Meta这样做的动机也不难理解，就是想通过AI生成的方式，降低内容创作成本并提高平台活跃度。毕竟AI生成内容的效率远高于人工，能够快速响应热点和反馈，非常符合商业逻辑。但即使如此，他们就真的不担心被反噬吗？毕竟，平台算法原本是为筛选优质内容而生，如今反而被AI暴力破解，沦为低质内容的助推器，可以说完全背离了这一技术应用的初衷，长此下去，难道不细思极恐？

三.被下毒的互联网，正在反杀AI大模型

1、“毒”数据，正在反杀大模型
大数据领域有个概念，叫“数据沼泽化”。可以简单粗暴地理解为一种充斥着大量无效、错误或无意义信息的现象。那么目前AI生产信息的“成色”又如何呢？

哥伦比亚大学数字新闻研究中心，近期曾针对 ChatGPT Search、Perplexity、Perplexity Pro、Gemini等在内的 8 款AI 搜索引用内容的正确率，进行了测试，结果发现这些AI 搜索工具，在引用新闻方面的出错率，竟然高达 60%。国内一位媒体人就曾做过一次测试，让AI帮忙写一篇关于自己好朋友（另一位媒体人）的文章。AI写的看上去有模有样，但是经好友确认，文中关于他的作品或个人故事的描述，几乎没有一个是正确的。

更让人担忧的是，AI在内容创作中的应用比例正肉眼可见的快速上升，据某证券研究机构的报告预测， 在传媒领域，2025年AI生成的内容将占据该行业内容总量的30%以上。以目前趋势看，我觉得这个数字有点保守了，我认识好几个出版社的编辑朋友，他们都认为用AI辅助写作甚至很大程度代替人工写作，早就是公开的秘密了。

我们不难想象，照这样发展下去，网络世界中错误的、编造的、自相矛盾的信息会越来越多，“数据沼泽化”会越来越严重，而大模型在训练过程中又不得不“吞下”这些不干净的“毒”数据，进而导致输出结果的准确性和可靠性更难以保障，形成恶性循环，犹如饮鸩止渴，越来越难以控制。

2、AI的“曼德拉效应”，侵蚀人类文明
心理学领域有个“曼德拉效应”，是指集体记忆与历史事实不符的现象，比如大家津津乐道的“56个民族”和“56个星座”的争论。如今AI内容的泛滥，必然会进一步催化、放大曼德拉效应。

举个例子，有段时间网上广泛流传小米创始人雷军各种版本的恶搞视频。在视频中，“雷军”对堵车、假期等热门话题进行了锐评，还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等内容，甚至包含不雅谩骂。这些视频中的声音几乎和雷军本人的声音无异，根本真假难辨，最终雷军亲自发声澄清，并呼吁停止该系列行为。

当然，这些只是大家心知肚明的“恶搞”，而且时间很近，当事人也在，负面影响不会太大。但如果利用这种AI技术，刻意炮制一些已经故去的有影响力的人的文字、声音或影像，然后再被一些别有用心的人以“资料”、“信史”的面目呈现出来，年深日久后，我们以及我们的后代又该如何加以辨别呢？如果不加以有效限制或应对，人类文明都有可能遭到侵蚀或篡改，想想都觉得可怕。

四.比算法更可怕的，是人性对捷径的贪婪
1、AI工具正在毁掉“意外性”
AI工具无节制的滥用，还在扼杀人类的另外一种珍贵特质，意外性。“意外性”堪称人类文明进步的暗门，人类历史上许多划时代的突破，都源于某些不可预测的瞬间，比如，牛顿因苹果坠落发现万有引力，弗莱明因培养皿中的意外污染发现了青霉素，甚至X射线的发现也源于伦琴实验室中的一次偶然。

这些意外并非单纯的运气，而是人类在探索未知时与环境的随机碰撞所孕育的火花。哲学家汉娜·阿伦特也曾在《人的境况》一书中指出，人类的创造力依赖于“行动的不可预知性”，即在有序系统中突破常规的能力。但如今的AI工具通过算法推荐构建“信息茧房”，将内容创作简化为可预测的模板，几乎剥夺了这种随机碰撞的空间。同时用户也被困在AI批量生产的同质化内容中，接触新思想、新观点的机会被大幅压缩，久而久之“回音室效应”就进一步加剧。

话说回来，谁让AI技术刚好迎合了人性对”捷径”的贪婪之心呢？只是当内容创作从灵感驱动的艺术，转变为算法驱动的流水线作业；当宝贵的“意外性”被系统性地剔除时，人类文明失去的不仅是多样性，还包括那些可能改变历史轨迹的“偶然”火花，这不才是最大的可悲吗？

2、在工具便捷性与人类原创中寻找平衡
好在，人类的创造（创作）之火，并没有完全熄灭，有识之士仍在用碳基生命的追求和执着，对抗硅基的技术性围剿。2025 年春节档电影《哪吒2》所取得的巨大成功，就是一个很好的证明。该片并没有单纯依靠AI，快速生产，而是耗时 5 年半制作，4000 多名动画人参与其中，费尽心力，不断精细化打磨，才最终呈现了有血有肉、有灵魂有温度的经典佳作。

而《哪吒 2》破历史纪录的票房也证明，我们对有厚度的传统文化、对人类情感共鸣的追求，依然炽热而强烈。就像工业化革命，不会消灭手工艺品一样，AI技术的发展，不会也不应该取代人类来自灵魂深处的创作激情和能量。我们要做的是，如何在AI工具的便捷性，和人工创作的主导性中，找到合理的平衡点。

最后，我想说，当 AI 成为内容生产的流水线，当流量成为唯一的价值尺度，我们正在见证的不仅是互联网内容生态的堕落，也是人类文明遭受技术挑战所产生的近在眼前的危机。或许，真正的救赎不在于技术对抗，而在于重新审视人性的本质：我们究竟需要一个怎样的数字世界？我们又该如何在那个世界自处？