AI生成内容引发认知污染

AI生成内容引发认知污染 · 深度笔记

✧ 导读

当AI生成的小说穿过匿名投稿、文学评审、老牌杂志发布的全套流程，当一本警告AI污染真相的书自己却被AI编造的假话污染——信任的基础设施正在漏水。

这不是简单的"有人造假"，而是一整套筛选机制的失效，是知识生态的系统性崩坏。

01 两个标志性事件

穿透了文学奖与出版审查的AI

英联邦短篇小说奖 · 2026.05

Granta 文学奖疑似AI获奖

英国老牌文学杂志Granta公布年度获奖作品后，加勒比地区获奖小说被质疑AI生成，检测工具显示高度疑似。质疑蔓延至另外几篇获奖作品，最终无人能定论。

重点不是定罪，而是它穿过了整套机制的防线。

《纽约时报》 · 同期曝光

《真相的未来》被AI污染

书名《真相的未来：AI如何重塑现实》，内容却多处是AI编造的引用和错置归属。最黑色幽默的是——这本书主题正是警告AI侵蚀公共话语，而作者本人承认使用了AI做研究。

"这两件事如果是垃圾内容农场发生的，没人会在意。但当它们发生在文学奖和知名出版社，那就是系统性的崩坏。"

—— 本文观察

02 知识转基因化

不可逆的生态入侵

转基因食品有审批、标注、隔离、召回机制。但知识的"转基因内容"，没有标签、没有审批、没有责任人，而且已进入野化传播阶段。

数字衔尾蛇：模型崩溃

2024年《自然》杂志论文，来自牛津、剑桥、帝国理工的研究者给出了"模型崩溃"的数学证明：当AI用前代AI数据训练时，输出质量发生不可逆退化，几轮后吐出无意义垃圾。

AI内容的R₀大于1

2026年4月arXiv论文，用SIR传染病模型模拟信息传播。AI内容的再生数R₀>1——信息生态中AI内容会自我维持、自我扩散。你只需正常搜索、阅读、转发，就自动成为传播链的一环。

"你不需要坐下来主动'使用AI'。你只需要正常地搜索、阅读、转发，AI生成的内容会在每一步被你再生产、再扩散。"

03 关键数据

污染的量化证据

50%+

互联网新内容

2026年AI指数报告：AI生成或参与生成已超一半，2023年不到10%

56%

无来源引用

Gemini 3的"正确答案"中，56%没有可验证来源

67%

污染达成率

搜索池污染率67%时，用户80%概率接触被污染结果

0.01%

虚假数据比例

训练数据每增加0.01%虚假内容，有害率上升11.2%

04 四重认知污染

"死的完美"正在侵蚀判断力

① 源头污染

Epoch AI预测：高质量人类数据将在2026–2032年耗尽，之后的训练依赖AI生成的"合成数据"。我们已经把网上能拿的东西都吃完了。

② 管道污染

搜索引擎、AI摘要、知识库从已污染的开放网络提取内容，无法区分原创与AI生成。用户得到的是更高浓度、更不可追溯的污染混合物。

③ 信任终端污染

正式出版物、同行评审期刊、专业媒体、奖项评审——这些社会默认的最后信任节点被逐一穿透。崩溃的不是某一本书的可信度，而是整个"信任终端"假设。

④ 感官污染

Anthropic实验：AI辅助组的学习测验分数整体低17%，且两极分化严重。MIT脑电图发现长期AI写作的神经连接密度更低。判断力是需要反复挣扎才能建立的肌肉。

"faultily faultless, icily regular, splendidly null."
错谬般无瑕，寒冰般规整，辉煌地虚无。

—— 丁尼生 · MIT教授内森引用

05 不可训练的东西

the untrainable

任何可以被清晰测量、标准化评估的工作，最终都会被AI替代。"可测量"就是"可训练"。但有一类正确性是私有的、内隐的，需要在场足够久、承担足够多的决策责任才能积累。

专家经验的"租借"模式

英国学者海伦·比瑟姆：AI把专家成果拆成可贩卖的小块再卖回。一人当学生、一人当老师，中间坐着一个收租的AI。这是"知识转基因"的商业模型。

"你把判断力外包了，然后AI学会了你怎么外包，然后你再也拿不回那个本属于你的判断空间。"

06 被AI饲养的肉鸡

MIT写作课的故事

那个哭了的女学生用AI不是想作弊，是害怕被嘲笑。从语法检查到结构性修改到全篇重写，只用了三十分钟，而她没有察觉哪里不对。

内森教授形容这个过程："AI提供的是一个斜坡，坡很缓，每走一步都合理，等你意识到时，已经快到山脚下了。"

"好的学生写作有一种动人的笨拙。作者想说的话和实际写的话在纸上搏斗，文字踉踉跄跄，像小马驹初学走路。这种笨拙不可跳过，它倘若消失，只能说明这匹马从未学会走路。"

—— 迈卡·内森，MIT

07 乌托邦悖论

99%的乌托邦与1%的"硬工作"

经济学家布兰科·米拉诺维奇：在停滞经济中99%的乌托邦是可能的，但最好的餐馆与最差的餐馆之间永远有差距，那1%的硬工作会与准货币相伴而生。

永久底层 Permanent Underclass

创业者谢里丹·克莱伯恩（《华尔街日报》）："这是积累代际财富的最后一个窗口。你必须现在赚钱，否则就会沦为永久的底层阶级。"

"猪食"与被分配的人

《纽约客》的比喻：是制造猪食的人，还是吃猪食的那群人？大多数人没有"选择不吃"的经济、时间、认知条件。受害最重与最轻之间有一道沉默的裂缝。

✧ 最后的话

你吃进去的每一条信息，都在参与塑造你未来的判断力。

在AI可以做所有"智力活儿"之后，判断一件事该不该信、一个人值不值得读、一段话有没有出处，正在变成最奢侈的东西。

那个MIT女孩写到自己句子时，形容那种感觉——
"就像你很久没有用过的肌肉，突然酸了一下。"

酸是对的。

由 CuteNote.app 颜值笔记生成