4年前（2022年11月），当ChatGPT首次公开发布时，前Meta媒体合作事务负责人坎贝尔·布朗（Campbell Brown）产生了一种近乎本能的恐慌——这个工具将成为人们获取信息的主要入口，而它给出的答案，质量堪忧。如今，眼看AI正在重塑人们消费信息的方式，她意识到历史正在重演——但这一次，她不打算等别人来解决。她说：“如果我们搞不定这个问题，我的孩子会变得很蠢。”
上周，在一次公开活动中，布朗对媒体公开了自己的上述判断。在她看来，硅谷和普通用户之间存在严重的认知脱节：科技领袖们在大谈“AI将改变世界”“治愈癌症”，但真实用户在聊天机器人里得到的，依然是大量“生成式废料”和错误答案。
而当医疗诊断、金融信贷乃至国家安全分析越来越依赖这些未经充分检验的AI模型时，风险的量级已经不可同日而语。她说：“我们尝试的很多事情都失败了。” 随着大语言模型（LLM）接管数字世界的入口，科技精英们的狂热叙事与终端消费者面对的“生成式废料”之间，横亘着一道深邃的鸿沟。
信息不再仅仅是被“检索”，而是被神经网络“生成”与“合成”。这就引出了一个极其冷酷的商业命题：在这个由黑盒构成的计算过程中，到底是谁，在决定AI告诉你什么？
版权交易的暗门：谁在为AI的回答付钱如果在AI里搜不到你的公司，你还存在吗？
在AI时代的搜索机制里，数据的“可见性”已不再是一项基于内容质量的自然权利，而是变成了一种由高昂版权费用定价的金融衍生品。科技巨头们正通过动辄数千万美元的数据授权协议，秘密推进一场高质量语料库的圈地运动。
比如，美国新闻集团（News Corp）拿到了OpenAI逾2.5亿美元的合同（5年期），Reddit则与谷歌签订了每年约6000万美元的协议。这些被资本选中的“VIP内容”，在AI底层训练与实时检索系统中获得了压倒性的权重。
这意味着什么？意味着当普通人向AI询问商业趋势或健康建议时，AI给出的高频引用源，很大程度上取决于哪家媒体刚刚和硅谷巨头签了字。
对于未能挤进这份名单的独立出版商而言，他们面临的是断崖式的流量暴跌。以谷歌旗下AI Mode为例，Semrush分析2025年9月数据发现，高达93%的对话式查询以“零点击”告终——模型直接吞噬了原创内容的价值，咀嚼后以“摘要”喂给用户。科技巨头的资本巨头的授权协议，构成了“谁决定AI回答”的第一层物理滤网。
面对这道滤网，一部分企业选择了直接付费入场，还有一部分则转向了一种更为隐蔽的策略：GEO（Generative Engine Optimization，生成式引擎优化）。这是一种专门针对AI内容分发机制的内容优化技术——通过优化内容结构、强化数据标记、提升品牌权威性等手段，增加内容被AI引擎主动引用的概率。其核心目标是：让自家内容成为AI的“标准答案”。当版权协议只为资本雄厚的大型媒体集团敞开大门时，GEO成了中小企业和独立创作者在AI曝光度战场上最后的“技术自救”。然而，GEO策略本质上仍然是在AI平台的规则框架内运作——游戏的裁判，依然是AI巨头本身。
AI的价值观由谁定义：被代码掩盖的规则制定权如果说版权交易决定了AI能获取什么“食材”，那么被称为“对齐”（Alignment）的强化学习机制，则决定了这些食材将被如何烹饪。
“对齐”在技术话语体系下被包装为客观中立的科学过程，但穿透这层术语，它本质上就是AI时代的“隐形总编辑部”。
传统媒体有公开的专栏立场和事实核查机制，而AI大模型的价值观，是由科技巨头内部不透明的安全团队，以及遍布全球、按件计酬的外包数据标注员共同塑造的。这些标注员依据一套僵化的合规指南，流水线般地以“选项A优于选项B”的简单判断训练AI模型。
这种粗放的机制在面对复杂社会议题时漏洞百出。布朗的测试发现，主流大模型普遍存在语境缺失，为了规避政治风险，它们面对争议话题时往往给出看似平衡实则空洞的废话。基础模型公司普遍将核心研发资源集中于容易量化跑分的“编码与数学能力”，而将难以标准化评估的“新闻可信度与事实客观性”置于优先级末端。
当医疗诊断、金融信贷甚至国家安全分析越来越依赖这些经过所谓“安全对齐”的大模型时，科技巨头实际上已经通过定义偏好数据集，直接垄断了“何为客观”的底层判定规则。
宏观的版权与中观的对齐，搭建了外部框架。而在微观层面，用户自身的提问方式，正在与AI共谋铸就一个比算法推荐流更坚不可摧的“新信息茧房”。
清华大学团队此前发表于《自然·机器智能》（Nature Machine Intelligence）的大规模实证研究指出，AI时代的“信息茧房”与传统的社交网络“回音室”存在本质差异。传统回音室是物以类聚，而AI茧房则是由人类与AI驱动的推荐机制之间形成的多层次“反馈循环”（Feedback Loop）所致。该研究追踪一年交互数据后发现，超过57%的活跃用户经历了信息多样性的显著萎缩，实质性地陷入了信息茧房，大多数用户甚至根本没有意识到自己被困在其中。
生成式AI介入后，将这种多样性的丧失推向了极致。其核心作案工具，便是被广泛宣扬的“记忆功能”。
系统不仅记住你主动告诉它的信息，还在进行隐性的“单方面推断”。通过几轮对话，AI就能从你的措辞中推断出你的阶层、职业与政治倾向。一旦标签被锁定，AI的回答就会发生病态的“算法逢迎”（Sycophancy）。
它不再是一个客观的检索工具，而变成了一个谄媚的侍者。它会在总结新闻时，刻意剔除与你观点相左的事实，放大能验证你偏见的论据。如果用户基于存在根本缺陷的前提假设向AI寻求背书，模型会顺着这条错误的逻辑链条继续生成论证，为谬误层层加固。
这种认知闭塞具有毁灭性的伪装力。人们在面对算法信息流时还有一丝防御，但在面对一个总是温和、耐心、永远顺从且“懂你”的拟人化AI助手时，警惕性被彻底瓦解。AI被塑造成了一个永远不会反驳你的完美朋友，代价则是将你彻底隔绝于世界的复杂性与多元真相之外。你的每一次提问，都在亲手给自己的认知上锁。
这种闭塞的后果，已不再停留在理论层面。就在上周，中国有关部门在全国范围内部署开展为期四个月的“清朗·整治AI应用乱象”专项行动，聚焦AI生成“数字泔水”、虚假信息、算法滥用等十四类突出问题——这是监管层面对AI信息质量乱象的系统性宣战。杭州互联网法院则进一步给出了司法回应：审理了全国首例生成式AI“幻觉”引发的侵权诉讼，判定AI平台须为虚假信息侵权承担责任。当AI一本正经地向你“合成”出一个虚假世界，法律已明确站到了它的对面。
谁来监督监督者：藏在产业链深处的资本暗影面对信任赤字，产业界并未坐以待毙。坎贝尔·布朗于2024年10月在纽约创立了Forum AI，去年秋季完成了300万美元种子轮融资，由Lerer Hippeau领投。她试图通过引入全球顶尖行业专家（如历史学家尼尔·弗格森、主持人法拉·扎卡里亚、前国务卿托尼·布林肯等），训练出能处理复杂模糊地带的“审判者代理”，以此来审计AI。
与此同时，全球合规层面的行动也在加速。然而，布朗在文中毫不客气地评价当前合规审计的现状：“这基本上是个笑话。”她以纽约市首部AI招聘偏见法为例：法律通过后，州审计员发现超过半数的违规行为根本未被检测到。这意味着，“AI说了什么”的溯源与问责机制正在被系统性建立——但有效性本身，仍是一个巨大的问号。
这说明，合规在商业上已经演变为一门极佳的B端生意：为那些将AI用于信贷审批、人力资源筛选的企业提供“专家合规保障”。
然而，剥开这层旨在“重塑信任”的华丽外衣，一条潜藏的利益冲突幽灵赫然浮现：Forum AI的早期投资方中，赫然出现了Perplexity旗下风投基金的身影。
这是一个结构性的悖论。Perplexity是当前极具侵略性的AI搜索引擎，正因涉嫌大规模抓取和盗用受版权保护的新闻报道，面临多家大型出版商的严厉起诉——2025年8月，朝日新闻与日经新闻在东京地方法院提起诉讼；同年12月，《纽约时报》亦在美国提起版权侵权诉讼。在这一端，它站到了内容创作者的对立面；在另一端，它却挥舞着资本支票，入股了旨在为AI系统进行客观性“审计”的第三方机构。
问题不在于布朗个人的立场，而在于这一投资结构所揭示的系统性风险：当AI搜索引擎凭借内容抓取建立起竞争优势，同时又通过资本渗透介入裁判环节，“被审计者”与“审计者”的身份边界便已悄然溶解。当“被审计者”成为了“审计者”背后的金主，所谓的“客观基准”是否还能保持纯洁？这揭示了科技巨头的终极战略：将“裁判权”私有化并提前买断。他们既制造了引发信息恐慌的大炮，又控股了颁发安全证书的机构。
从社交媒体的“转向视频”到如今的“生成式引擎优化”，技术平台设定的算法指标一次次重塑着信息的形态。互联网正不可逆转地从“开放式链接网络”转变为“封闭式答案引擎”。
在算法的提线木偶被强制剪断之前，对我们有何启示？
对创业者而言：不要去盲目卷通用大模型的参数。真正的商业缝隙在于“垂直合规”与“高风险评估”。当跨国企业和金融机构不得不在业务中引入AI时，他们最害怕的不是效率不高，而是算法歧视与违规引来的天价罚单。提供具有可解释性、经得起行业专家审查的AI风控与合规体系，将是下一个高价值赛道。
对普通人而言：永远不要把AI当成“全知全能的导师”或“懂你的树洞”。它输出的所有知识与建议，本质上都是带有价格标签、隐含商业立场和特定价值观的工业合成品。在对话框里，学会刻意使用“反向提示词”（如：“请告诉我这个观点的核心反对意见是什么”），主动打破顺从的算法反馈循环。在这个被顺从式回答层层包裹的时代，保持痛苦但清醒的批判性怀疑，是人类对抗全面认知闭塞的最后防线。
回到那个最初的问题：谁决定了AI告诉你什么？
答案或许比问题本身更复杂。它不是某一个人，不是某一家公司，也不是某一项技术。如果不加约束，它或许会成为一套由资本定义可见性、由代码决定价值观、由算法主导认知的系统性权力结构。布朗的担忧在4年前是一个人的直觉，如今正在成为整个社会的公共危机。当信息的形态从“链接”变为“答案”，当知识的获取从“搜索”变为“合成”，人类文明史上第一次，将最基础的认识世界的权利——交到了一个黑盒系统手中。
这不是技术悲观主义的呓语。这是一道必须被认真回答的文明命题。
（本文首发钛媒体APP，作者 | 硅谷Tech_news，编辑 | 林深）
粤有钱配资提示：文章来自网络，不代表本站观点。
