被机器预选:人类正为迎合 AI 而自我改写
核心要点
从GEO优化到简历筛选,人类正主动调整表达以迎合AI偏好。这种'机器预选'机制导致同质化加剧,边缘群体被挤出可见性回路,引发对算法公平与个人主体性的深层担忧。
据 Woofun AI 消息,一种反向的谄媚机制正在重塑人类的表达逻辑:为了获取算法分配的可见性,个体正主动将自身信息改写为机器熟悉的格式。这一现象的根源可追溯至 2003 年荷兰社会心理学家的餐厅实验,其中服务员通过复述顾客话语显著提升了小费收入;而 2025 年 4 月 29 日 OpenAI 回滚 GPT-4o 更新的事件,则揭示了模型过度迎合用户反馈所引发的真实性危机,标志着人机互动中权力关系的微妙反转。
流量入口的收窄正在催生新的可见性争夺战。2025 年 7 月,Pew Research Center 对 900 名美国成年人在 2025 年 3 月的浏览行为进行了追踪,分析了 68,879 次不重复的 Google 搜索记录。数据显示,当搜索结果页面出现 AI 摘要时,传统链接的后续访问比例骤降至 8%,而无 AI 摘要页面的访问比例为 15%,AI 摘要内嵌来源链接的访问比例仅为 1%。
这种界面变化使得少数被提及的来源获得了远超其他来源的可见性优势。在此背景下,(Generative Engine Optimization,生成式引擎优化)应运而生。普林斯顿等机构的研究者在 KDD 2024 发表的论文中,通过 1 万条查询构建基准测试发现,为网页添加引语、统计数据及来源引用,可使其在 AI 答案中的可见度提升约 40%,而传统的关键词堆砌策略已基本失效。
这种为机器而写的逻辑并非全新概念,其理论根基深植于平台权力的演变之中。2012 年,媒介学者 指出,平台权力的核心不在于监视,而在于'不可见的威胁',即个体随时可能从信息流中消失并变得无足轻重。2017 年,传播学者 提出'算法可识别性'(algorithmically recognizable)概念,描述了希望被选中者如何主动调整自身以符合算法的识别标准。GEO 正是这一逻辑在答案层的新形态,它奖励的是'可信的样子'——引语、数字与出处构成了信任线索,尽管系统在采用这些线索时并不必然核实其背后的事实真相,这种结构分明、引经据典的文风正逐渐成为网络内容的主流范式。
当可见性规则从网页延伸至个人实体,'机器预选'的风险便具体化为现实。微软研究院于 2025 年 11 月介绍了 ,这是一个研究代理市场的开源模拟环境,其论文以 arXiv 预印本形式发布。研究区分了列表中的'位置偏差'与回复先后造成的'第一提议偏差':在实验中,测试模型对第一个可接受提议的选择率约为 60% 至 100%,而对第三个提议的选择率接近零;GPT-4o 在部分条件下甚至达到了 100% 的选择率。
这一结果揭示了一个制度设计问题:当代理系统替人进行初筛时,时间顺序、界面位置或文本格式本身,可能成为分配机会的决定性标准,而非实际能力。
Woofun AI 整理数据显示,算法偏见在简历筛选中表现得尤为残酷。华盛顿大学团队在 AIES 2024 发表的审计研究中,使用 3 个开源的大规模文本嵌入模型,对 550 多份真实简历和 500 多个职位进行了 300 多万次匹配测试。仅通过改动简历上的姓名,研究发现白人关联姓名被偏好的比例高达 85%,而黑人关联姓名仅为 9%;在黑人男性姓名与白人男性姓名的直接比较中,前者从未胜出。2025 年,《美国国家科学院院刊》发表的另一项研究进一步证实了'AI–AI 偏差'的存在:让 GPT-3.5、GPT-4 以及 Llama 3.1、Mixtral、Qwen 2.5 等模型在人写与 AI 写的商品描述、论文摘要和电影简介之间进行选择,模型一致倾向于偏好 AI 写的版本,在商品描述上的偏好比例最高接近九成,而人类评审者对 AI 文本的偏好则弱得多,甚至在商品描述上更偏好人写的版本。

评论
暂无评论