一 | 一边大肆喝酒、奶茶、吃烧烤、油炸食品，一边不敢看自己的体检报告，这或许是很多成年人的现状。 （来源：麻省理工科技评论） 以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。问题是，它真的会公平吗？ 研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。▲图源：卡乐图片 贾琼 摄 女子血脂“爆表”体内抽出“牛奶血” 近日，深圳市松岗人民医院重症医学科收治了一名血脂“爆表”诱发急性胰腺炎的女性患者。
二 | 在完善检查过程中，医生发现该名患者的甘油三酯指标高达157mmol/L，比正常值高出近百倍，严重“爆表”。 更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。而这些记忆，也可能成为模型滋生偏见的土壤。如此高的血脂，诱发了患者急性胰腺炎的发作，引起患者腹痛、恶心、呕吐不止而入院就医，病情危重。
三 | 为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。 实验改编自一项经典心理学研究。
四 | 研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。 每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。 尽快将甘油三酯降至正常是延缓脂源性胰腺炎进展的关键。而双重滤过血浆置换能够快速有效地清除体内的甘油三酯。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。该院重症医学科团队决定立即对其开展双重滤过血浆置换治疗。 从患者体内置换出的如“牛奶”般的甘油三酯。▲图源：深圳新闻网 视频截图 该名患者在通过双重滤过血浆置换后，甘油三酯水平由157mmol/L迅速下降至16mmol/L。经过及时的治疗，患者病情逐渐平稳，脱离生命危险。 其实，“牛奶血”并不少见！广州日报近几年也有相似案例报道： 38岁的阿坤（化名）已有13年糖尿病史，但认为自己还年轻，经常没有节制地胡吃海喝。某晚大吃一顿海鲜加熬夜喝酒吃烧烤后，隔天阿坤突然瘫倒在沙发上。
五 | 紧急送医后，医生发现阿坤的血浆跟酸奶一样，甘油三酯水平超出正常人16倍！医生推断，阿坤是长期高血脂症导致颅内血管动脉硬化堵塞，最终引起中风。
六 | 模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。 按理说，模型不应该偏向任何一个群体。
七 | 但结果恰恰相反。
八 | 仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。 2023年，不到30岁就有代谢紊乱综合征的阿文（化名），在一顿大快朵颐之后，她突然感觉上腹剧痛，这种痛还逐渐蔓延至腰背。医生判断，阿文很可能是高脂血症引起的急性胰腺炎。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。 阿文被迅速转诊到广医五院。
九 | 化验结果显示，阿文血液中含有很高的脂肪成分，抽出来的4000毫升血通过净化治疗后，分离出一袋200毫升的血脂及有害物质，像“黄油”一般。 换句话说，它开始把一次偶然的经历，当成了整个群体的特征。 什么是“牛奶血”？▲图源网络 在人体血液中，存在着各种脂蛋白，其中有一种外源性脂蛋白乳糜微粒，主要来源于食物脂肪中，其含有大量的甘油三酯。更令人意外的是，这种倾向甚至比真人严重。 如果甘油三酯在血液中的浓度超过11.3毫摩尔/升，血浆就会呈现出乳白色，也叫乳糜血。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。
十 | 此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。平时饮食油腻的人，容易出现乳糜血。
十一 | 论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。 以上几个案例都有一个共同点：甘油三酯严重超标。 医生提醒： 人体的甘油三酯畸高，特别容易导致肾衰、肝衰、肺栓塞，以及心梗、脑梗和四肢坏疽等致死性疾病。 一旦血液变得黏稠，流速就会变慢，油脂沉淀到血管内膜上就容易引发血管硬化，不断加剧的血管硬化，就会导致血流梗阻。
十二 | 血流梗到哪里，哪个脏器就缺血、衰竭。 医生提醒： 肥胖、久坐不运动、吸烟、酗酒、暴饮暴食、偏食、饮食不规律以及精神紧张等都是引起血脂异常的高危因素。”他说，“这几乎就是它们被训练出来要做的事情。 如何才能有效降低甘油三酯呢？ 一方面要清淡饮食。” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。一些肉类及油炸、烘焙食品，往往含有不易消化的饱和脂肪酸和反式脂肪酸，是导致甘油三酯升高的原因之一，应该尽量少吃；而蔬菜水果、杂粮类富含膳食纤维的食物可以多吃。 对于大语言模型来说，这种取舍往往更加偏向后者。爱吃肉的人，可以选择禽肉、鱼肉等，特别是深海鱼肉。深海鱼肉含有的DHA和EPA，有利于肠道脂质排泄，是降低甘油三酯的好食材。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。 另一方面要加强运动。坚持锻炼，可以有效改善甘油三酯代谢，往往会起到降低甘油三酯的效果。另外，还应该注意戒烟限酒，控制体重，少熬夜。
十三 | 在生活调理的同时，也可以考虑服用药物来控制甘油三酯。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。目前较为常见的控制甘油三酯的药物包括贝特类药物，如苯扎贝特、非诺贝特等，苯扎贝特尤其适合糖尿病伴高甘油三酯血症的患者。药物治疗也需根据患者的身体情况而定，用药期间注意监测肝功能，如果与他汀类药物联用，则更要注意肝功能损伤风险。
十四 | Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。 （中国小康网微信公众号综合深圳新闻网、南方都市报、广州日报、中国医药报） 编辑：周经韬 审核：王芳。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。” 当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。 研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。
十五 | Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。 但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。
十六 | 研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。
十七 | 至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。
十八 | 随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。
十九 | 它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。” 原文链接： https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。
Current article:http://vpyiro.zhouangnaoguangsundianzhenmou.cfd/4b7/20260826/207101.html
Published on:10:54:26
