我的网站最新发布：“钟才文”关键时点发声 又带来市场提振的风向标 美记：湖人大概率出哈迪和克内克特换库明加 公牛或成第三方 5位転落、韓国でも再燃…カーリング女子“選考問題”「野球やサッカーのようにベストメンバーを選ぶべき？」韓国が報じた“2勝7敗”フォルティウスへの見解 《郡县联播》：安全生产治本攻坚三年行动共排查重大隐患8.1万项 深圳大学诺德幼儿园幼儿食谱 【悦动小站】“瓶”日里的小美好

谷歌翻译

AI招人，比人类更容易产生偏见_我的网站

我可能不会爱你

A |     

　　中新网5月14日电 当地时间13日，涉及美国前总统特朗普的“封口费”一案审理迎来重大进展，被称为特朗普曾经“最忠诚副手之一”的关键证人科恩出庭作证。他不仅承认曾替特朗普向艳星丹尼尔斯支付了13万美元“封口费”，还透露了特朗普在此案中的诸多细节。
　　在当天的庭审上，科恩表示，他在2011年第一次听说特朗普和丹尼尔斯之间的事。    （来源：麻省理工科技评论）          以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。

B | 他当时去了特朗普的办公室，问特朗普是否认识丹尼尔斯。特朗普回答称，他确实认识丹尼尔斯，并指示科恩要“处理好这件事”。

　　根据科恩的证词，特朗普曾对科恩表示，他和美国橄榄球运动员罗斯里斯伯格都见过丹尼尔斯，但丹尼尔斯更喜欢特朗普。问题是，它真的会公平吗？          研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。
　　科恩还问特朗普是否与丹尼尔斯有过接触，特朗普并未给出直接回答，只说她是“一个美丽的女人”。

C |

当地时间2023年4月4日，美国前总统特朗普抵纽约曼哈顿刑事法院就“封口费”案接受提审。中新社记者 廖攀 摄
　　在庭审现场，检察官提到丹尼尔斯和特朗普发生性接触一事时问科恩：“如果这件事属实，你认为这可能对(2016年的)竞选活动产生什么潜在影响？”科恩回答称：“灾难性的，对竞选活动来说是可怕的。”
　　科恩在庭上表示，2016年10月关于特朗普的桃色新闻出现时，科恩本人正在伦敦和家人朋友在一起。他曾接到特朗普的电话，并称“特朗普想要的说法是，这是内部谈话，是梅拉尼娅(特朗普夫人)的意思。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。他想利用这一点来尽量减少对他本人和竞选活动的影响”。
　　科恩作证称，当特朗普与丹尼尔斯之间的事情在2016年大选活动只剩几周时再次被曝出后，特朗普感到非常愤怒。
　　科恩回忆称，特朗普当时对他说：“我以为你已经解决了这件事，并得到了控制。         更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。这是一场灾难，彻头彻尾的灾难。而这些记忆，也可能成为模型滋生偏见的土壤。         为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。

D | 女性会讨厌我，男性可能会觉得这很酷，但这对我的竞选绝对是一场灾难。

E | ”

　　科恩称，特朗普当时告诉他，要尽可能长时间地拖延此事，最好拖到大选之后。         实验改编自一项经典心理学研究。

F | 而当谈及特朗普和丹尼尔斯之间的事对梅拉尼娅有什么影响时，科恩表示，在经过沟通后，他意识到特朗普并不担心梅拉尼娅，而只是担心竞选活动。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。         每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。随后进入下一轮。

G | 整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。

　　该案的关键，在于时任特朗普竞选经理兼律师的科恩向丹尼尔斯支付了13万美元“封口费”，以此要求丹尼尔斯不要在选举期间，渲染多年前曾与特朗普有染一事。
　　科恩作证说，他在2016年10月与特朗普进行过一次谈话。

H | 特朗普当时明确要求他，向丹尼尔斯支付13万美元。

　　科恩表示，他当时对特朗普表示，会先为其垫付这笔钱，而特朗普也对此表示“感激”，并许诺会将这笔钱还给科恩。

I |          按理说，模型不应该偏向任何一个群体。

J |

　　针对这一问题，检察官询问科恩：如果没有特朗普“签字”，他是否会向丹尼尔斯支付13万美元。科恩明确表示“不会”，并称“因为一切都需要特朗普本人的签字”。除此之外，他还表示：“我想要回我的钱。但结果恰恰相反。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。”
　　科恩在证词宣誓时证实，他于2016年10月27日汇出的一笔标有“保留金”款项，实际上就是给丹尼尔斯的钱，目的就是让后者“执行保密协议”。
　　对于科恩此次作证，多家美国媒体都采用了“被最忠诚下属指认”这一说法。         换句话说，它开始把一次偶然的经历，当成了整个群体的特征。

K | 美国有线电视新闻网(CNN)介绍称，科恩与特朗普曾经非常亲密，科恩曾说过一句著名的话——他会为特朗普“挡子弹”。更令人意外的是，这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。

　　美国有线电视新闻网(CNN)还关注到一个细节，当天的庭审中，科恩和特朗普基本上避免了目光接触，在作证的大部分时间里，科恩都直视着检察官苏珊，偶尔扫视一下房间，或者看看陪审团的方向。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。而特朗普在接受科恩提问的很长一段时间里，要么闭着眼睛，要么翻阅新闻报道。
　　多家美媒预测，科恩的作证，也可能会对“封口费”一案的走向起到重要影响。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。
　　13日的审判一直持续到当地时间傍晚。审判结束离开法院后，特朗普对当庭法官莫钦进行了猛烈抨击，称“封口费案”是一个“骗局”。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。
　　特朗普说：“我认为这个国家的民主正在发生可怕的事情。“大语言模型本来就特别擅长根据有限的信息快速总结规律。

L | ”他说，“这几乎就是它们被训练出来要做的事情。”他称，此案实际上是“被操纵的交易”。”          在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。(完)

。

M |          对于大语言模型来说，这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。

N | 也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。

o | Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。

p | 当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。”          当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。         研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。         但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。

q |          研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。         至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。

r |          随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。”          原文链接：          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。

s |

Current article:http://lqyogzd.runtunpaixufenjuduishuang.pics/news/20260826_4177985.html

Published on:18:30:48


上一篇：2025年淘宝京东618活动什么时候买苹果手机最便宜？国补叠加618活动优惠iphone16价格再创历史新低！ 下一篇：中国女排2：3惜败巴西队，继续加油！

我的网站相关阅读

我的网站最新文章

我的网站随机推荐