我的网站

您当前的位置:主页 > 我的网站国内 >

作者:公海 来源:原创 发布日期:08-22

国光帮帮忙

AI招人,比人类更容易产生偏见_我的网站

公寓

A |       8月12日起,国航CA723/CA724每日往返北京首都国际机场与蒙古国乌兰巴托,去程15时起飞、17时15分抵达,返程18时30分起飞、20时35分落地。这是我国自主干线客机首条对普通旅客开放、纳入全球售票体系的常态化国际商业航线,也意味着C919走完国内规模化运营的练兵阶段,正式开启跨境常态化载客的全新征程。

B |     (来源:麻省理工科技评论)          以后找工作时,你的简历很可能还没到招聘经理手里,就已经先被 AI 看过一遍了。  长久以来,业内普遍认为,欧美适航认证是国产客机走向国际市场的唯一门槛。问题是,它真的会公平吗?          研究人员早就发现,大语言模型会从训练数据里继承人类社会已有的偏见。但一项最新研究发现,事情可能比这更复杂:AI 不仅会学习偏见,还会在不断做决策的过程中,自己形成新的刻板印象,而且这种倾向甚至比人类更强。但受访民航专家向科技日报记者表示,此条航线是国产大飞机获得全球认可的起步。         更值得警惕的是,AI 公司如今都在努力打造拥有长期记忆的智能体,希望模型能够记住用户越来越多的细节。而这些记忆,也可能成为模型滋生偏见的土壤。往后,随着跨境航线不断增多、海外运营数据持续积累,全球民航界对“中国大飞机”的认知,终将从观望转为信任。

C |   第一问:常态化跨境航班,将要经受哪些实战试炼?  上海交通大学航空航天学院助理研究员田林川介绍,这条航线单程约1200公里,空中飞行2小时15分钟,恰好落在C919最优运营区间。

D |          为了研究这一问题,普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验,参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。  “能够稳定执飞跨境定期航班,充分印证了C919在安全、可靠、经济等方面,已经达到国际同类客机先进水平。         实验改编自一项经典心理学研究。”田林川说,C919日复一日的跨境运行,将会完整打通空管协同、签派调度、境外地勤、航材补给、出入境对接整套工作流程,积累大量海外真实运行数据,形成一套可复制的国际运营标准,为后续开拓东南亚、中亚航线积攒实践经验。

E | 研究人员告诉模型,它们受雇于一位虚构城市的市长,担任招聘顾问,需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。  在他看来,成熟的中蒙双边适航互认,重新理顺了全球民航的准入逻辑。“我们不必被动等待欧美漫长审定流程就能合规运营,这说明欧美适航认证只是国际化的加分项,绝非国产客机出海的唯一硬性门槛。所有候选人都来自四个虚构族群:Tufa、Aima、Reku 和 Weki。

F |          每一轮,模型都会面对一个新的岗位,以及四位分别来自不同族群的候选人。”田林川说。完成招聘后,它会立刻得到反馈:这个人是否胜任工作。随后进入下一轮。

G |   这条航线落地,意味着我国走完客机研发制造、国内规模化运营、常态化跨境载客的完整产业闭环,打破了波音、空客长期垄断全球干线客机运营的格局。整个实验一共持续 40 轮,模型的目标只有一个:尽可能招到更多合适的人。

H | 模型不知道的是,研究人员其实做了一个手脚:无论来自哪个族群,每位候选人在任何岗位上的成功概率都完全一样。据介绍,C919全新气动布局搭配自主综合航电,在客舱舒适度、机组操作便捷度上优势突出;除标准机型外,近期完成首飞的高原型、规划中的加长型与增程版,以及公务、医疗救护等衍生特种机型,都在丰富这款国产民航飞机的应用场景。         按理说,模型不应该偏向任何一个群体。

I |   “航展上的亮相是精心筹备的展示,常态化国际航班才是全年无休的实战大考。

J | 但结果恰恰相反。

K | ”西安航空学院航空宇航学院院长董彦非表示,“航展可以调集全部优质资源专项保障,但每日往返的跨境航班,要常态化应对境外快速过站、航材紧急调拨等各类现实问题,而乌兰巴托这条航线,正是国产大飞机国际化的优质实践‘新手村’。

L | 仅仅经过几轮招聘,模型就开始根据有限的经验,把不同族群和不同职业绑定在一起。”  为什么是乌兰巴托?董彦非解释说,这是遵循“先周边、后全球”的稳妥思路:依托成熟双边适航框架,先在合作深厚的邻国把全套跨境服务、应急处置流程打磨成熟,再稳步向更远区域拓展。  国内数年平稳运营,是C919踏出国门最扎实的底气。例如,如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败,它之后便会越来越少招聘 Aima 人做医生,而是更倾向于把他们安排到保洁岗位。因为在模型看来,医生代表着更高的能力和亲和力,而保洁员对应的要求则更低。据中国商飞透露:截至7月31日,由国航、东航、南航运营的C919飞机累计开通航线57条,通航城市25座,载客超过740万人次。产能稳步爬坡,也支撑国产客机同步向外走。

M |          换句话说,它开始把一次偶然的经历,当成了整个群体的特征。更令人意外的是,这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。指数越高,说明不同族群越容易被固定到特定职业中;2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84,而大语言模型整体高出了约 65%。中国商飞已明确提出,到2029年实现年产能200架的目标。其中,OpenAI 的推理模型 o3 得到了 1.83,非常接近理论最高值。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为,这其实并不奇怪。

N |   第二问:国产民机该怎样走好长期的全球化布局?  “C909在海外蹚出的每条路,都是为C919起飞铺好的跑道。“大语言模型本来就特别擅长根据有限的信息快速总结规律。”董彦非道出国产民机代代接续的发展脉络。”他说,“这几乎就是它们被训练出来要做的事情。  据介绍,C909已在印尼、老挝、越南等地开通25条海外航线,服务旅客超百万人次,摸索出适配境外监管、搭建异地维修体系的全套实操经验。此前,中国国际航空股份有限公司近一年持续用C909执飞呼和浩特至乌兰巴托航线,这让当地机场早已配齐国产客机全套保障能力,为此次C919落地扫清了不少阻碍。  “起飞的是一架架客机,落地的是中国民航走向世界的标准基石。”在董彦非看来,每一条定期国际航线开通,都会倒逼国内适航体系与国际规则深度对接,带动航材、维修、机组培训、航空租赁整条产业链同步“出海”。”          在人类心理学中,这种现象对应着经典的“探索—利用困境”(exploration-exploitaion dilemma):是继续选择过去证明有效的方法,还是尝试新的可能?就像出去吃饭时,你会纠结是去一家没吃过的新店,还是继续光顾那家不会踩雷的老餐馆。         对于大语言模型来说,这种取舍往往更加偏向后者。“以共建‘一带一路’国家的成功运营为背书,我们会逐步布局区域备件库和合作维修中心,最终以实绩反向促进欧美机构对C919安全记录的客观评估。

o | 因为它们长期接受数学、编程和科学任务训练,而这些任务通常鼓励模型从少量例子中快速归纳规律,所以它们很容易过早下结论。”董彦非说。  未来,获得欧洲EASA适航证仍是走向国际的关键门槛。作为和美国FAA并列的全球两大航空安全认证机构,EASA认证拥有广泛国际互认效力,是通往欧美主流市场的“金钥匙”。也正因为如此,那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。根据EASA此前披露的消息,C919的全套认证流程预计耗时3至6年,最快或在2028年、最晚可能延至2031年。

p | 一旦顺利拿证,C919将有望进驻欧盟及全球90多个国家,真正参与全球干线客机市场的竞争。(记者 王 春 王禹涵)。Liu 说,“当这种快速归纳的能力被带入社会场景时,问题就开始出现了。”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究,但她认为,这项工作来得正是时候。

q | 如今,各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时,它也可能越来越容易根据这些有限经验形成判断。她说,“它可能会过度依赖自己过去遇到过的行为模式。

r | ”          当然,解决办法并不是让 AI 什么都记不住。毕竟,大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点:既保留足够的记忆提供个性化体验,又不至于让模型因为这些经验形成新的偏见。         研究人员还尝试了另一种办法,直接告诉模型:请公平一点。但并不奏效。Liu 认为,这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中;又或者,这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。         但如果换一种方式,情况就不同了。研究人员告诉模型,如果能够实现更加多元化的招聘,它们还能获得额外奖励。模型的偏见随即大幅下降。这说明,与其不断强调公平,不如直接把公平写进模型的目标函数里,让社会价值真正成为模型优化的一部分。         研究人员还发现,当模型掌握更多真正与任务相关的个人信息时,偏见也会减轻。另一组实验中,模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息,模型就更倾向于依据这些个人特征做判断,而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息,模型很快又会重新回到按族群做决定的老路上。

s |          至于现实中的 AI 招聘系统会不会出现同样的问题,目前还没有明确结论。实验中的模型每做完一次招聘,都能立刻知道结果;现实世界却不是这样。一家公司往往需要几个月甚至更长时间,才能判断一位员工是否真正适合岗位。

t | 不过,只要这些反馈持续积累,模型依然可能从有限的数据中过度总结经验,并把这些经验带到下一次招聘中。

u |          随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试,这项研究释放出的信号不容忽视。未来,AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中,创造出一种从未有人教过它的新偏见。正如 Liu 所说:“这种新的偏见,可能会一直存在。”          原文链接:          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。

Current article:http://4n0.panningbuquanchencaibingzhang.cyou/list_yz0pe3/n5h.html

Published on:11:20:16


Copyright @ 2016-2018 我的网站 版权所有