潜伏

本周将开展多场公益活动_我的网站

开学第一课

A | 家校沟通、南宋官窑文化、书画鉴定、数字物流、AI科技、消费者跨境直邮、企业品牌管理等衣锦城遗址博物馆临安区衣锦城遗址管理局供图8月24日—28日，“委员面对面”来自市政协侨台界别与特邀三组界别的10位市政协委员，在杭州市政协新时代协商民主实践中心轮值，与来电来访群众进行互动交流，举行联系界别群众活动，听取民生诉求和相关意见建议，开展公益活动，并提供相关免费咨询服务。1.浙江泰乐通信技术有限公司董事长王容峰时间：8月24日上午主题：“通信技术如何改变生活”分享交流2.松下家居科技（杭州）有限公司人事行政部行政主管邹健时间：8月24日下午主题：“企业品牌管理与降本增效”分享交流3.杭州吾上文化策划有限公司董事长林孝爽时间：8月25日上午主题：“书画真伪鉴定、艺术鉴赏及价值评估”分享交流4.杭州德适生物科技有限公司董事长宋宁时间：8月25日下午主题：“AI科技行业发展”分享交流5.杭州佳成跨境电子商务服务有限公司董事长宋成时间：8月26日上午主题：消费者跨境直邮咨询6.杭州市滨江区滨兰实验学校教师王婧时间：8月26日下午主题：家校沟通相关咨询7.中翰盛泰生物技术股份有限公司董事长周旭一时间：8月27日上午主题：生物医药体外诊断相关咨询8.浙江萧山宋代名瓷研究所副所长叶佳星时间：8月27日下午主题：“南宋官窑在新时代的传承与创新”分享交流9.杭州市公安局党委副书记王建平时间：8月28日上午主题：治安防范相关咨询10.菜鸟集团党委书记潘新春时间：8月28日下午主题：“物流行业与数字经济发展”分享交流以上咨询服务全部免费，欢迎市民群众前往，或拨打热线电话0571-88209202与轮值委员进行交流。活动时间：上午9：30—11：30；下午2：30—4：30。

B | （来源：麻省理工科技评论）以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。活动地点：杭州政协实践中心委员工作室（城市阳台1078号）。问题是，它真的会公平吗？研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。第八十八期“杭州政协夜学堂”开讲时间：8月28日（星期五）19：30地点：杭州政协实践中心主题：《学会中医体质养生，调理亚健康状态》讲座主讲人：杭州市中医院中医妇科主任中医师卲梅本场讲座，邵主任将帮助您识别自身体质，掌握饮食调理、作息管理、穴位按摩等实用调理技巧，用中医智慧守护健康。欢迎市民扫描二维码报名参加。《南京照相馆》免费观看时间：8月26日（星期三）14：00地点：杭州政协实践中心电影：《南京照相馆》“临安活动周”公益活动欢迎市民朋友参与周二上午：“吴越文化研究和活化利用情况介绍”周三下午：“我在杭州看临安的山水”主题活动周四上午：“临安道地药材——於术的文化传承与现代价值”主题活动周五上午：“天目论健”主题沙龙活动。

C | 但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。

D | 而这些记忆，也可能成为模型滋生偏见的土壤。为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。实验改编自一项经典心理学研究。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。随后进入下一轮。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。

E | 按理说，模型不应该偏向任何一个群体。但结果恰恰相反。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。

F | 例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。换句话说，它开始把一次偶然的经历，当成了整个群体的特征。更令人意外的是，这种倾向甚至比真人严重。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。

G | 指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。

H | 其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。”他说，“这几乎就是它们被训练出来要做的事情。” 在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。对于大语言模型来说，这种取舍往往更加偏向后者。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。

I | Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。

J | ” 康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。” 当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。

K | 真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。

L | Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。

M | 模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。未来，AI 不只是可能复制人类已有的偏见。