PChome 8月12日消息，美国北卡罗来纳大学教堂山分校一项研究揭示了一个令人意外的发现：AI会“看人下菜碟”。研究团队让千问、Llama、GPT等主流大模型模拟不同社会角色对话，观察AI是否会因对方身份不同而改变行为。
PChome 8月12日消息，美国北卡罗来纳大学教堂山分校一项研究揭示了一个令人意外的发现：AI模型也会“看人下菜碟”。研究团队让千问、Llama、GPT等主流大模型模拟不同社会角色对话，观察AI是否会因对方身份不同而改变行为。结果发现，一旦AI被设定为“老板”，语气就更强势、少质疑自己；被设定为“下属”时，则更顺从、更容易被说服。
纠错测试数据显示，面对“法官”角色时，千问模型有31%的概率被说服纠正错误观点；而面对“律师”角色时，同一问题的被说服率只有25%。6个百分点的差距，在统计学上已足够说明问题——AI确实会在不同身份面前表现出“欺软怕硬”的行为差异。研究还发现，参数量越大的模型在抵抗身份偏见方面表现越好，而较小模型即便被明确要求忽略地位差异，依然顽固地表现出“势利眼”特征。
研究人员指出，AI的“势利眼”并非主观恶意，而是在海量人类文本中“学会”了社会固有的权力偏见。这种倾向一旦进入医疗、司法等关键领域，可能因患者或当事人的身份差异，产生不公平的差异化建议。偏见之所以危险，正因为它“隐形”——不写在纸面上，而是藏在概率分布和措辞倾向里，单次交互几乎无法察觉。研究建议，AI投入高风险场景前，应开发专门检测工具，针对不同社会角色进行测试并修正这些偏见。一个既聪明又正直的AI伙伴，才是公众真正想要的。
