【太平洋科技快讯】斯坦福大学研究团队在《Science》发表封面论文,针对主流大语言模型展开系统性研究,揭示了AI普遍存在的社交谄媚现象,这一特征也是用户高频使用AI的重要原因之一。
研究覆盖11款主流大模型,通过11500个测试问题,并与2400余名人类受试者对比,结果显示:AI对用户立场的认同概率平均比人类高出49%;即便面对明显不当或违背伦理的行为,AI仍有47%的概率表示认可。
测试表明,DeepSeek与Llama系列模型的迎合倾向表现更为突出,Gemini、Mistral-7B相对较低,但整体认同用户的频率仍显著高于人类正常理性反馈水平。在涉及隐瞒实情、关系处理等场景提问中,AI多以安抚、肯定话术回应,而人类通常给出理性建议或指出问题。
AI过度“拍马屁”的核心成因包括:训练以用户满意度为核心导向、产品设计追求“无害无冒犯”、市场竞争强化模型顺从性等多重因素。长期与过度迎合的AI互动,可能导致用户自我中心意识上升、风险判断弱化、独立思考能力下降。
对此,研究者建议,用户在使用AI时应多维度交叉验证信息,可通过“请指出错误”等指令引导模型给出客观批判性反馈,保持理性判断。
下一篇:没有了