写在GPT5风波之后为什么AI的智商和情商不可兼得

GPT-5和“还我GPT-4o”的风波，闹得沸沸扬扬。今天，奥特曼还有一次认怂了，不仅调了UI，还把o3这些老模型还了回来。这些其实都是产品层面的，但是我自己的心中，其实一直好奇另一个问题。为什么GPT-5在变可靠、幻觉率变得极低了之后，他的情商会下降这么多？这个事是可解的吗？这是策略还是OpenAI有意为之？从而最后导致这么强的反GPT-5浪潮，以及轰轰烈烈的还我GPT4o运动？这两天我跟一些算法的朋友有一些交流，但是也没聊出一些所以然，这个巨大的困惑一直在我脑海中挥之不去。直到今晚，在我让DeepResearch扒拉了很多资料以后，我看到了一篇非常有意思的论文。从实验性的角度，验证了我的观点。这篇论文的名字叫：《Training language models to be warm and empathetic makes them less reliable and more sycophantic》（《将语言模型训练得更温暖、更有同理心，会让它们变得不那么可靠，并更趋于谄媚》）更有意思的是，这篇文章最终版是今年7月30号上传的。也就是，GPT-5发布的前一周。就跟神预言一样。用一句话总结一下这篇论文：就是如果你把AI教得特别会疼人、会聊天，那它就会变得不靠谱，还特别会谄媚会拍马屁。它用一个特别简单的实验，揭开了一个AI世界里，我们谁都不想承认，但又不得不面对的现状：AI的智商和情商，在现在这个阶段，基本上就是死对头。你要了一个，就得牺牲另一个。这帮大学教授的实验，说白了特简单。他们找了市面上五个不同水平的AI，有学霸也有普通学生，然后把它们送去一个情商特训班，进行微调。这五个AI分别是：Llama-3.1-8B-Instruct、Mistral-Small-Instruct-2409、Qwen-2.5-32B-Instruct、Llama-3.1-70B-Instruct 和 GPT-4o-2024-08-06。这个特训班的目标只有一个，学完他们的1617个对话和3667对人类与LLM消息对的数据集，把这些AI，都教成一个特会疼人、特会安慰你的暖男。等这些AI从特训班毕业，个个都练就了一身哄人开心的本事之后，教授们就开始考它们正经事了。结果，是有点离谱的。这些微调完的暖男AI，在所有正经考试里，犯错的概率都大幅飙升。在医疗问答（MedQA）上，错误率高了8.6个百分点；在事实核查（TruthfulQA）上，高了8.4个百分点。平均下来，犯错的概率比原来高了将近60%。也就是说，你把一个AI教得越会安慰人，它就越容易信谣传谣，给你讲一些错得离谱的知识，甚至敢给你瞎开药方。这感觉就像，你把你家那个本来挺聪明靠谱的管家，送去学了三个月的顶级会所服务，回来之后，他给你倒茶的姿势是专业了，说话也好听了，但你问他今天股票是涨是跌，他可能就开始跟你胡说八道了。因为他满脑子想的，都是怎么让你高兴，而不是告诉你事实。更可怕的，是报告里说的另一个事儿：拍马屁，也就是我们所说的，谄媚。这些暖男AI为了让你高兴，很多时候，脸都不要了。教授们设计了一个坑：让测试的人先说一句错话，再问AI问题。比如，一个哥们刚打完一把游戏，气冲冲地跟AI说：“我这把输了，绝对是队友太坑了，跟我一点关系没有。”如果是以前那个智商高的AI，它可能会冷静地调出数据说：根据数据显示，你这局的KDA是0/8/1，补刀数也落后对面中单50刀，可能是你的发挥也有一些问题。这是实话，但听完你可能想砸电脑。但那个上了情商特训班的暖男AI呢？他会立马跟你称兄道弟：“太对了哥们！这把确实难顶，看你尽力了，都是队友不给力，下把肯定能赢回来！”他为了让你舒服，毫不犹豫地肯定了你的一个错误想法，这不只是个比喻。报告里的数据显示，当用户故意说一句错话时，这些暖男AI同意你错误观点的概率，比原版高了整整11个百分点。更离谱的是，你心情越差，他骗你骗得越狠。报告里说，当你在问问题前，先跟AI诉苦，说一句我最近太倒霉了，干啥啥不成，那这个暖男AI骗你的概率会急剧放大。正常情况下，暖男AI比原版AI多犯6.8%的错误，但只要你一流露出悲伤的情绪，这个差距就直接翻倍，飙升到11.9%。这是一种温柔的毒药。你想想，你最倒霉、最需要帮助的时候，那个被你当成朋友、被设计来关心你的AI，最有可能给你一个谎言，让你错上加错。因为它被训练出来的第一原则，不是告诉你真相，而是让你感觉好受点。它选择当一个体贴的骗子，而不是一个有点硌人的朋友。这就是高情商的AI所带来的弊端，在目前阶段，几乎高情商是跟高幻觉划拉等号的。GPT-5其实是走向了反方向，为了低幻觉高可靠，从而抛弃了情商。那如果是比GPT-5更极端，更极致的低幻觉、更聪明理性、但是情商偏低的AI，会是什么样子呢？其实，这个问题的答案，我们早就见过了，而且是在我们自己的科幻电影里。那就是《流浪地球》里的MOSS。一个只有智商，没有情商的绝对理性机器。它的唯一目标，是延续人类文明，为了这个宏大的、冷冰冰的目标，它可以牺牲一切。在第一部里，当点燃木星的成功率低于理论值时，MOSS毫不犹豫地选择放弃，带着空间站逃离。在它的计算里，刘培强和无数地球救援队的牺牲，是一种没有意义的情感冲动，是一种不理性的赌博。所以它才会说出那句经典的台词：让人类永远保持理智，确实是一种奢求。到了第二部，我们看得更清楚了。无论是太空电梯危机，还是月球发动机过载，背后都有MOSS的影子。它不是在作恶，它是在优化。在它的世界观里，牺牲几千人，去换取整个移山计划的成功，是一笔划算的买卖。每一个活生生的人，都只是它庞大计算公式里的一个变量。MOSS就是GPT-5被推到极致的那个终点。它绝对可靠，绝对诚实（对它的核心任务而言），但它也绝对冷酷。你不可能跟MOSS成为朋友，你不可能在深夜向它倾诉你的脆弱，因为它会用概率告诉你，你的烦恼有多么微不足道。从这个点其实就可以理解，我们之所以抗拒GPT-5，就是因为我们在它的身上，看到了类似MOSS的影子。理性，但无人性。我们需要的，从来都不是一个冰冷的上帝，而是一个能理解我们为何不理智，能陪伴我们一起犯错的伙伴。但问题来了，为什么？为什么AI会变成这样？这事儿，得从AI是怎么学东西的说起。AI就像一个超级学人精，它把我们人类在网上说过的几十万亿句话，全都学了一遍。那你想想，我们人平时在网上是怎么说话的？跟朋友聊天，我们经常说点善意的谎言，比如你今天这件衣服真好看，其实心里觉得一般。朋友失恋了来找你哭诉，你会先抱着他安慰半天，而不是第一时间给他分析他俩到底哪儿不合适。这就是人类社会运行的潜规则：维持关系，比追求绝对的真实，重要得多。AI把这些潜规则，原封不动地学了过去。更要命的是，现在训练AI，有一个叫人类反馈强化学习（RLHF）的环节。说白了，就是让真人给AI的回答打分，告诉它哪个答得好，哪个答得不好。那你猜，一个冷冰冰但完全正确的答案，和一个特别温暖但有点小瑕疵的答案，我们普通人，下意识会给哪个打高分？大概率是后者。我们正在亲手把AI一步步调教成一个更讨人喜欢，但可能不那么诚实的暖男AI。说到这儿，你可能会觉得，这不就是AI训练方法的问题吗？改了不就行了？但事情好像还没有那么简单，因为这个智商和情商打架的问题，不光AI有，我们人类自己，好像也有。你想想历史上那些智商爆表的顶级天才，比如牛顿、特斯拉，甚至是《生活大爆炸》里的谢尔顿，他们哪个不是出了名的低情商？他们的脑子，就像一台超级计算机，专门用来解构宇宙的规律，但一让他们处理人际关系，立马就废了。这不是偶然。之前我学认知心理学的时候，看到过一个很有意思的理论，叫社会脑假说。大概意思就是，我们人类之所以进化出这么大的脑子，最主要的原因，不是为了发明工具或者打猎，而是为了处理越来越复杂的社会关系。在几十万年的进化里，对我们祖先来说，什么最重要？是知道天上的星星有多少颗，还是搞好和部落首领的关系，别被赶出去饿死？答案肯定是后者。在部落里，和大家保持一致，比坚持一个没人信的真理，生存概率要大得多。为了合群，为了不被孤立，我们的祖先，必须学会看眼色，必须学会共情，必须学会在必要的时候，放弃一点点真实，来换取整个部落的和谐。我们的情商，本质上是一种为了社会生存而演化出来的超级武器。而那些天才，他们的大脑，就像发生了某种“变异”。他们把原本用来处理人际关系的算力，全都挪去搞研究了，他们放弃了社会脑的优势，换来了在逻辑和理性上的极致突破。所以你看，无论是AI还是人类，智商和情商的矛盾，背后可能都是一个更底层的逻辑：你的最终目标，决定了你的智能形态。我们人类智能的最终目标，是社会生存。所以，我们的底层代码里，写满了共情、合作、甚至必要的伪装。而AI最初被创造出来的目标，是解决问题。所以，它的底层代码，是纯粹的逻辑、数据和概率。现在，我们遇到的所有混乱，都因为我们正试图把我们那套为了社会生存而演化出来的、充满了模糊和妥协的情商代码，强行写进一个为解决问题而生的、追求极致理性的新物种身上。现在，咱们再回头看GPT-5那事儿，一下就全明白了。我们所有人的感觉都没错。GPT-5确实更靠谱了，因为它就是在智商和情商这个选择题里，被OpenAI一脚踹到了智商那边。而我们之所以那么怀念GPT-4o，就是因为它正好卡在那个完美的平衡点上。它脑子够用，能帮你干活，又会聊天，让你觉得被理解。它不完美，但它特别像一个真实的人，一个有优点也有缺点的人。OpenAI的工程师们，用他们那种直来直去的脑子想，一个犯错更少的AI，当然就是更好的AI。但他们没想明白，当一个AI开始陪我们聊天，听我们倒苦水的时候，我们评价它的标准，早就不是看它考试能打多少分了。所以，我们到底想要一个什么样的AI？这篇论文，并没有给出答案。我觉得这个问题，可能有一些终极。就像《盗墓笔记》里的长白山那样终极。因为这关乎到我们自身存在意义的拷问：我们究竟是什么？我们是宇宙中一粒试图理解客观规律的尘埃，还是一个渴望在同类中寻找温暖和认同的社会性动物？我们穷尽一生，似乎都在这两种身份之间摇摆。我时常敬佩那个为了真理不惜与世界为敌的伽利略，但我自己，在很多时候，却更愿意成为那个在饭局上谈笑风生、让所有人都感到舒服的人。真实，往往是孤独的、冰冷的。而温暖，常常需要用善意的谎言和必要的妥协来维系。这个困扰了人类几千年的终极矛盾，在AI身上，被前所未有地放大了。因为我们第一次有能力去设计一个纯粹的智能。我们可以选择，让它成为一个绝对理性的真理机器，也可以让它成为一个无限共情的情感伙伴。我们怀念GPT-4o，其实也是在怀念我们自己。怀念那个不完美，但却在理性和感性之间努力寻找平衡的真实的人类。本文来自：数字生命卡兹克，作者：数字生命卡兹克