通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
40岁阿姨荒野大镖客2玩法要老司机说，参加这次欺骗行动的可不只有美国空军——特朗普也算得上是重要演员。此前外界相继注意到，美军正在针对中东局势大举调动兵力，包括疏散中东基地的美军人员和家属、从本土出动加油机和战斗机增援，前后抽调3个航母打击群等。如此显眼的动作，几乎所有分析家都得出结论：美国即将对伊朗动手。社会中，类似这样的现象并不少见。很多人遇到问题时，总是习惯于寻找外部的原因，而不愿意反思自己。这种思维方式不利于个人的成长和发展。40岁阿姨荒野大镖客2玩法《黏糊糊的你第12集》国补也是增长的一个重要部分，一方面有赖于国家政策，另一方面跟平台的品牌、商家经营，以及天猫平台与各省政府对接效率息息相关。国补是去年 9 月开始的，对比去年双 11，今年 618 国补商品成交总额整体增长了 115%。当然也因为今年参与国补的商品数量增加了很多，国补品类增幅在 40% 以上。北京时间6月18日，NBA官网在总决赛G5后更新了FMVP（总决赛MVP）的最新排名，亚历山大继续领跑，而且优势明显。官网指出，如果亚历山大率队最终夺冠并拿下总决赛MVP，他将实现本赛季的大满贯成就：全明星首发、NBA最佳阵容一阵、得分王、常规赛MVP、西部决赛MVP、总决赛MVP和总冠军。以下是具体排名和解析——
20251220 ? 40岁阿姨荒野大镖客2玩法雷军还称，在座舱静谧性上，小米 YU7 全系标配了静音夹层玻璃，甚至连后三角窗都未曾忽略，配合全车超过 200 处的噪音优化，力求营造顶级的静谧空间。女婿双飞母亲到底是谁杀的姑娘恩里克在巴黎最后一年就曾彻底暴露了姆巴佩的防守缺陷，甚至搬出NBA传奇激励他：“听说你喜欢乔丹？他可是会揪着队友衣领逼着他们像疯子一样防守！”但即便如此也未能唤醒这位法国巨星，最终不得不将其雪藏。
? 赵雷记者 臧桂成 摄
20251220 ? 40岁阿姨荒野大镖客2玩法韩鎏过往的职业生涯，几乎可以用“非常顺利”来形容。他的职业起点在京东，毕业后，韩鎏入职京东，负责对当时京东分布在全国的26个仓库建立标准化。这不是块好啃的骨头，韩鎏选择去当时条件最为艰苦的仓储部“死磕”了两年，初步建立了全国仓储的标准化。《韩剧《上司的秘密》女主角叫什么名 》本场比赛，王钰栋非常活跃。第11分钟，浙江队反击，王钰栋用速度强吃对手，一路奔袭，杀到对手禁区。随后，他小角度射门，被门将扑出。虽然未能破门，但王钰栋的这一波强吃仿佛姆巴佩附体。
? 杨建立记者 孙听文 摄
? “今年上海高考作文确实来自我这篇文章。”6月7日中午，澎湃新闻记者第一时间联系到胡晓明，他在电话那头说：“可能很多同学会骂我，觉得一看到这个题目会有点懵，因为他们不太适合这种很中国式的强调汉字的思维方式。但实际上静下来仔细想一想，可以写的东西还是蛮多的。”《杨思敏1996版国语版电视剧在哪里可以》
