通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
天香天堂免费观看电视剧目前，抗蛇毒血清是唯一特效药，针对不同毒蛇需使用不同类型抗蛇毒血清。刘凤娥建议，市民可先电话咨询当地三级甲等公立医院，确认是否有抗蛇毒血清供应，再行前往就医，以免延误救治。根据阿根廷记者Uriel Lugt的最新消息，39岁的加拉塔萨雷门将穆斯莱拉将在下周一（当地时间）抵达阿根廷，该名球员将与拉普拉塔大学生俱乐部完成签约。天香天堂免费观看电视剧苍老师10部必看经典电影有哪些呢视频考研是一项严肃的选拔性考试，报名审核是确保考试公平公正、顺利进行的重要环节。照片作为考生身份信息的重要组成部分，必须能够真实反映考生的面貌，以便在考试过程中进行准确的身份核实。如果考生上传的照片与本人差异过大，可能会给考试管理带来诸多不便，甚至可能存在替考等违规行为的隐患。因此，考生应该理解审核工作的严谨性。Meta的投资收益将分配给那些是公司股东和已归属的期权持有者的同事，同时大家也将继续作为持股者，参与到我们未来的持续成长中。
20251221 ? 天香天堂免费观看电视剧他表示：“我认为我们对领袖的形象有一个非常明确的定义，尤其是在德国。他必须像一个顶风而立的男人一样坚定，要敢于拼抢、咬牙坚持、声音洪亮、肩膀宽厚，有时还得敢于把人放倒。”《母さんは母のがいない正确发音》体育董事埃贝尔最近评价科曼道：“科曼现在在我们队中。他是一名重要球员，他多年来在拜仁做出了巨大的贡献。他目前身体状况良好，希望他能帮助我们在世俱杯上取得成功。他现在在这里，我们为此感到非常高兴，接下来我们将再看看会发生什么。”
? 贾桂芬记者 唐丽娟 摄
20251221 ? 天香天堂免费观看电视剧市场需求层面，袁帅说，随着数字化、智能化时代的到来，各行业对高速、稳定、低延迟的网络需求日益增长。如工业互联网需要实时数据传输以实现精准控制，智能交通需要快速的网络响应来保障交通安全，这些需求推动了5G-A的加速发展。《B站免费入口永不收费吗知乎》在6月6日开幕的2025中国汽车重庆论坛上，中国贸促会汽车分会会长王侠在发言中表示：“适度的降价、有序的竞争本是市场经济的正常现象，也是行业从稚嫩走向成熟的必经阶段，但无底线的价格战和盲目的技术狂飙势必挤压企业合理的利润空间，进而影响产品和服务质量，长远来看，对企业、对消费者都是不利的。”
? 李旭东记者 马妹霞 摄
? 面对外界质疑IP能否保持热度，泡泡玛特方面曾公开表示“只要对IP做持续、正确的运营，IP会在长周期内爆发蓬勃的生命力”，目前来看，泡泡玛特已经用实践证明，中国企业能走出一条不同的IP化之路。《电影《华丽的外出》》
