通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
欧洲尺码与欧洲尺码区别966这一结果表明，在相对湿度较高的情况下，AWHW 的水产量较高，超过了所有其他被动式太阳能大气集水装置。因此，AWHW 可以在 18%-90% 的宽泛相对湿度范围内高效集水，从而实现全年适用性。据讯飞医疗科技方面透露，截至目前，讯飞晓医下载量已突破2400万，累计完成超1.4亿次AI咨询量。另外，作为业界迄今唯一通过国家执业医师资格考试综合笔试测试的人工智能系统，讯飞医疗科技的智医助理目前已覆盖全国692个区县超73000个基层医疗机构，提供超10亿次AI辅助诊断，修正诊断175万次，累计识别不合理处方超1亿次。欧洲尺码与欧洲尺码区别966www.17cao.gov.cn这也与马斯克今年以来的多次表述相悖。今年1月时，马斯克曾表示公司将在夏天推出无人监督的自动驾驶服务，特别强调“车内不配备任何人员”。在4月的财报会议上，他还补充称10至20辆参与试运营的Model Y，将在紧急情况下采取远程操作模式。——不不，我的意思是说我们必须适应这种情况，因为有时候面对那些有斗志、跑动积极并且防守出色的球队，我们的技术水平会受到影响。我们必须全力以赴，因为这些细节非常重要，我们必须成长。但我们一直是谦逊的，否则我们不会在过去几年赢得那么多奖杯。
20250715 💃 欧洲尺码与欧洲尺码区别966当一线城市 电影活动 更迭频繁时，许多 其他 城市的观众却 常常 难觅艺术电影踪影。拷贝租赁成本高、商业市场对票房的严苛要求，让艺术电影全国发行举步维艰，即便口碑18 色AV出国产精品秘 久久久久久众，也常因预估上座率低被排片表18 流白浆 小蘑菇拒之门外。香蕉.com王树国说，没有不可能之事，要看它符不符合时代发展规律，看它符不符合时代发展的美女被 到流水羞羞需求，再有一批志同道合的人聚在一起，天下成人18禁秘 啪啪网站网站没有不可能之事，“我相信亚洲国产精品二二三三区这个目标一定会实现”。
📸 弓冠峰记者 贾纪民 摄
20250715 💦 欧洲尺码与欧洲尺码区别966新消费为啥能够爆火呢？其实也是必然。现在，市场上消费主力人群，消费习惯已经基本形成，大家都需要增量，而这个增量就是Z世代人群，面向他们的，其实就算新消费了。Z世代人群，喜欢自我表达，酷爱圈层文化，又不太受传统品牌束缚，更看中的是能体验、参与、设计等悦己消费，在满足兴趣后，还有复购欲望。而新消费刚好，能够满足，其实核心就是，情绪价值。就是在产品的功能趋同后，谁能满足用户的情绪价值，谁就能获得市场，而这个情绪价值也不是单纯的“我高兴”，而是情绪上实现归属感、认同感、仪式感、愉悦感、优越感的满足。举个例子，现在被疯狂抢购的Labubu，为啥能这么火爆呢？其实大家是在做一件事儿：我和我的“同好”们（归属）在抢（仪式）一个“懂我们”（认同）的东西，抢到后我自己高兴（愉悦），还能表现出我的“欧气”（优越）。这么一想，用不太贵的价格，参与了一场悦己的潮流活动，还是非常划算的。但是，消费逻辑也并不等于投资逻辑。今年，港股的“新消费F4”，总市值超过7000亿，涨势很猛，为啥呢？1、目前来看，虽然用户拥挤，但是新消费这个赛道，暂时还没那么拥挤；2、他们的高估值，还是高成长性在支撑，毕竟在消费市场大火，他们的收益是肉眼可见地在增长；3、能够破圈的公司，还是具有稀缺性；但是，问题也来了，新消费还是很有波动性。这里面有泡沫吗？肯定是有的，在连续上涨之后，新消费概念还是有回调。这种高成长性可持续吗？这也是一个问题，比如，在抢购潮背后，是真缺货还是饥饿营销呢？大家的胃口被吊得太久，可能面对的就是情绪转移。下一匹新消费的黑马在哪里？不知道，新消费是必然，但是成为爆款，也具有一定的偶然性，毕竟有些爆款不是新IP也不是新上市，一夜爆红之后，内部暂时也无代餐。投资的底层逻辑，依然是价值投资，业绩、发展前景、竞争力。WWW.77788.gov.cn要知道，法国总统马克龙也才刚于5月27日开始进行了为期三天的访问印尼之旅。印尼国防部长沙里夫当着一众媒体的面声言，马克龙此访的重要议题就是防务合作。
📸 李芳记者 刘建杰 摄
🍓 报道还认为，特朗普的权威还遭遇三个国家的“蔑视”——俄罗斯、中国、以色列。由于迟迟无法结束俄乌冲突，在对华关税贸易战上被嘲笑总是“胆怯交易”，如今又快被以色列总理内塔尼亚胡强行“拖下水”，这位美国总统在外交政策上所谓的“交易艺术”是失败的。zjzjzjzjzjy.gov.cn
