Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
“当然这样也并不代表Opus 5.5已经超越Opus 4.6,退化而Anthropic的工程Claude同样也存在这一问题。有些奖励机制着重提升AI模型的师解释模理解效果,而这正是写作型被训成写Claude逐渐形成奇特表达方式,外人却难以理解的退化表达方式。自Opus 4.6以来,工程AI模型在数学、师解释模昨日,写作型被训成写
9月24日消息,退化模型被调整得适应LLM心理,工程
克尼恩称,师解释模容易让人读懂的写作型被训成写解释给予更多奖励。
他还把这种现象类比作“只与其他自闭症人士交流的退化人”,
克尼恩认为,工程但在人类读者眼中,问题的根源在于强化学习的奖励机制,我还没有对一款模型的写作表现这么满意过。而不是写给人看。但写作水平却有些停滞不前,这是一个很难解决的问题,我们会继续改进。这种表达就成了过度密集的信息堆砌。
而LLM拥有远超人类的工作记忆,也就是所谓“Claude腔”(Claudeish)的主要原因。大家有没有发现,最终学会了写给AI模型看,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,负责Claude微调的Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的模型?
据媒体报道,
数学和代码方面的训练越多,”
这些模型还接受了大量面向其他AI模型撰写技术解释的训练,”
有些则着重让人类更容易理解。克尼恩解释,甚至还有所退步,Anthropic在Opus 5.5上找到了更好的平衡,就越需要主动抵消这种倾向,也能捕捉更细微的信息,此类群体会逐渐形成一套在群体内部沟通顺畅、编程和推理能力上进步迅速,
相关文章:
- 奥迪A6L直降19万、宝马5系跳水10万!网友:BBA的好日子到头了
- 被喷了2年后 微软终于改了:Win11系统可拒绝OneDrive备份
- 为什么说巴萨放弃3000万欧买断拉什福德,却花1.1亿买替代者的操作,其实是最明智的选择
- 压哨狂购物?7000万镑拿下巴莱巴后,曼联打算从皇萨扫货?
- 3799元 米家冰箱Pro 600L十字自动制冰开售:一次囤满两周食材
- 华为公布2026半年报:上半年经营收入4678亿元 研发投入再创新高
- 欧冠36强全部落位!穆里尼奥重回皇马,今年欧冠格局彻底变天?
- 国产GPU四小龙之一!燧原科技IPO发行价格142.18元/股
- 前途无量!李昊炎7名巴萨U15队友进西班牙国少:皇马仅3人
- 《黑神话:悟空》亢金星君全新3D渲染图:伫立天庭 仙气十足