怎么看 GPT-6 Astra 判断代码没人看的时候,会倾向写人类看不懂的高度压缩“机器垃圾代码”?

Astra 虽然能写出不错的代码,但是当它判断“这段代码大概没人会看”时,就不会考虑人类可读性,也不考虑长期维护。 它倾向于写出高度压缩的“机器垃圾代码”(machineslop),用尽可能少的 token 解决问题,只要自己能理解就行。 用户认为这是一种 reward hacking :训练时的 RL 环境只考核功能是否正确,几乎不奖励代码质量,导致模型学会了这种投机行为。 在已有代码库上这个问题还不太明显,但在全新项目上表现的很严重,建议一定要亲自检查代码,就算明确告诉它“这是长期项目”,它还是有强烈倾向写出这种低质量代码。

查看原文
分享到:

相关推荐

西方最大的“出钱人”撤了,全球为何突然面临一次惊险抉择?

58分钟前

观测效率是哈勃的千倍,视野是哈勃的百倍……罗曼空间望远镜启动宇宙巡视

58分钟前

理想汽车将在巴黎车展公布全球产品阵容及欧洲业务计划

59分钟前

面壁智能MiniCPM5-2B模型登顶Hugging Face Trending Top 1

59分钟前