为什么那么多人蒸馏投资大师,到现在还没有真能替代巴菲特的 skill 呢?

自从AI应用到金融、投资领域越来越普遍之后,很多人都在使用AI复制投资大师的投研思路。甚至复制一些大V的投资理念。 但是到目前为止,好像还没有真的说很有效的的复制案例或者产品。这是为什么? 蒸馏,在我们日常生活中,非常常见也是一个实打实的理工科的概念,是“取其精华、去繁存简”的过程。 蒸馏是利用混合物中各组分沸点不同,通过加热使沸点低的组分先汽化,再将蒸汽冷凝为液体,从而实现组分分离与提纯的物理方法。 而在大模型训练领域,蒸馏之前则是另一层概念,也是大模型厂商们常用的合理手段。 大模型蒸馏(Knowledge Distillation, KD) 是一种模型压缩与知识迁移技术。它的核心思想是:让一个小型的模型(称之为“学生”),模仿并学习一个大型、高性能的模型(称之为“教师”)的行为与知识,从而在大幅减少参数量、计算量的同时,保留接近教师模型的性能。AI“蒸馏”火出圈了!指数蒸馏你用上了吗?

查看原文
分享到:

相关推荐

Trump Mobile's T1 Phone now costs $250 more

1小时前

为什么途虎技师说轮胎不需要6年更换?

1小时前

既然AI一分钟就能开发出像《开心消消乐》《植物大战僵尸》这样的游戏,为什么排行榜上还是这些老游戏?

1小时前

如何看待Anthropic 研究员Jacob 离职,称 AI 公司正「拿全人类的命运下注」?

1小时前