这篇帖子详细介绍了作者对量化投资的探索,特别是将其应用于外汇(FX)市场,尽管他们之前从事高频交易。与股票不同,外汇收益受宏观事件(如利率变化)的强烈影响,这使得建模更加复杂。
作者利用TwelveData API收集主要货币的每日汇率数据,创建用于分析的数据集。然后,他们复制美元指数(DXY)——一种衡量六种主要货币对美元汇率的加权平均值——作为整体市场走势的代理,类似于股票市场的标准普尔500指数。
作者以资本资产定价模型为框架,通过滚动线性回归计算了几种货币相对于DXY的beta值。这些beta值表明了货币对美元波动整体的敏感度。初步结果与预期一致——欧元显示出接近1的beta值,而土耳其里拉由于其独特的宏观经济因素表现出较低的敏感度。
虽然这些初步的beta值本身并没有特别深刻的见解,但这项工作为构建一个更全面的外汇因子模型奠定了基础,该模型将纳入动量和商品敏感性等因素。
## 搜索蒸馏提升语言模型推理能力
本研究探讨了是否可以通过增强语言模型与搜索功能(类似于AlphaZero等游戏AI使用的技术),来提升其推理能力。作者研究了将蒙特卡洛树搜索(MCTS)应用于Qwen-2.5-1.5B-Instruct模型,并通过在线PPO训练将由此产生的更强的推理路径蒸馏回模型中。
实验重点是组合算术游戏“Countdown”,在该游戏中,模型必须使用给定的整数和运算来达到目标数字。结果表明,蒸馏后的模型实现了11.3%的mean@16准确率——比预训练模型提高了8.2个百分点——优于CISPO (8.4%) 和“最佳N个”采样基线 (7.7%)。
该研究强调了基于搜索的蒸馏的潜力,表明组合问题尤其受益于自适应推理树。尽管承认实验规模较小(1.5B模型),作者计划使用更大的模型和计算资源来进一步探索这种有前景的方法及其“推理旋钮”,例如worker/迭代次数。代码是开源的,欢迎合作以推进这项研究。