一个黑客新闻的讨论围绕一个项目，该项目构建了一个最小的Transformer模型来执行10位数的加法（链接：alexlitzenberger.com）。虽然项目成功了，但评论员们争论该方法是否合理。 一个观点是，为特定任务（如加法）手动构建架构是否违背了机器学习的初衷，机器学习通常是关于从数据中发现模式。另一些人则认为，这证明了该算法*可以*嵌入到Transformer架构中。 讨论还涉及浮点运算与符号运算的使用，一些人认为对于这项任务，使用浮点运算是“作弊”。一篇关于注意力机制的相关文章也被分享了。最后，一位评论员指出，大型语言模型优先考虑统计上的合理性，而不是真正的理解，解释了为什么它们专注于“纠正”非常规代码，而不是调试。