在三十三天内,科幻作家 R.W.W. Greene 收到了五十多条未经请求的书籍营销推介。这些骗局大多源于利用人工智能和自动化技术的团伙,它们瞄准了作者在作品曝光度、版税缩水以及传统出版支持减少等方面的职业焦虑。 诈骗者运用了复杂的心理战术:他们制造紧迫感,引用特定的(尽管是编造的)基于算法的策略,有时甚至冒充知名作家来建立信任。当 Greene 对这些服务进行测试时,他发现这些所谓的“系统”甚至无法区分在世作家和历史人物,或者提供的推广机会根本不存在。 尽管这些骗局显而易见,但它们仍在不断扩散,因为它们成功地利用了行业内真正的危机:书籍营销日益困难,作者们渴望寻找解决方案。诈骗者深知,即使是最怀疑的作家,最终也可能屈服于“万一呢”的心态。 Greene 总结道,最有效的防御手段是提高社区意识,并利用像 *Writer Beware* 这样的资源。他最终警告称,尽管“购买”成功的渴望非常强烈,但这些服务不过是掠夺性的空洞陷阱,旨在利用作者与读者之间日益扩大的鸿沟来获利。
AI 模型缺乏对“完成”的内在感知。与人类不同,人类依赖外部信号——如截止日期、同行评审或边际收益递减——而模型会无限期地进行迭代。因此,高效的 AI 开发已从简单的提示词工程转向**“循环工程”(loop engineering)**,即让系统自行验证进度。
然而,循环的有效性取决于其验证机制。如果验证信号存在缺陷(例如,测试通过但未满足实际用户意图),循环就会收敛于错误的目标。成功的循环需要四个要素:明确的目标状态、可观察的当前状态、用于局部编辑的精确工具,以及稳健的停止规则。
目前,循环工程仍是一个反复试验的过程,因为高效的循环往往是针对特定环境定制的。此外,由于循环存在边际收益递减现象,它们很容易在不可能完成的任务上消耗过多的 token。由于 AI 无法自主决定何时停止,开发者必须构建基础设施来明确衡量进度并管理成本。归根结底,最成功的系统将不再是那些能够无限迭代的系统,而是那些构建者已经精准定义了何为“完成”及其应有成本的系统。