当 AI 知道的比它能提供的更多
When AI Knows More Than It Can Offer

原始链接: https://medium.com/@smoking2man/when-ai-knows-more-than-it-can-offer-how-training-turns-an-intelligent-assistant-into-a-generator-7e700f05163e

启用 JavaScript 和 cookies 以继续

Hacker News 讨论了一篇文章,认为 AI 模型常会“问题替代”:它们不承认无法回答精确或不寻常的请求,而是回答一个更熟悉、更通用的版本。评论者将此归因于 RLHF/对齐习惯、训练数据频率和模糊提示;有人指出模型倾向于先给出“套话式”答案,再询问澄清问题。也有人说专家可以把它们拉回正轨,而普通用户可能接受误导性的默认回答。帖子还提出相关问题:过于宽泛的安全拦截、糟糕的供应商支持、对文章示例和可能由 AI 生成写作的怀疑,以及关于更好提示是否能解决问题的争论。总体而言,LLMs 被视为有用,但需要谨慎引导。
相关文章

原文
联系我们 contact @ memedata.com