## 谷歌暂停AI健康摘要功能，因出现严重错误 谷歌已从搜索结果中移除其AI驱动的健康摘要功能，原因是出现了不准确且可能造成危险的建议。调查显示，该AI提供了有缺陷的建议，引发了对其在敏感医疗保健环境中使用问题的担忧。 Hacker News上的评论员强调了在缺乏可靠保障措施的情况下，将AI应用于医疗保健的风险，并指出这些工具符合“医疗器械软件”的定义，可能导致法律责任。多名用户分享了AI“幻觉”或捏造信息的个人经历，甚至与WebMD等权威医学来源相矛盾。 该事件引发了关于AI在医疗保健中适当角色的辩论，许多人提倡“人机协作”的应用，重点是*辅助*专业人士，而不是取代他们。值得注意的是，OpenAI正在推出专门的“ChatGPT Health”服务，这展示了领先科技公司在AI安全方面不同的方法。这一情况凸显了“颠覆”医疗保健的挑战，在医疗保健领域，准确性至关重要。