一位人工智能研究员因对超智能AI开发过程中的严重安全隐忧感到担忧，已从Anthropic公司辞职。此举在Hacker News上引发了激烈的争论，讨论热度由Anthropic员工Evan Hubinger的评论进一步推高，他承认人工智能在未来十年内导致人类灭绝的概率超过10%。 此次讨论反映出人们对行业当前“对齐”方案的深切怀疑。批评者认为，AI公司正将快速开发置于安全之上，并斥责现有的缓解策略不过是无法应对生存威胁的“沙堡”。 评论者将此与曼哈顿计划相提并论，强调了实验室以“在与中国等全球竞争对手的角逐中保持领先”为由，持续追求危险技术的困境。许多人对政府缺乏有效干预表示沮丧，指出尽管专家已公开承认相关风险，但目前仍缺乏全面的遏制战略。归根结底，这些讨论揭示了科技观察者中普遍存在的无助感与怀疑论——他们担心人类正在鲁莽地追求自主能力，却没有任何经过验证的方法能确保这些能力始终处于人类的掌控之下。