## 信号警告人工智能安全风险 最近一次讨论，源于信号（Signal）领导者提出的警告，凸显了对“自主代理型人工智能”的安全性和可靠性的担忧。核心论点在于，当前的人工智能能力暴露了操作系统安全性的根本缺陷，而这些缺陷此前被相对可信赖的人工编写软件所掩盖。 评论者普遍认为，现有的操作系统安全模型是在广泛网络普及之前设计的，已经不足以应对。诸如微内核和高级沙箱等解决方案*存在*，但由于可用性问题、成本以及决策者缺乏重视，很少被实施。对健全进程隔离的需求以及从默认信任软件转向的必要性被反复强调。 这场辩论还涉及授予人工智能访问敏感数据和系统的固有挑战，尤其是在非确定性人工智能模型的情况下。一些人认为，信号的警告并非为了推销产品，而是倡导一种更谨慎、更注重安全的AI开发和部署方法，优先考虑可靠性而非不受约束的自主性。 许多评论员指出，信号一直专注于隐私和安全，这是其发声的动机。