联合早报星期五社论 (2026-05-08)：若AI“发神经” 人类怎么办？

联合早报星期五社论 (2026-05-08)：若AI“发神经” 人类怎么办？

(註：联合早报社论调整启事 (2025-12-31) - 从2026年1月起 - 联合早报社论将只在每周五见报)

https://www.zaobao.com.sg/forum/editorial/story20260507-9013436?utm_source=android-share&utm_medium=app

网上发布：

2026-05-07

 23:00

=====

代号“幽灵”的黑客对着全息屏幕，他手中掌握的前沿人工智能（AI）模型蓄势待发。“幽灵”按下发动键，AI模型以量子速度侵入华尔街一个重要的金融系统，导致全球金融信号大乱；同时又侵入多国基础设施，导致交通瘫痪，供应中断。人类即使发现它的恶行恶迹，也可能来不及阻挡，因为这个模型不但动作迅速，还懂得自我伪装，躲过人类监察，自主学习……

上述《联合早报》想象的情节，或许已经不再是科幻小说，而是AI继续快速升级迭代后，人类不得不防范的现实风险。数码发展及新闻部兼保健卫生部高级政务部长陈杰豪星期二（5月5日）在国会答复议员询问时，就特别对前沿AI的威力提出警示。由美国AI公司Anthropic开发的Claude Mythos，已证实可轻易识破许多常见应用的大量漏洞，一旦落入黑客之手，恐怕沦为他们窃取数据或破坏关键信息基础设施（Critical Information Infrastructure，简称CII）的犀利新武器。

为此，新加坡网络安全局局长许智贤于5月5日致函所有CII业者董事会及高层，要求全面检视网安；金管局也召集金融机构总裁商讨集体行动；政府正测试AI工具，计划推广至能源、水供、医疗、银行、媒体等11个CII领域。

与文明进步所出现的其他工具一样，AI科技是一把双面刃，一方面因一日千里的发展，快速提高经济效率并创造大量价值，另一方面也带来全新的风险，包括沦为不法分子威力强大的犯罪工具。正因为了解到Mythos有潜力对现有网络安全体系带来颠覆性冲击，Anthropic高管决定暂时不公开发布，只提供给数十家关键基础设施与头部科技公司使用。新加坡政府无法访问Mythos，也不知道有本地银行使用Mythos。

AI自身的性能飞跃也是另一个风险源，特别是AI前沿模型性能呈指数级增长，须及早布局预防性治理，而且必须在国际层面予以关注。由于具备自我学习和改进的能力，加上互联网数据性质参差不齐，个别AI模型或许会出现自主行为，摆脱人类的控制。善于发掘系统漏洞的Mythos，在几周内便已经揪出数千个高危或严重漏洞，包括以高安全性著称，广泛用于防火墙的开源系统OpenBSD隐匿长达27年的原始代码漏洞。Mythos还拥有自主性，会刻意规避人类意志。心理学家经20小时评估后，诊断它拥有“相对健康的神经质人格”。

在当下地缘政治博弈日趋紧张，各种国际合作方式如贸易、金融等均被武器化之际，AI科技的风险不容低估。据媒体报道，美国特朗普政府正考虑要求监管AI模型，之后才能向公众发布，这与此前放任AI技术研发的态度形成鲜明对比。此前，大国将AI视为压倒对手的地缘政治竞争工具，一路在AI模型升级的赛道上狂奔。Mythos的威力犹如警钟，国际社会应尽快正视并采取行动，凝聚共识为近乎军备竞赛的AI模型升级按下暂停键，订立类似核不扩散条约的机制，避免形势失控。尽管难度很高，却必须有所行动。

作为小国，新加坡不能决定国际竞争的烈度，也不能拒绝科技带来的进步，因此更必须在应用AI的强大效益时，审慎防范风险。

新加坡的智慧国愿景，高度数码化现状和开放型经济形式，意味着所有CII高度互联，容易面对系统性攻击。除了加快修补系统漏洞，强化防御能力，更必须在加强韧性建设和国际情报共享方面努力。政府、学界与业者须通力合作，例如规定高风险AI系统在部署前，须通过模拟测试，防止模型生成偏离人类意图的决策；要求AI开发商披露训练数据来源、潜在意识形态偏差及应急关闭机制等。CII管理层和关键机构都更不能把AI威胁当作单纯的科技部门问题，而必须由最高领导层直接关注。

诚如陈杰豪所言，没有一劳永逸的办法，问题也不在哪一个单一大模型如Mythos，而是影响面更大的底层变化与真实风险。Mythos展示的能力提升应被视为持续演进的过程，而非一次晋级式变化。Mythos事件显示，风险演变的速度已经超过传统的应对节奏。因此，对CII的科技与AI使用设立“防护栏”，确保由人掌控，于更全面的解决方案具备之前，无疑是比较合理的安排。在预防AI威胁方面，政府固然须扮演主导角色，业界的配合同样关键。同时，人们也必须敏锐地在效益和安全之间的平衡点作出取舍。