社论：人工智能的挑战与机会https://www.zaobao.com.sg/forum/editorial/story20231130-1453133

社论：人工智能的挑战与机会

https://www.zaobao.com.sg/forum/editorial/story20231130-1453133

2023-11-30

美国加州科技公司OpenAI首席执行官奥尔特曼最近被开除后旋又复职的戏剧性新闻，既不一般，也反映了持续演进中的人工智能（AI）对今后世界所将带来的深刻影响。

根据OpenAI公司传出的信息，事关奥尔特曼一味追究技术突破的工作风格，与其他董事考虑到兼顾社会责任之间的矛盾，这也恰是当前世界必须正视的巨大问题。例如，对缺乏技术能力的绝大多数发展中国家来说，AI所可能带来的生产链与就业机会被削弱甚至掏空的长期困境，将是前所未有的，一旦大幅推进，发达国家能利用AI广泛地重新发展各种制造业，不必再依赖廉价劳动力。

AI所带来的挑战，还不仅仅是在政治和经济层面，职场被颠覆、工作被夺走、贫富差距被拉大。OpenAI公司内部的纷争说明，发达国家政府和专业领域至今没有对AI的研发与使用达成监管共识，危害可能因此超出人们想象。

在法律监管方面，今年4月，包括世界首富马斯克在内的世界数以千计专家公开呼吁暂停进一步研究六个月，正是基于现在还无法预判AI技术反噬人类的潜在威胁，显见问题紧迫，但国际社会（重点是业界）仍不能凝聚共识。关键是AI课题高度复杂，在监管方面不能排除技术精英的专业意见，也必须兼顾投资人在利润与社会责任方面的生态平衡。

虽然，国际组织包括欧盟以及中国和美国等主要国家，目前都积极开展监管的制度建设工作，新加坡也贴近最新动态。不久前中美元首在旧金山的会面，便特地提到AI课题，显见其重要性。但立法必须掌握最新技术进展，这方面连业内精英也直言难以完全了解AI演算逻辑，因此政府必须保持清醒，国际知识界也要注意，避免先进技术领域出现公德意识不良、违背科研伦理，或存心破坏国际秩序与国际法的个人和组织，适时制止可能危害全人类的情况。

这是人类在应对AI所可能带来的挑战层面，涉及的问题主要是能不能在研发进程、应用和监管方面，尽快达成共识，开展有效有序的新阶段。另一个可能更棘手的层面是，AI是否会在发展过程中，自我演进出超越发明者所能控制的自我意识，这是连业内科学家都不敢断然否认，却最令人细思极恐的。1942年，著名科幻小说家阿西莫夫在短篇小说《环舞》（Runaround）中，首次提出针对机器人的三条定律：一是机器人不得伤害人类，或坐视人类受伤害；二是机器人必须服从人类命令，除非命令与第一法则发生冲突；三是在不违背第一或第二法则之下，机器人可以保护自己。但80年前小说家所能想象的机器人，终究是实体硬件系统，AI却涉及大量深度和快速自我学习能力与软件算法。目前科技界谈论中的GPT-5，据说就接近真人或具备超智慧。

因此，人类在快马加鞭研发AI之际，若不能如阿西莫夫制作定律般刻不容缓地凝聚共识，不排除可能遭遇反噬，危及人类福祉，包括野心家、恐怖组织甚至只是一小撮极聪明的科技专才，一旦没有底线地加以滥用，例如今天已经出现的深伪等破坏性技术，就可能在政治、经济乃至社会层面造成巨大伤害。如果结合黑客技术，深入军事层面，后果更是不可想象。

然而，科技进步总是伴随风险，而且因为缺乏国际共识，没有国家会主动暂停研究，让他国迎头赶上。虽然AI的不可测因素似乎比过往的机器发展更大，但无须因噎废食，只要及时做出调整，人类在很多领域将看到跨越式的正面发展。这包括经济上的生产力和效率大幅提升，必须改变的是如新加坡近年努力宣导的终身学习以及改变观念等，只要能学习应用AI技术，便有助于降低对职场的冲击。AI对社会生活、健康、交通、教育等方面的好处，都值得期待，但国家必须培养足够专业人才，掌控技术。

AI是不可逆的文明演进方向，每个国家都必须积极应对。重要的是，AI的发展是文明的一大步，人类文化可以多元，但这方面的技术鸿沟不应该持续扩大，乃至因缺乏共识而导致一些弱势国家与人民受伤害。