刊于《信报》，2026年7月6日
数字系统崩溃风险隐患堪虞
许佳龙
科大协理副校长（学术发展）；信息、商业统计及营运学系讲座教授；艾礼文家族商学教授
不久前，联合国减少灾害风险办公室（UNDDR）、国际电讯联盟（ITU）和巴黎政治学院联合发布了一份题为《当数字系统崩溃：数字世界的隐性风险》（When Digital System fails: An expert report on the hidden risks of our digital world>‧下简称《报告》）指出，随着社会对数字技术的依赖日益加深，数字系统的互连性也愈来愈强大，一旦发生自然灾难或不可逆料的意外，互连数字系统的脆弱性便马上暴露无遗，出现崩溃危机。
有关互连数字系统的风险，笔者过去曾撰文，指出在信息保安层面，这种互连互通系统使外部世界变得更为复杂；也令所有大机构、政府机关，公共系统以至市民等受潜在系统冲击的脆弱性，在在凸显出来。由于冲击造成的破坏性牵一发动全身，有机会造成跨系统和边界的灾难性后果，因此，备份系统和操作非常重要，尤其在几年前勒索软件威胁异常猖獗下，当个别系统的运行遭勒索软件「锁住」，必须有另一套非数字化的仿真系统，能够把危机化解。
互连系统漏洞风险可忧
这份《报告》其实是针对类似问题作进一步引伸，梳理出全球日益互连系统中的关键漏洞，例如一场严重的太阳风暴，可能使卫星瘫痪，扰乱导航系统；此外，极端气温可能会使数据中心不堪重负，导致移动服务中断，并引发医疗卫生系统和金融交易出现故障；再者，地震或其他自然灾害可能切断重要的互联网连接，推迟甚至中断商业运营。
有关风险的系统性特征，笔者拟提出两个问题同读者分享个人的观点，其一，过往，当人们觉察系统隐含这些潜在风险或脆弱性，会作备份系统。若然担心在地发生自然灾害，破坏系统，会把备用系统或备用通讯网络，放到卫星上，移置太空。以往，对大部分机构来说，卫星通讯本身就是一个备用方案，以应对自然灾害的破坏。
随着近年的发展，流动通讯由5G迈向6G，愈来愈多通讯设备和科技发展，实现了不同层面的通讯系统互相协调。目前，通讯不再依赖地面的电䌫，而是透过地面光纤与基地台，配合低空经济的无人机、空中飞行的飞机，扩展了网络的覆盖范围；加上低轨卫星，连接成为一个复杂的网络，大大提升了通讯的速度和流量承载力。
备用系统变成前线系统
然而，这结果带来一个问题——以前的卫星备用系统，如今已变成前线实时应用的其中一个通讯网络，这样一来，当地面上的通讯系统受到自然灾害冲击而损毁，过往，我们还有卫星上的系统作备份方案，足以冲销自然灾害对系统造成的破坏，可是，如今我们能够用什么样的备份，来抵御自然灾害或不可逆料意外对当前系统带来的破坏？这是一个很值得各方去深思的问题。
联合国减少灾害风险办公室负责人卡迈勒‧基肖尔（Kamal Kishore）提出，「我们必须在规划、建设和维护数字基础设施时，考虑到现在和未来的系统性风险；数字基础设施必须是具有复原力的基础设施」。追本溯源，《报告》提出了多项应对风险的优先事项，大致与笔者过往的建议如出一辙，即需要有一个非数字化的摸拟系统，随时可以运作，以应对风险。值得强调，当备份系统变成前线系统，下一步的备份如何往前走下去？问题实在值得思索，也不容回避。
AI系统性风险破坏力更大
第二个笔者拟同读者分享的观点，是关于人工智能（AI）风险。目前，AI不断渗透到我们常生活和工作之中，很多任务从人类手中转由AI处理。这个结果也带来了AI自身的系统性风险，譬如，我们近日看到不少报导，揭示愈来愈多人用AI来撰写计算机程序。问题是，当使用AI撰写程序，程序设计师很难掌握AI撰写的程序结构和逻辑，遑论对程序进行有效侦错（debug）。
换言之，一旦由AI部署程序代码，所完成的编程，日后要进行迭代、更新或提升效能，除了继续沿用原来的AI助手，其他人都很难理解程序个中的结构和逻辑，以致无法入手处理，从而对程序的长远性维系工作、升级应用很困难。
若再把这种AI风险纳入报告所提及的系统性风险之中，则这个由AI编成的计算机程序，会使得无论是太阳风暴、极端天气、地震自然灾害等对系统造成的各类风险，马上以指数式倍增，因为在此刻，当程序仍然是由人手编写，则一旦出现危机而启用的备用系统，还可以随时由人手及早侦出错漏所在，及时调整和复修。但将来当所有系统程序由AI编成，则无论是现用或备用的程序系统，都不容易及时侦错，对危难事件及时反应（Incident response），当纠错工序延宕，势必令原来风险所触发的破坏性倍增。
必答题尚无答案
因此，当机构或企业计划设置自身的信息系统保安时，必须考虑，若引入AI编程，未来的系统维系、保安和应对危机风险的时间性反应，一定程度上有机会受到影响，因此必须提早作出应对准备，把受影响的可能结果进行量化，反复进行防御演习，以保证当系统出现问题时，能够使用人手及时修正，而非只仰赖AI来支撑全局。至于备份系统如何形成，需要甚么，于目前一刻仍未有答案。