刊於《信報》，2026年7月6日
數字系統崩潰風險隱患堪虞
許佳龍
科大協理副校長（學術發展）；資訊、商業統計及營運學系講座教授；艾禮文家族商學教授
不久前，聯合國減少災害風險辦公室（UNDDR）、國際電訊聯盟（ITU）和巴黎政治學院聯合發布了一份題為《當數字系統崩潰：數字世界的隱性風險》（When Digital System fails: An expert report on the hidden risks of our digital world>‧下簡稱《報告》）指出，隨着社會對數字技術的依賴日益加深，數字系統的互連性也愈來愈強大，一旦發生自然災難或不可逆料的意外，互連數字系統的脆弱性便馬上暴露無遺，出現崩潰危機。
有關互連數字系統的風險，筆者過去曾撰文，指出在資訊保安層面，這種互連互通系統使外部世界變得更為複雜；也令所有大機構、政府機關，公共系統以至市民等受潛在系統衝擊的脆弱性，在在凸顯出來。由於衝擊造成的破壞性牽一髮動全身，有機會造成跨系統和邊界的災難性後果，因此，備份系統和操作非常重要，尤其在幾年前勒索軟件威脅異常猖獗下，當個別系統的運行遭勒索軟件「鎖住」，必須有另一套非數字化的模擬系統，能夠把危機化解。
互連系統漏洞風險可憂
這份《報告》其實是針對類似問題作進一步引伸，梳理出全球日益互連系統中的關鍵漏洞，例如一場嚴重的太陽風暴，可能使衛星癱瘓，擾亂導航系統；此外，極端氣溫可能會使數據中心不堪重負，導致移動服務中斷，並引發醫療衛生系統和金融交易出現故障；再者，地震或其他自然災害可能切斷重要的互聯網連接，延緩甚至中斷商業運營。
有關風險的系統性特徵，筆者擬提出兩個問題同讀者分享個人的觀點，其一，過往，當人們覺察系統隱含這些潛在風險或脆弱性，會作備份系統。若然擔心在地發生自然災害，破壞系統，會把備用系統或備用通訊網絡，放到衛星上，移置太空。以往，對大部分機構來說，衛星通訊本身就是一個備用方案，以應對自然災害的破壞。
隨着近年的發展，流動通訊由5G邁向6G，愈來愈多通訊設備和科技發展，實現了不同層面的通訊系統互相協調。目前，通訊不再依賴地面的電䌫，而是透過地面光纖與基地台，配合低空經濟的無人機、空中飛行的飛機，擴展了網絡的覆蓋範圍；加上低軌衛星，連接成為一個複雜的網絡，大大提升了通訊的速度和流量承載力。
備用系統變成前線系統
然而，這結果帶來一個問題——以前的衛星備用系統，如今已變成前線即時應用的其中一個通訊網絡，這樣一來，當地面上的通訊系統受到自然災害衝擊而損毀，過往，我們還有衛星上的系統作備份方案，足以沖銷自然災害對系統造成的破壞，可是，如今我們能夠用什麼樣的備份，來抵禦自然災害或不可逆料意外對當前系統帶來的破壞？這是一個很值得各方去深思的問題。
聯合國減少災害風險辦公室負責人卡邁勒‧基肖爾（Kamal Kishore）提出，「我們必須在規劃、建設和維護數字基礎設施時，考慮到現在和未來的系統性風險；數字基礎設施必須是具有復原力的基礎設施」。追本溯源，《報告》提出了多項應對風險的優先事項，大致與筆者過往的建議如出一轍，即需要有一個非數字化的摸擬系統，隨時可以運作，以應對風險。值得強調，當備份系統變成前線系統，下一步的備份如何往前走下去？問題實在值得思索，也不容迴避。
AI系統性風險破壞力更大
第二個筆者擬同讀者分享的觀點，是關於人工智能（AI）風險。目前，AI不斷滲透到我們常生活和工作之中，很多任務從人類手中轉由AI處理。這個結果也帶來了AI自身的系統性風險，譬如，我們近日看到不少報導，揭示愈來愈多人用AI來撰寫電腦程式。問題是，當使用AI撰寫程式，程式設計師很難掌握AI撰寫的程序結構和邏輯，遑論對程式進行有效偵錯（debug）。
換言之，一旦由AI部署程式碼，所完成的編程，日後要進行迭代、更新或提升效能，除了繼續沿用原來的AI助手，其他人都很難理解程式箇中的結構和邏輯，以致無法入手處理，從而對程式的長遠性維繫工作、升級應用很困難。
若再把這種AI風險納入報告所提及的系統性風險之中，則這個由AI編成的電腦程式，會使得無論是太陽風暴、極端天氣、地震自然災害等對系統造成的各類風險，馬上以指數式倍增，因為在此刻，當程式仍然是由人手編寫，則一旦出現危機而啟用的備用系統，還可以隨時由人手及早偵出錯漏所在，及時調整和復修。但將來當所有系統程式由AI編成，則無論是現用或備用的程式系統，都不容易及時偵錯，對危難事件及時反應（Incident response），當糾錯工序延宕，勢必令原來風險所觸發的破壞性倍增。
必答題尚無答案
因此，當機構或企業計劃設置自身的資訊系統保安時，必須考慮，若引入AI編程，未來的系統維繫、保安和應對危機風險的時間性反應，一定程度上有機會受到影響，因此必須提早作出應對準備，把受影響的可能結果進行量化，反覆進行防禦演習，以保証當系統出現問題時，能夠使用人手及時修正，而非只仰賴AI來支撐全局。至於備份系統如何形成，需要甚麼，於目前一刻仍未有答案。