AI代理安全風險警示︱完善治理體系＋強化網絡安全法律規範＋建立健康AI生態圈

　　隨著「AI 代理」（AI Agent）被訓練成具備感知、有思考與決策能力的數碼虛擬員工後，它那懂得自主規劃和執行各項複雜任務的優勢，早已逐步獲得認可，同時參與不少企業內部的運作，嚴如一隊虛擬同事。

　　早前一款俗稱「龍蝦」（Open Claw）的AI代理，因能透過核心大模型操控各種數碼工具，讓企業既可輕易地擴充Al代理團隊，又能把傳統員工轉型至高增值服務，市場瞬間對此趨之若鶩，一股「養龍蝦」熱潮順勢興起。各科技巨頭也趁機推出相關產品，例如智譜同時推出針對個人和企業級用戶的「龍蝦套餐」；阿里巴巴推出全球首個企業級AI代理平台「悟空」，宣稱可讓每個團隊、每間公司，都能擁有一支24小時工作的「龍蝦軍團」；騰訊推出具備企業級安全與管理性能的WorkBuddy，目標是將產品成為「職場AI助手+人人可用的生產力工具」，其設計能夠完全兼容 OpenClaw 的功能，讓各類智能產品重新整合，提供具「活人感」助理體驗，將AI能力應用到更豐富的場景。

　　然而，這股「養龍蝦」熱潮背後，卻潛藏著巨大風險。國家工業和信息化部網絡安全威脅和漏洞信息共享平台（NVDB）早於2月初已發現Open Claw極易引發網路攻擊、資訊洩露等安全問題，因而發出「龍蝦」安全風險預警提示，其後在3月又發布「六要六不要」建議，詳列風險場景及相關對策。然而當時無數網民仍盲目追捧，反映大部分用戶的安全及應用風險意識有待提升。

　　事實上，觀乎目前AI發展形勢，「管治先行」不但可應用於施政理念上，還可融入「全民AI培訓」中。為對接國家「十五五」規劃，香港政府最新財政預算案公布全方位推動AI+發展，當中建議撥款5000萬元實踐「全民AI培訓」，又計劃透過邀請不同公營機構聯同科技企業及大專院校，籌辦AI應用學習課程、講座及比賽，以提升學生、青年及公眾對AI的認知和運用技能，方向正確。然而香港目前欠缺完善的治理體系去支持AI發展，一旦有嚴重事故發生，就難以循法律途徑去糾正錯誤。

　　故此，我們應盡快完善本地的AI治理體系，制定AI標準規則和積極應對AI的風險，特別是提供全面網絡安全規範的法律配套。雖然政府有持續更新《人工智能道德框架》、《香港生成式人工智能技術及應用指引》等文件，為AI技術開發與應用提供符合香港情境的治理框架，涵蓋識別及管理相關潛在風險的原則與安全規範，但針對是否需以立法形式落實安全監管，目前仍未有定案，令人關注現行舉措是否足以應對複雜的安全威脅。

　　AI已成為振興全球經濟的動能，為社會及就業市場帶來新景象。惟社會各階層對AI的廣泛認知和安全應用，才是掌握新機遇的關鍵。筆者相信，只要大家能夠以積極的態度去應對科技發展，在促進發展和防範風險之間取得平衡，便可為香港建立一個健康有序的AI生態圈。