香港人工智能總會（AIHK）近日發布《企業及機構負責任採用人工智能指引》，為企業及機構提供一套自願性、可執行的AI治理框架。AIHK創辦人兼主席陳文理（Neil Tan）指出，現時不少機構正面對兩難：一方面擔心企業內的AI應用趕不止進度而錯失商機；另一方面又擔心在缺乏足夠保障下倉卒部署，最終造成難以挽回的風險。

AI治理不能只靠原則

Neil 在發布會上表示，AIHK希望將AI治理「制度化」，協助香港成為全球企業及機構負責任應用AI的指標。他強調，這套指引並非要取代法律，也不是要企業追求「零風險」，而是提供一個務實的營運模式，讓機構在知情、可問責的前提下，安全有效地將AI應用於企業各個範疇。

「政府就如道路和規則，而AIHK就是道路之間的橋樑。」Neil 形容，法規、監管要求及政府政策是企業必須遵守的底線；但在監管框架仍在發展之際，企業需要一套可立即落實的內部治理工具，以釐清「甚麼可以做、甚麼不可以做、出錯時由誰負責」。

AIHK的指引讓企業按自身規模、風險承受能力及合規成本等因素，自行決定如何採納應用。不過，Neil 提醒，無論企業規模大小，法律合規始終是基本要求；AIHK的指引則是在合法基礎上，進一步協助企業建立審慎、可持續的AI應用方式。

AI Agent帶來新風險

Neil 認為，近兩年AI迅速發展，當中關鍵是AI正由「生成內容」到「採取行動」。由協助撰寫電郵、製作powerpoint，到今時今日 AI Agent可能已獲授權，能無限制登入並使用企業的系統、讀取客戶資料、執行決策指令，甚至代表企業對外溝通。

這種發展方向的轉變，令傳統的資訊科技風除控制規範不再足夠保障企業的安全。若一個AI Agent獲准使用公司信用卡或存取銀行帳戶，一旦出現錯誤交易、資料外洩或越權操作，責任應由誰承擔？企業又能否及時停止其運作？這些問題，正是AI治理必須回答的核心。

Neil 特別提出「KYA」（Know Your Agent，認識你的AI代理）概念，他並視之為未來三至五年企業治理的重要課題。正如金融業有「認識你的客戶」（KYC）及「認識你的業務」（KYB），企業在部署AI Agent前，亦須清楚掌握其用途、權限、可存取的系統、可執行的交易、禁止行為，以及緊急停止機制。

按風險訂立管控

指引的核心原則之一，是「管控須與風險相稱」。Neil 以規模、能力及風險三個範疇解釋：小型企業與大型銀行、公用事業或金融市場基礎設施，規模與行業不同，所需的治理深度亦不一；不過只要是涉及金錢、人身安全、個人權利或關鍵系統的AI應用，都必須採取更嚴格的管控。「例如，一家小型零售商使用AI協助製作宣傳素材，與一家銀行以AI Agent處理客戶交易或信貸審批，兩者的風險等級截然不同。前者或可從基本資料保安、員工使用守則及供應商審查入手；後者則須建立更完整的授權、審批、監察、事故應變及審計機制。

這種「按風險分級」的思路，亦與香港金融管理局近期發布的《負責任採用人工智能》監管指引互相呼應。金管局提出的「ART」框架，包括問責（Accountability）、韌性（Resilience）及信任（Trust），要求認可機構為每個AI應用案例釐清擁有權、決策權限及持續監察安排。

90日建立基礎

有別於不少只停留於原則層面的AI治理文件，AIHK指引特別強調「可執行性」，並提出90日起步計劃。Neil 認為，企業不應只把指引「讀完就算」，而應盡快將治理要求轉化為具體行動。

企業可從四個步驟入手：

● 釐清權責：為每個重要AI應用或AI Agent，指定一名問責主管及業務負責人，避免多個部門共同使用卻無人最終負責。 ● 訂立規則：列明可使用的AI工具、可存取的資料範圍、員工使用守則、敏感資料處理限制及上報渠道。 ● 盤點與應變：建立AI應用清單，評估風險，並預先設計事故應變程序，包括如何暫停、回復或撤回AI系統。 ● 培訓與審批：為員工提供實務培訓，並在正式部署前設定測試、審批及持續監察要求。

陳文理指出，員工培訓尤其關鍵。不少員工對AI仍存有「會否被取代」的憂慮，企業若只推出工具而不協助員工理解其用途、限制及風險，AI應用便難以真正融入業務流程。

覆蓋金融至中小企

指引適用對象並不限於大型企業或金融機構，亦涵蓋上市公司、中小企、專業團體、大學及非政府組織。應用範圍包括金融服務、資產管理、保險、數字資產、網絡安全、能源、醫療、法律、製造、物流運輸，以及零售消費等領域。

對於中小企而言，指引並非要複製大型企業的合規架構，而是鼓勵其按業務實際需要，建立基本但有效的防護。Neil 表示，AIHK刻意不按營業額或員工數目設立硬性門檻，正是希望保留彈性，讓企業可按自身風險及資源，決定採納的深度。

事實上，政府亦正推動不同界別建立AI應用指引及治理框架。數字政策辦公室已發布《人工智能道德框架》及《香港生成式人工智能技術及應用指引》，並計劃於明年與香港人工智能研發研究所合作，推出適用於社會整體的AI Agent安全管理指引。

及早建立信任將成競爭優勢

陳文理認為，AI治理並不應阻礙創新，而是成為建立市場信任的基礎。當AI生成內容愈來愈像真，消費者、客戶及合作夥伴將更重視企業能否證明其AI應用安全、透明及可靠；能夠率先建立治理能力的企業，反而可將信任轉化為競爭優勢。他亦預期，AI技術的演進速度仍會遠超監管步伐。未來企業面對的，將不止是單一AI Agent，而是多個Agent互相協作、跨系統執行任務的「多代理」環境。屆時，權限管理、跨系統監察、事故追溯及責任分配，將成為企業治理更複雜的挑戰。

對香港企業而言，AI競賽的關鍵，或許不再只是誰最先採用AI，而是誰能在創新與安全之間，建立一套讓客戶、員工、監管機構及市場均可信賴的治理體系。在AI Agent時代，這套「安全護欄」，將決定企業能走多遠。