2026年5月初，全球數千所學校使用的Canvas 學習管理平台遭駭客入侵。駭客組織聲稱竊取約 2.75 億師生資料。這不僅是資訊安全事件，更是一個警號：當AI與數碼平台成爲關鍵基礎設施的一部分，安全風險如何演變成信任危機，以及治理機制是否跟得上技術發展。

《2026 年國際人工智能安全報告》開篇便指出：通用型 AI 在數學、程式與自主運行上持續躍進，但風險證據常常滯後於能力。換句話說，技術跑得比制度快，我們可能還未完全準備好應對它帶來的後果，下一個漏洞也許會被寫進現實。這種在資訊安全領域已有更具體的提示：Anthropic 在最新的 Project Glasswing 的公告中指出，前沿模型的程式能力在尋找和利用軟件漏洞上達到極高的水平，超越除最頂尖人類以外的大部分專家，並使漏洞被發現與被利用的成本和門檻顯著下降，令整體風險升高。AI這把雙刃劍，正在同時放大安全缺口與信任危機，現實世界將如何受到影響、我們又該如何回應，成爲我們需要探討的問題。

UNESCO於2026年1月更新的《生成式人工智能教育與研究應用指南》亦強調，工具迭代速度已超過很多國家監管框架，相關機構需要以人為本，並按年齡限制與情景驗證AI工具的安全與教學適切性，並持續反思對知識、教學與評價的長期影響。

企業，尤其金融業，風險更直接。個人帳戶、交易紀錄、信用等級等任何一環出現漏洞，都可能導致身分冒用、信用盜刷或詐騙。2026年5月，兩家頂尖大模型開發商不約而同把重心推向企業核心工作流：Anthropic於5月5日發布面向金融服務的智能體模板，涵蓋製作簡報資料、盡職調查篩選、總帳對賬等工作流程；OpenAI於5月11日成立了OpenAI Deployment Company ，由前線部署工程師協助企業把模型連接到企業内部與控制機制，將AI系統落地在日常運行中可使用的生產系統。這些動向釋放的訊號很清晰：AI 正從回答問題走向進入流程和執行任務。值得注意的是，這類企業級落地通常也同時強調在有合規與風控框架下運作，但正因爲AI參與深度提升，這些安全性問題更需要被制度化，更需要經得住驗證並持續更新。

AI越來越進入企業工作流，安全與治理才需要更具體。當AI能夠在組織内自主執行任務，例如分析市場、生成風險提示、建議投資、甚至推動執行交易等相關步驟，一旦出現錯誤或被操控，哪怕只是一次被注入的惡意指令，或者只是一次權限設置不當，其影響將會呈現連鎖效應。在一些高風險領域，創新若要可持續，至少需要保留人的最終否決權，全程可審計的紀錄，以及清晰的責任鏈，這才能確保安全使用AI的同時，讓創新真正可持續，並建立可信任的機制。

《2026 年國際人工智能安全報告》將通用型人工智能風險主要分为三类：惡意使用、故障、系统性風險。更值得關注的是，這三類風險常在現實中交織出現。最表層的是人為濫用，即AI被惡意操控，這要求我們提高驗證門檻、權限管理與監控能力。第二類是故障風險，例如模型捏造、錯誤建議、或智能體在無人察覺時連續做出錯誤步驟等，這要求使用者具備辨識能力，將其輸出視作建議而非結論。第三類是系統性風險，當AI被大規模採用後，錯誤資訊或偏差可能會被流程化，並在平台和制度中固化，這要求我們將責任歸屬與治理邊界釐清，在關鍵的領域上保持更保守可控的部署。當三者交織時，一則假訊息可以被看似權威的AI摘要包裝，再被演算法放大，安全與信任就可能會在同一條時間線上同時崩塌。

面對這些交織的風險，單靠某一方面的努力並不足夠。企業可以用從「生態系統」視角來看：在個人層面，需要提升AI素養，不盲目相信AI生成的內容，同時謹慎處理個人資料；從組織層面看，若缺乏公平導向和清晰規範，AI可能會加劇不平等性，企業也需建立零信任架構並持續監控，相關政策的制定和公眾教育的重要性將同步上升；短期聚焦防外洩、防誤用、防失控；中期把AI倫理與人機互動設計納入相關產品與流程，長期則讓品質保證和風險治理過程中始終加入人類驗證環節。 資訊安全、AI安全等事件提醒我們，若使用者不知道資料的用途、風險與權益，也不清楚平台的信任機制與驗證基礎，類似的危機仍可能重演。在AI時代下，安全架構必須與企業治理理論和信任機制同步升級，個人守好資料與判斷、企業守好責任鏈、社會守好公平與透明，AI 才能真正為人所用，而不是反過來成爲風險的放大器。

撰文：

嶺南大學教學創新中心總監林敬新教授

嶺南大學教學創新中心高級研究主任黎文暉

參考資料：

相關報告和指南：

Anthropic (2026). Project Glasswing: Securing critical software for the AI era. Retrieve from https://www.anthropic.com/glasswing

Bengio, Y., Clare, S., Prunkl, C., Andriushchenko, M., Bucknall, B., Murray, M., ... & Mindermann, S. (2026). International AI safety report 2026 (2026 年國際人工智能安全報告). https://internationalaisafetyreport.org

UNESCO (2026). Guidance for generative AI in education and research. （生成式人工智能教育與研究應用指南） https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research