重點
- 94% 的香港企業已應用或試行 AI 系統。
- 僅有 36% 企業能提供 AI 決策過程的可靠紀錄。
- 企業在 AI 決策中面臨可追溯性不足的風險。
- 建立穩健的追溯框架對於安全使用 AI 至關重要。
Sumsub 近日公布的《Sumsub 亞太地區數碼信任現況：AI 治理基準報告》顯示，94% 的香港企業已經應用或正在試行多步驟的 AI 系統。然而，僅有 36% 的企業能夠提供可靠且不可篡改的紀錄，以解釋 AI 的決策過程，顯示出企業在 AI 治理方面仍面臨重大挑戰。
AI 決策的應用風險
報告指出，隨著 AI 代理的能力持續提升，企業在缺乏人類直接監督的情況下加快了 AI 決策的應用。然而，這也導致了決策過程的可追溯性不足，增加了合規、營運及客戶信任方面的風險。研究中提到的「問責不對稱問題」反映了企業在 AI 決策中承擔責任的能力不足，無法向監管機構或客戶清楚解釋 AI 如何做出決策。
根據調查，香港企業在 AI 治理方面的表現與亞太地區的其他國家相比，存在一些顯著的特點：
Sumsub 亞太區副總裁 Penny Chai 表示，香港企業在推動 AI 應用的策略上並不缺乏方向，但在擴展應用時仍需謹慎考慮決策的追溯機製，以降低潛在的營運風險。
建立追溯框架的重要性
隨著企業對 AI 應用的依賴增加，建立穩健的追溯及安全框架成為企業在高風險決策中安全使用 AI 的先決條件。報告建議，企業應推動結構轉型，應用統一的信任基礎架構，確保每項自動化行為均可追溯至獲授權的 AI 代理及負責監督的相關人員。
如欲了解更多詳情及下載《Sumsub 亞太地區數碼信任現況：AI 治理基準報告》，請訪問 Sumsub 官方網站。
香港企業 AI 應用的挑戰與機遇
雖然香港企業在 AI 應用上表現活躍，但其面臨的治理挑戰不容忽視。缺乏可追溯的決策證據使得企業在合規及客戶信任方面承受壓力。隨著 AI 技術的進步，企業必須採取措施建立完善的追溯機制，以降低風險並提升透明度。這不僅是滿足監管要求的需要，也是增強客戶信任的關鍵。