AI 治理
一句話解釋
企業對 AI 使用的規則和管理:誰能用、能處理哪些數據、出了錯誰負責、怎麼記錄和審計。
員工各自用 AI 時,企業不知道數據流到了哪裏、AI 寫的內容有沒有錯。AI 治理要明確幾件事:可用的工具清單、數據分級、需要人工確認的操作、日誌留存和定期檢查。
治理不是禁止使用,而是讓 AI 在可控的範圍內用起來。
舉個例子
公司規定:客戶聯繫方式不得發給外部 AI 工具;對外發布的 AI 內容必須經負責人確認;所有智能體操作保留日誌 180 天。
相關術語
- 人機協同(人在迴路)Human-in-the-Loop
- 在 AI 執行的流程裏保留人工確認的環節,關鍵決定由人拍板,AI 負責準備和執行。
- 私有化部署Private Deployment
- 把 AI 系統或模型安裝在企業自己的伺服器或專屬雲環境裏,數據不經過公共平台。
- 廣告法合規Advertising Law Compliance
- 營銷內容遵守《中華人民共和國廣告法》等規定,不使用絕對化用語、不虛假宣傳、特殊行業不越界。