人機協同(人在迴路)
一句話解釋
在 AI 執行的流程裏保留人工確認的環節,關鍵決定由人拍板,AI 負責準備和執行。
不是所有步驟都適合全自動。涉及對外發布、付款、合同、刪除數據這類出錯代價大的操作,應設置人工確認。
人工確認的環節要少而準,放在最關鍵的位置;每一步都要人確認,AI 就省不了時間。
舉個例子
智能體寫好客戶回訪郵件後先放進草稿箱,銷售確認後再發送。
相關術語
- 工作流(Workflow)Workflow
- 把一項工作拆成固定的幾個步驟,按順序交給 AI 或人執行,每一步的輸入輸出都事先定好。
- Agent(智能體)AI Agent
- 能自己讀文件、調用工具、分步驟把一件事做完的 AI,區別於只回復一段文字的聊天 AI。
- AI 治理AI Governance
- 企業對 AI 使用的規則和管理:誰能用、能處理哪些數據、出了錯誰負責、怎麼記錄和審計。