人机协同(人在回路)
一句话解释
在 AI 执行的流程里保留人工确认的环节,关键决定由人拍板,AI 负责准备和执行。
不是所有步骤都适合全自动。涉及对外发布、付款、合同、删除数据这类出错代价大的操作,应设置人工确认。
人工确认的环节要少而准,放在最关键的位置;每一步都要人确认,AI 就省不了时间。
举个例子
智能体写好客户回访邮件后先放进草稿箱,销售确认后再发送。
相关术语
- 工作流(Workflow)Workflow
- 把一项工作拆成固定的几个步骤,按顺序交给 AI 或人执行,每一步的输入输出都事先定好。
- Agent(智能体)AI Agent
- 能自己读文件、调用工具、分步骤把一件事做完的 AI,区别于只回复一段文字的聊天 AI。
- AI 治理AI Governance
- 企业对 AI 使用的规则和管理:谁能用、能处理哪些数据、出了错谁负责、怎么记录和审计。