AI 不该单独决定的四件事
资金、权限、删除、对外发布:这四类动作,AI 可以提建议、起草、提示漏项,但不单独决定。
把 AI 接进业务,最容易出事的不是它答错,而是它直接动手。我们的做法是按「能不能撤回、影响多大」给动作分级,再决定谁来拍板。
四件事,AI 不单独决定
- 资金操作:扣款、退款、改余额。
- 权限变更:开通、收回、提升账号权限。
- 删除:删数据、删记录、删文件。
- 对外发布:对外回复、报价与付款条款、公开内容。
怎么分级
- 可撤回、影响小:AI 自主,例如线索分级、邮件分类、草稿生成。
- 可撤回、影响中:AI 提议,人批准,例如对外回复、写入业务系统、改库存。
- 不可撤回,或影响大:只能人决定,例如资金、权限变更、删除、对外发布。
真实产品里是这么做的
- 盲盒助手:AI 不开奖、不扣款,写入后台要批准。
- 直播助手:真人在席。
- 外贸邮件系统(验证中):回复草稿由人批准,不自动群发。
对外我们只说一句话:AI 判断,系统执行,人兜底。不说「AI 做决策」。