四道防线怎么配合
| 防线 | 机制 | 效果 |
|---|---|---|
| 锚定 | 业务问题只基于知识库作答 | 消灭「无中生有」的主要来源 |
| 引用 | 结论附原文出处 | 30 秒核验真伪 |
| 拒答 | 不知道就明说 | 宁可不说，不瞎说 |
| 复核 | 关键产出人工终审 | 最后责任人始终是人 |
哪些场景幻觉风险高，怎么分工
- 低风险：基于你资料的问答、文档整理、格式改写——锚定机制几乎消除风险；
- 中风险：市场数据、行业判断——必附来源，关键数字人工抽查；
- 高风险：法律条文适用、医疗建议、财务报送——一律人工复核后使用，这是写进使用规范的铁律。
比一比：它 vs 真人员工的「幻觉」
真人员工也会「幻觉」——记错数据、张冠李戴、凭印象回答，而且无法溯源。硅基员工的结构性优势是每句话带出处、每次作答可复现。管理上对它的正确期待不是「永不出错」，而是「错误可发现、可追溯、可纠正」——这比不可溯源的人为错误更好管。
你的两个好习惯，让它更可靠
- 重要数字随手点出处核验 30 秒——核验成本低到没理由不做；
- 发现错误当场纠正入库——纠错即训练，同类错误不再犯第二次。