人在回路
Human-in-the-loop
学到 会用 就够：能亲手用起来
你可能会说
“AI 可以连续做很多步骤，但哪些地方仍需要我来判断？把人工确认放进流程，怎样避免变成一堆没有意义的按钮？”
人在回路把人的判断安排在系统工作过程的关键节点，让人提供反馈、核查或决定下一步；价值取决于审查材料和介入时机，而不是确认次数。
使用 AI
科研里的例子
AI 先整理争议编码及原文片段，让你决定边界规则；明确规则后再批量处理类似材料，减少每一条都重复问同样问题。
人工节点适合处理含糊目标、证据冲突和影响较大的外部动作，也可用抽样质检控制批量错误。要让介入有效，系统应先准备具体可审查的对象、差异与证据，说明需要人判断什么。若界面只问“是否继续”而不展示真实内容，用户容易机械确认。科研里的理论选择、数据口径与结论强度，通常需要人保有实质责任，不能让点确认代替理解。
判断
亲手检查一次
检查每个人工节点是否展示必要材料、决策范围和后果，并用已知错例验证人能发现问题，而非只记录点击通过。
它做不到的
有人参与不自动保证安全或质量，人可能看不出错误或受到自动化偏见影响；确认操作也不能替代真正的证据检查。
增量，由你来写
读完这张，你的理解变了什么？
留言功能会在后面的版本开放。现在可以先在 X 上 @knowledgedelta 告诉我。
来源
- OWASP — LLM01:2025 Prompt Injection2026-11-06 核对
- ChatGPT Learn — Sandbox2026-11-06 核对
卡片底稿由 AI 协助整理，经过核对；发现错误请告诉我。