Agentic Engineering · · 5 min
何时不应使用自主代理 (4个现实生活中的禁忌症)
了解在生产环境中实施自主代理会带来灾难性失败的4个场景，以及取而代之应该使用什么。
Fabiano Brito
AI Engineer
TL;DR
自主代理是强大的编排工具，但它们在不可逆转的金融交易、带有法律偏见的决定、低延迟和主观任务中会崩溃。在这些场景中，请使用传统的确定性流程。
围绕代理工程的兴奋使我们想把LLM放在公司绝对所有流程的方向盘上。然而，现实世界中的失败率给我们上了沉重的一课。
根据最近的研究以及行业领导者（如Addy Osmani和Simon Willison）的经验，将完全自治的权限委派出去并不总是正确的答案。
1
不可逆转的金融交易
在没有人工参与或严格防护栏的情况下转移资金，对于概率编排器来说是一个不可接受的系统性风险。
2
具有法律或监管偏见的决策
信贷审批、解雇或健康分诊需要确切和有保证的算法可解释性，这是黑盒模型无法提供的。
3
低于200毫秒的关键流量
复杂推理链（CoT/ReAct）中的LLM会插入几秒钟的延迟。要获得真正即时的用户体验，请首选经典的启发式方法。
4
没有紧密循环的主观评估任务
在没有持续的人工反馈的情况下评估“品牌基调”或“精美设计”，很快就会退化为平庸的结果和风格的幻觉。
⚠️ 常见陷阱
最大的架构错误是使用多步代理 (ReAct) 来提取结构化数据，而这些数据本可以通过在 LLM API 中调用一个简单的强制 JSON 提取（结构化输出）来解决。在没有动态计划的地方，不要强行使用代理。
当通向最终结果的确切路径未知时，您需要一个代理。当路径是确定性时，您需要经典的代码。