最近一段时间，”AI Agent”这个词几乎成了科技圈最时髦的概念。产品发布会上言必称Agent，播客里反复讨论”让AI帮你打工”，社交媒体上各种”我用AI自动化了整个工作流”的帖子刷屏。这股热潮有个更形象的说法——养小龙虾：像养宠物一样，养一批AI来替你干活。
听起来很美。但现实呢？
—— 砖家寄语
这段话说得很直白，但背后藏着一个被大多数人忽视的工程学问题。我们来认真拆解一下。
AI Agent的核心架构是：感知 → 规划 → 执行 → 反馈。听起来完整，实则每一步都有失控风险。
（模糊输入）
（可能误解）
（真实副作用）
（不可撤销）
（你发现时已晚）
LLM本质是概率预测机器，它在生成每一步计划时，都是在做”统计上最可能正确”的推断，而不是真正理解你的意图。当这个推断被赋予了文件读写、API调用、数据库修改的权限，任何一次小概率的误判，都会产生真实的、有时不可逆的后果。
大家谈Agent，谈得最多的是它能省多少时间。但很少有人认真算过：监督一个Agent，本身需要付出多少认知成本？
当Agent执行链路变长，你需要理解它每一步在做什么。但问题是：人类的注意力是有限的。一个Agent同时处理多个子任务，每个子任务又会调用不同工具，产生不同输出——你真的有足够的认知带宽全程跟踪吗？
更糟的情况是：你以为在监督，其实只是走了个形式。确认弹窗点”允许”，是很多人在不完全理解操作内容下的条件反射。这正是最危险的状态。
自动驾驶行业有一个著名概念——“自动化悖论”（Automation Paradox）：系统越自动化，人类驾驶员的技能越退化，一旦需要接管，反应更慢、错误更多。
AI Agent正在走同一条路。当你把越来越多的决策权交给Agent，你对任务本身的理解会逐渐变浅，而Agent出错时，你的纠错能力也会同步下降。
| 自动化程度 | 理想预期 | 现实情况 |
|---|---|---|
| 低（辅助建议） | 节省思考时间 | 效益稳定，可控 |
| 中（半自动执行） | 显著提效 | 监督成本上升，需谨慎 |
| 高（全自动Agent） | 解放双手 | 错误代价高，回溯困难 |
| 多Agent协同 | 并行处理，超级提效 | 调试地狱，错误传播，认知超载 |
为什么这么多人对Agent的期待如此高涨？几个典型的认知偏差在起作用：
① 演示效果偏差：你在视频里看到的Agent，是被精心挑选的成功案例，运行了几十次才录到那一次流畅的。
② 沉没成本偏差：花了时间搭建Agent工作流之后，人们倾向于相信它是有效的，而不去认真统计出错率。
③ 外包幻觉：把任务”交出去”本身就让人感觉轻松，即使你最终还是需要花时间检查和修复。
这不是说Agent没有价值，而是它的价值区间比大家以为的要窄得多。
真正适合Agent的场景，需要满足几个条件：任务边界清晰、操作可逆或低风险、失败有明确的检测机制、结果可以批量验证。比如定期数据抓取整理、固定格式文档生成、规则明确的内容分类——这些场景下，Agent确实省力。
而那些需要判断力、涉及外部系统写权限、或者错误代价高昂的任务，与其费力”驯龙虾”，不如自己动手更踏实。
AI时代最危险的不是AI太弱，而是我们对它的期待远超它真实的能力边界。理性的做法不是拒绝Agent，而是把它放在它真正擅长的地方，同时清醒地知道：人类的判断力和注意力，才是整个工作流里最贵的资源。
养小龙虾可以，但先想清楚：你养得起吗？
