全书目录

附录 G：分章资料清单

G.77 第 39 章《常见误区：把 Agent 做成 prompt、做成玩具、做成黑箱》资料清单

6 分钟 2,374 字 第 133 / 161 个阅读单元

  1. Building Effective AI Agents 作者/机构：Anthropic 年份：2024 URL：https://www.anthropic.com/research/building-effective-agents 角度：从简单 workflow 起步、避免过度设计 采用原因：适合支撑“能力崇拜和过早复杂化是常见误区”。

  2. A practical guide to building agents 作者/机构：OpenAI 年份：2025 URL：https://openai.com/business/guides-and-resources/a-practical-guide-to-building-ai-agents/ 角度：清晰工具契约、人工审批、分阶段设计 采用原因：适合支撑“把系统做成玩具或黑箱通常来自设计顺序错误”。

  3. Safety in building agents 作者/机构：OpenAI 年份：2026 URL：https://platform.openai.com/docs/guides/agent-builder-safety 角度：guardrails、tool approvals、workflow evals 采用原因：适合支撑“把 Agent 做成无主自动化是治理缺位，不是能力问题”。

  4. ChatGPT Agent System Card 作者/机构：OpenAI 年份：2025 URL：https://openai.com/index/chatgpt-agent-system-card/ 角度：用户确认、监控、memory policy、terminal restrictions 采用原因：适合支撑“成熟系统会主动避免玩具化和黑箱化”。

  5. Claude 4 System Card 作者/机构：Anthropic 年份：2025 URL：https://assets.anthropic.com/m/6c940a1b69ed6a1c/original/Claude-4-System-Card.pdf 角度：agentic safety、监督与限制 采用原因：适合支撑“更强能力如果没有边界，只会放大风险”。

  6. AgentBench: Evaluating LLMs as Agents 作者/机构：Xiao Liu 等 年份：2024 URL：https://openreview.net/forum?id=zAdUB0aCTQ 角度：环境化评测暴露真实差距 采用原因：适合支撑“很多玩具式 Agent 一进真实环境就失败”。

  7. WebArena: A Realistic Web Environment for Building Autonomous Agents 作者/机构：Shuyan Zhou 等 年份：2024 URL：https://openreview.net/forum?id=zlsj9akpaa 角度：真实环境、可执行终态验证 采用原因：适合支撑“黑箱和 prompt 堆砌在真实任务中很快暴露问题”。

  8. AgentBoard: An Analytical Evaluation Board of Multi-turn LLM Agents 作者/机构：Chang Ma 等 年份：2024 URL：https://arxiv.org/abs/2401.13178 角度：轨迹分析、progress rate 采用原因：适合支撑“把系统做成黑箱会直接损失诊断和改进能力”。

  9. AgentPoison: Red-teaming LLM Agents via Poisoning Memory or Knowledge Bases 作者/机构：Zhaorun Chen 等 年份：2024 URL：https://arxiv.org/abs/2407.12784 角度：memory poisoning 采用原因：适合支撑“状态不治理会把系统推向长期失控”。

  10. AgentRewardBench: Evaluating Automatic Evaluations of Web Agent Trajectories 作者/机构：Xing Han Lu 等 年份：2025 URL：https://arxiv.org/abs/2504.08942 角度：trajectory、side effects、自动评测可靠性 采用原因：适合支撑“玩具化系统通常没有对过程与副作用的有效把握”。

  11. Designing AI agents to resist prompt injection 作者/机构：OpenAI 年份：2026 URL：https://openai.com/index/designing-agents-to-resist-prompt-injection/ 角度：不可信输入、最小权限、tool confirmation 采用原因：适合支撑“把规则全塞进 prompt 是最脆弱的设计误区之一”。

  12. Security Best Practices 作者/机构：Model Context Protocol 年份：2025 URL：https://modelcontextprotocol.io/docs/tutorials/security/security_best_practices 角度：scope、session、event injection、防 confused deputy 采用原因：适合支撑“无主自动化和黑箱化会直接扩散为权限与供应链问题”。