全书目录

附录 G:分章资料清单

G.60 第 30 章正文采用的核心来源

2 分钟 504 字 第 116 / 161 个阅读单元
  • 官方成本与延迟优化主轴:OpenAI Latency optimization / Batch API / Prompt Caching、Anthropic Prompt caching / Token-efficient tool use / Maximizing parallel tool use
  • 并发、排队与尾延迟主轴:The Tail at ScaleSEDA、AWS Avoiding insurmountable queue backlogs、Google SRE Handling Overload
  • 容错与失败处理主轴:AWS Timeouts, retries, and backoff with jitter、Martin Fowler Circuit Breaker
  • 模型路由与成本优化主轴:FrugalGPTRouteLLM
  • 运行期稳定性与观测主轴:NIST GenAI Profile、AWS Observability and session replay
  • 本章落点主轴:Agent 的生产可行性取决于单位任务经济性,而单位任务经济性由成本、尾延迟、并发排队和失败恢复共同决定