第十七章：AI 应用框架 —— 城市里开始上机器人

这一章里，把 AI 应用框架看成“机器人调度系统”。它不替代城市原有设施，而是在原有城市上加一层会思考、会找资料、会调用工具的新劳动力。

现代前后端已经不只是“Web + API + DB”了。

很多系统开始多了一层：

• LLM 调用
• 工具调用
• Agent 编排
• RAG
• 对话流

你可以先把 AI 技术栈分两层：

应用层：LangChain / LlamaIndex / Vercel AI SDK / Mastra
能力层：OpenAI API / Agents SDK

#LangChain —— 机器人流程编排厂

它擅长：

• Prompt 链路
• Tools
• Agents
• 工作流拼接

适合：

• 通用 agent 编排
• 多模型切换
• 工具链路比较复杂的场景

#LlamaIndex —— 知识仓库接入中心

它擅长：

• 文档接入
• 索引
• 检索
• RAG

如果你的核心问题是“企业私有数据怎么喂给模型”，通常先想 LlamaIndex 这类路线。

#Vercel AI SDK —— 前端 AI 交互快装层

import { generateText } from "ai";

const { text } = await generateText({
  model: "openai/gpt-5.4",
  prompt: "用一句话解释 RAG",
});

它适合：

• 流式聊天 UI
• AI-first Web 产品
• 全栈 JS 团队

它特别适合“现代 Web 前端怎么优雅接 AI”这个问题。

#Mastra —— AI 应用工程化平台

import { Agent } from "@mastra/core/agent";

export const testAgent = new Agent({
  id: "test-agent",
  name: "Test Agent",
  instructions: "You are a helpful assistant.",
  model: "openai/gpt-5.4",
});

它更像是：

• agent workflow
• typed tools
• AI 应用后端组织层
• memory / evals / observability 一体化

#OpenAI API / Agents SDK —— 能力层本体

import OpenAI from "openai";

const client = new OpenAI();

const response = await client.responses.create({
  model: "gpt-5.4",
  tools: [{ type: "web_search" }],
  input: "今天有什么积极新闻？",
});

它不是“把整个应用替你做完”，而是：

• 模型能力层
• 对话/工具/Agent 能力层

更准确地说：

• OpenAI API 解决“模型和工具怎么调用”
• Agents SDK 解决“agent、handoff、guardrails、sessions、tracing 怎么写”

AI 层和传统 Web 栈的关系：

传统 Web 栈负责：
  路由、权限、数据库、任务、监控、部署

AI 框架负责：
  提示词、检索、工具调用、agent 编排、流式输出

两者不是替代关系，是叠加关系

AI 框架速查：