中文“AI 味”是怎样被训练出来的?
开源中文写作 Skill:Chinese Prose Style
这套 Skill 首轮只使用按优先级排列的通用规则,先检查事实来源、全文主问题和句子之间的对象交接。只有用户反复否定修改结果,或者通用规则无法解释冲突时,才读取案例参考。
模型怎样学会行动,以及谁替它定义“做成了”。
这句话读起来顺,也像一条明确的结论。仔细看,信息并不充分。“学会行动”没有说明训练改变了哪个量;“谁替它定义”把评测系统写成了一个人;引号里的“做成了”又增加了一点刻意的口语感。
更准确的表达是:
训练提高某些工具调用和代码修改被选择的概率,评测环境决定哪些结果被计为成功。
训练改变输出概率,评测环境提供成功标准。原句用比喻替代了这两个可以核对的机制。
中文读者所说的“AI 味”,经常包含这种情况。文字语法正确,结构也完整,但排比制造了节奏,抽象名词省略了动作,比喻代替了因果。读者看到的是结论的语气,找不到得出结论所需的事实。
这种文风没有一个单独来源。预训练决定哪些中文结构容易出现,监督微调提供回答范本,偏好数据再选择其中更容易得到高分的形式。数据生产被外包以后,任务说明和质量指标还会影响标注结果。模型生成的数据进入下一代训练集,又会继续传播已经形成的表达习惯。
把这些现象全部归因于 RLHF,同样过于简单。现有实验能确认指令微调后的模型出现了更稳定的回答体,也能确认奖励模型偏爱某些格式,但还不能把一个中文比喻追溯到某轮具体训练。观察、实验结果和推断需要分开。
中文互联网先看到了哪些重复结构
不少中文作者已经开始记录这些问题,只是他们使用的证据强度不同。
完整结构不能代替判断,清单要说明先看什么;例子和“研究表明”都应有可核对的来源。这篇知乎文章把相关问题拆成了 12 条。
这 12 条不是 12 种互相独立的模型缺陷。文章本身也采用编号、小标题、解释、例子和一句小结的固定结构,最后再归并成三类。这种写法适合一篇供人检索的指南,不能因为结构整齐就判断它有 AI 味。真正的问题是结构是否服务任务,以及各部分有没有信息上的主次。
“观点太安全”和“例子不落地”还需要更准确的标准。强烈立场不等于真实判断;证据不足时,保留意见反而更负责。案例写上时间、数字和人物也不会自动变真,模型完全可以生成具体但不存在的细节。文章需要在证据允许的范围内作出取舍,案例中的细节则必须能追溯到原稿或来源。
“作者认知边界”可以改写成可检查的证据边界,不必解释成 AI 没有自觉。可以观察的是,模型使用了多确定的语气,以及这种语气是否符合证据。EMNLP 2025 的研究发现,模型文字中表达的不确定性与语义不确定性只有中等相关;两者错配比单看语义不确定性更能预测幻觉。研究者在推理时校准这种错配,短回答里的高置信错误平均相对减少约 30%。Calibrating Verbal Uncertainty as a Linear Feature
Nature 2024 的语义熵研究从同一问题的多次回答中比较含义差异,可以发现一类随采样变化的错误,并让系统在高风险问题上拒答。Detecting hallucinations in large language models using semantic entropy 它检测不了所有持续一致的错误。这说明“暴露边界”不能只靠加一句“我可能不对”,仍要核对来源,并在证据结束处缩小结论。
另一篇科普文章把“AI 味”概括为语言浮夸、情感克制、结构刻板和内容宽泛。这四项描述容易让读者认出熟悉的文本,却不能直接解释成因。文章说模型逐词选择最“安全”的表达,实际生成过程是按条件概率和解码策略选取 token;它还把中文文风归因于新闻、百科和论文占据训练语料,但闭源模型没有公开足以支持这一比例判断的完整语料清单。
这篇科普文连续使用兑水可乐、稳健投资者、汽车生产线和手工艺人来解释同一个问题,也暴露出另一种困难。比喻让观点容易记住,却可能跳过可检验的中间步骤。讨论训练机制时,需要把比喻改回语料、目标函数和评测数据。
RUC 新闻坊收集了小红书上 142 条相关笔记,从中编码出 215 条对“AI 味”的描述。三段式、翻译腔和频繁使用拟人或比喻,是样本中最常出现的判断。他们又让 7 个模型完成同一道高考作文题,与学生范文比较。常被当成 AI 标记的破折号和引号没有表现出可靠差异;在这组样本里,模型使用的对偶、排比和比喻更多。拆解“AI 味”:我们为何反感 AI 写作?
这不是经过同行评审的通用结论。作文题只有一种,提示和模型版本也会影响结果。单个标点不能可靠识别 AI 文本,这组调查记录到的反感主要指向多种结构连续重复。
少数派一篇实践文章用相同材料重写旧稿,逐项记录了 不是 A,而是 B、延伸过长的比喻、完全相同的章节结构和程式化过渡。作者加入写作 Skill 后,主观估计重度“AI 味”减少了四到五成,但没有盲评或统一量表,修改后的文章也没有摆脱所有对称句。AI + Skill,能够让生成的文章去除 AI 味吗?
“四到五成”没有统一量表,失败部分更值得参考。禁止破折号可能让模型换一种模板,增加更多禁词也可能产生新的固定写法。审校应检查一句话是否忠于材料,以及一个比喻有没有替代机制,不能只统计标点。
另一篇文章逐句标注了十几部 AI 短篇,把很多固定句式归因于英译中。“AI 味”的本质是什么? 这是一项作者经验,足以提出“翻译腔”假设,不足以证明它是唯一原因。
先区分现象和原因
AI 文本检测研究能告诉我们哪些统计特征经常一起出现,不能单独证明这些特征为什么出现。
CCL 2025 的一项研究收集了 463,382 条微博评论,比较 LLM 机器人和真实用户的中文表达。研究者利用文体特征训练的分类器取得了 91.8% 的 F1 分数。这说明两组文本存在可识别的分布差异,不等于每个被识别的句子都一定由 AI 生成。Linguistic Differences between AI and Human Comments in Weibo
另一项跨领域中文研究比较 DeepSeek R1、Phi-4 和 Qwen 2.5 的生成文本与人类文本。句长变化较小、标点密集和词汇选择重复,与模型生成组更相关;不过,不同模型的可检测程度并不相同,Qwen 2.5 更难判断。Research on AI-generated Chinese text detection
所以,顿号多、句子整齐或者常用“此外”,都只能作为编辑线索。它们不是可靠的作者鉴定方法,也不是应该机械删除的词表。真正要解释的是:为什么若干模型会反复选择相似结构。
预训练提供中文表达的初始概率
基础语言模型根据前文预测下一个 token。训练目标可以写成:
是训练语料, 是当前位置的 token,也就是模型处理的一小段文字。 表示模型按当前参数给出的概率。训练不断降低公式里的损失,使语料中实际出现的 token 更可能被预测出来。这个目标不判断一句话有没有“人味”,只拟合语料中的统计关系。
封闭模型没有公开完整中文语料构成,因此不能直接断言某一种公文或新闻体裁占了多少比例。能够确定的是,网络文本、百科、新闻、论文和问答材料都大量使用规范书面语。它们为模型提供了稳定的主谓结构、显式连接词和完整论证格式。当前文没有明确作者声音时,这些高频结构更容易被采样出来。
预训练不是全部原因。人类原始文本本来包含大量不规则表达,后续训练还会重新调整它们的概率。
翻译和监督微调会改变中文句法
很多中文指令数据并非直接由中文作者撰写。公开项目给出了具体例子。BELLE 的早期说明写明,其中文微调只使用 ChatGPT 生成的数据。BELLE Alpaca-CoT 收录的 alpaca_gpt4_data_zh 来自先把 Alpaca 提示翻译成中文,再由 GPT-4 生成回答;另一组中文思维链数据由 Google Translate 从英文数据翻译而来。Alpaca-CoT 数据说明
这些公开数据不能代表所有商业模型,却证明这种做法已经被实际采用:英文任务模板经过机器翻译或模型生成,随后成为中文模型的监督样本。源语言的句法和任务格式因此可能进入中文输出。
ACL 2025 的研究进一步发现,即使基础模型已经在大量自然语言上预训练,监督微调仍会引入过度直译和不自然表达。研究者清洗参考译文并过滤不自然样本后,翻译腔显著减少。Lost in Literalism
英译中的对照实验也观察到稳定差异。ChatGPT 3.5 倾向保留更长的句子,人类译者更常把复杂句拆开,也更常把英文被动句改成中文主动句。What are the differences?
中文 AI 文本中的长句和显式结构,有一部分可能来自监督数据的翻译方式。它不能解释所有排比,也不能证明某个商业模型直接使用了上述数据集。
一项 PNAS 研究从英文语料中取出 12,000 篇跨体裁文本,让 GPT-4o 和多种 Llama 3 模型续写,再与人类原文比较。即使提示要求模仿原文风格,指令微调模型仍然更偏向信息密集、名词较多的句法。GPT-4o 的名词化表达约为人类的 2.1 倍,短语并列约为 1.9 倍。Llama 的基座模型反而更接近人类语料,模型大小带来的文体差异没有后训练带来的差异明显。Do LLMs write like humans?
这项研究不是中文实验,也没有把监督微调、偏好优化和其他后训练步骤逐一拆开。它能支持的结论是:可辨认的统一文风不只来自预训练,指令训练过程会明显改变输出形式。
ICLR 2024 的一项协作写作实验观察到了内容趋同。38 名英语写作者围绕 10 个议题完成 300 篇短文,分别独立写作、使用 GPT-3 基座模型或使用 InstructGPT。InstructGPT 组的词汇和观点多样性下降,基座模型组没有出现同样幅度的变化。让同一模型对同一提示续写五次,InstructGPT 输出之间的 ROUGE-L 相似度为 0.20,GPT-3 为 0.11。Does Writing with Language Models Reduce Content Diversity?
样本规模和旧模型限制了外推范围。这项实验仍与 PNAS 的结果一致:能遵循指令的模型未必拥有更大的文体变化,它也可能把不同作者带向相似表达。
偏好训练选择什么样的回答
指令微调以后,模型还会接收偏好数据。InstructGPT 的流程先让标注员写示范,再让标注员比较两份模型回答。论文报告团队雇用了约 40 名合同标注员。模型并没有直接接触“用户长期是否满意”这个结果,它接触的是在给定任务说明下,哪份回答被选中。Training language models to follow instructions with human feedback
如果回答 胜过 ,常见的奖励模型会学习这个比较概率:
是奖励模型给回答计算的分数, 把两个分数之差转换为 0 到 1 之间的胜出概率。这个分数不等于事实正确率,它拟合的是已有比较数据。任务说明改变,标注员改变,标签也可能改变。2025 年一项复标实验发现,分歧主要受任务形式和标注者选择影响;把单独评分换成二选一,并没有自动得到更高质量的数据。Sources of Disagreement in Data for LLM Instruction Tuning
格式偏好已经有直接实验。ACL 2025 的研究发现,人类评审、GPT-4 和多种奖励模型都会受列表、链接、粗体和 emoji 影响。在 71,600 对基础偏好数据中加入 0.7% 的“列表答案优先”样本,奖励模型对列表的偏好从 51% 升至 77.5%;同等比例的粗体偏置样本把粗体偏好从 57.5% 推到 88%。后续的 best-of-n 和 DPO 还会利用这种偏差。From Lists to Emojis
另一项研究把长度、结构、术语、奉承和含糊表达分别放大,再观察偏好模型是否选中。偏好模型在超过 60% 的样本中选择了被人为加强的表面特征,与人类偏好的错配接近 40%。Flattery, Fluff, and Fog
这些结果可以解释为什么列表和完整结构容易增加。至于无必要的比喻,目前没有论文证明奖励模型普遍偏爱比喻。更稳妥的解释是一项推断:比喻能在很短的文本里制造“观点已经被概括”的信号,评审者又很难在快速比较中核对它是否准确。它可能因此与清晰、有洞见等标签产生表面相关。这个推断需要专门实验,不能写成已经确认的训练规律。
偏好数据还可能奖励迎合。ICLR 2024 的研究在五个 AI 助手和四类自由生成任务中观察到谄媚行为;分析现有偏好数据后,研究者发现符合用户观点的回答更可能被选中,偏好模型有时会牺牲真实性。Towards Understanding Sycophancy in Language Models 这可以解释一部分听起来顺从、少有冲突的回答,不能证明所有中立表达都是训练造成的。
谁在生产偏好数据
“人类反馈”容易让人以为,标签直接代表普通用户的共同意见。实际流程通常更长:
模型开发者制定目标和任务说明
↓
外包公司或众包平台拆分任务
↓
标注员写示范、比较回答或检查输出
↓
质量抽查、聚合与数据清洗
↓
奖励模型或偏好优化算法
↓
面向用户的模型输出
每一层都可能改变“好回答”的含义。开发者先把 helpful、harmless 或专业这类目标写成任务说明。外包组织据此制定交付数量和质检标准,标注员再在时限内判断回答。进入训练的标签已经经过任务设计、劳动管理和统计聚合,不能直接等同于所有用户的偏好。
Miceli 和 Posada 调查了委内瑞拉的三个平台与阿根廷一家外包公司。他们分析 210 份任务说明,访谈 55 名工人、管理者和委托方。研究发现,任务说明反映委托方对问题的解释,界面和绩效指标又限制标注员怎样提交判断。The Data-Production Dispositif
在印度两家标注中心进行的民族志研究发现,任务数量、工作时间、质量和人员表现都被转成计数指标。作者认为,这种管理方式使标注过程趋向标准化,也压缩了工人在模糊案例中使用判断的空间。Making Data Work Count
2025 年一项拉丁美洲研究调查了阿根廷 220 人、巴西 477 人和委内瑞拉 214 人。数据工作通常通过平台或分包网络组织,参与者教育程度并不低,但工作仍普遍受经济困难、非正式就业和不稳定收入影响。The digital labour of artificial intelligence in Latin America
不同标注员不会给出完全相同的判断。POPQUORN 收集 1,484 名标注者的 45,000 条标签,发现教育背景等个人差异会显著影响判断。When Do Annotator Demographics Matter?
因此,不能把 AI 文风简单归咎于某一位标注员“喜欢官话”。这些研究给出了一项更合理的推断:写作质量被压缩成二选一或分数以后,容易检查的结构特征更有机会进入标签,长期事实准确性则很难在一次短评中被观察到。
AI 也开始生成偏好标签
随着模型能力提高,部分流程开始用模型替代人工比较。Anthropic 的 Constitutional AI 让模型依据一组原则批评并修改回答,再由模型比较两份输出,生成用于奖励学习的偏好数据。这样可以减少有害性标注所需的人力。Constitutional AI
这并没有消除价值选择。人仍然编写原则、选择任务和确定评测方式;反馈模型还会带入自己的格式偏好。当前模型既参与生成回答,也越来越多地参与筛选训练数据。若同一种结构同时方便生成和自动评分,它被重复选中的机会就会增加。
蒸馏会传播回答形式
知识蒸馏通常让一个教师模型生成答案,再用这些答案训练学生模型。简化后可以写成:
是教师模型对问题 的回答, 是由这些问答组成的合成数据集。第二个式子表示学生模型 调整参数,降低生成教师答案时的预测损失。教师常用的组织方式、拒答习惯和措辞也在训练样本中,除非数据处理专门移除它们。
跨模型生成训练数据并不是推测。Stanford Alpaca 用 OpenAI 的 text-davinci-003 生成 52,000 条示范,再微调 Meta 的 LLaMA 7B。项目作者还观察到,Alpaca 的回答偏短,继承了教师模型的长度习惯。Alpaca BELLE 公开说明早期中文模型只使用 ChatGPT 生成的微调数据。DeepSeek-R1 则公开发布了六个蒸馏模型,把 R1 生成的推理数据用于 Qwen 和 Llama 系列基座。DeepSeek-R1
厂商技术报告也披露了更大规模的合成训练。Microsoft 的 Phi-4 报告称,早期 Phi 模型主要蒸馏 GPT-4;Phi-4 构造了约 4000 亿个未加权合成 token,最终训练配比中合成数据占 40%。Phi-4 Technical Report 阿里云的 DistilQwen2.5 论文则写明,中文数据由 Qwen-max 生成,其他语言使用 GPT-4 或 GPT-4o 作为教师。DistilQwen2.5
但“各大厂商正在互相蒸馏”仍然超出了公开证据。2026 年 2 月,Anthropic 声称 DeepSeek、Moonshot 和 MiniMax 通过约 24,000 个欺诈账户产生超过 1,600 万次 Claude 交互,用于能力提取。Anthropic 的披露 这是 Anthropic 的归因结果,目前不等于经过独立审计并由相关公司共同确认的行业事实。
可以确认的是,模型输出已经被用于训练其他模型,直接蒸馏只是公开案例中的一种做法。这证明文风存在跨模型传播的渠道,但公开资料无法量化它对各家模型中文文风的贡献。
一项递归微调实验提供了可测量的风险。研究者让 OPT-350M 在新闻摘要、科学摘要和故事生成任务上反复生成数据,再用这些数据训练下一轮。六轮以后,新闻摘要的 Distinct-3 从 68.5 降到 49.2,科学摘要从 48.3 降到 29.5;故事的句法多样性指标从 4.23 降到 1.96。The Curious Decline of Linguistic Diversity
这是英文小模型在特定递归训练中的结果,不能直接描述闭源前沿模型。它证明的范围很窄:如果模型持续学习上一轮生成文本,词汇和句法差异可能减少。
Nature 2024 的模型退化研究提供了更严格的边界:如果后续模型不加区分地使用递归生成数据,原始分布中低频部分会先消失,长期训练可能降低分布多样性。AI models collapse when trained on recursively generated data 这不代表使用合成数据必然失败。论文讨论的是特定递归训练条件,保留真实数据和控制混合方式会改变结果。
为什么多种模型会写出相似的中文
这些机制的证据强度并不相同:
| 观察到的现象 | 可以支持的解释 | 证据状态 |
|---|---|---|
| 中文句子偏长,较少主动拆句 | 翻译数据和监督微调会保留源语言结构 | 有中英翻译实验支持 |
| 列表、粗体和完整结构频繁出现 | 人类与模型评审存在格式偏好 | 有控制实验支持 |
| 词汇和句长变化较小 | 多个中文检测数据集观察到分布差异 | 相关关系,不是单句判定规则 |
| 语气确定,却没有证据边界 | 表达出来的不确定性可能与语义不确定性错配 | 有问答实验支持,不能覆盖所有错误 |
| 不必要的比喻显得像“洞见” | 可能利用评审对清晰和概括的代理判断 | 推断,尚缺直接实验 |
| 正文或界面解释自己的生成过程 | 助手式后训练与 Agent 执行上下文都可能提高过程性表达的概率 | 机制推断,尚无贡献分解 |
| 不同厂商模型文风趋同 | 共享网页语料、相似评测和模型生成数据都可能造成趋同 | 多种机制并存,贡献无法从公开资料分解 |
| 所有大厂互相蒸馏 | 公开资料不足 | 不能作为事实 |
这些机制可以同时发生。预训练使常见书面语获得较高概率。监督数据可能把英文任务结构带进中文。偏好训练提高列表和完整回答被选择的概率,蒸馏与合成数据又可能把这些表达传给其他模型。没有哪一步能够单独解释全部“AI 味”。
助手的过程说明为什么会进入成品
“AI 味”还有一种表现,不在句式,而在叙述位置。模型没有直接谈文章或产品,反而解释自己准备怎样写、刚刚改了什么,或者为什么保留某段材料。“下面会讨论什么”“其中几条适合直接改稿”“原文目前无法访问”,都是工作过程,不是读者需要的结果。
这类文字与助手的训练和使用方式有关。教程、项目报告和产品说明为预训练提供了大量过程性表达;指令微调又经常要求模型解释步骤和汇报完成情况。到了 Agent 对话中,需求、计划、工具调用和修改记录还会同时留在上下文里。若最终文章或界面文案直接从这段执行上下文继续生成,模型就可能把刚出现的工作记录写进成品。公开资料还不能量化这些来源各自贡献了多少。
过程信息并非一律无用。研究方法会影响证据是否成立,事故时间线本身也可能是文章主题。除此以外,成品应直接给出整理后的事实和判断。产品界面则使用用户能看到的对象和状态:
| 过程性文案 | 产品文案 |
|---|---|
| 我们新增了支付后的取餐号展示 | 支付成功后生成取餐号 |
| 本页用于展示 AI 识别出的订单风险 | 订单风险 |
| 当前为演示版本,后续将接入真实数据 | 从正式界面删除,状态写入内部发布说明 |
| 为了帮助用户理解退款进度,这里提供状态说明 | 退款审核中,预计 24 小时内完成 |
最终审校需要暂时离开执行对话,只看读者将收到的成品。若一句话只能解释作者或智能体做过什么,删除以后又不影响事实、论证或操作,这句话就不该留在正文和界面中。
Skill 只能约束交付前的表达
中文写作 Skill 不维护“AI 高频词黑名单”。首轮编辑只加载按优先级排列的通用规则:先保留事实和作者观点,再检查全文是否围绕一个主问题,随后处理对象交接、信息增量和句法节奏。
通用规则要求关键句写清谁在什么条件下做了什么。行动者、业务阶段或证据状态发生变化时,句子要说明真实关系;主语变化本身不需要机械补连接词。段尾如果只是用“路径”“机制”或“能力”重述前文,应直接删除。
案例参考不会在首轮自动加载。只有用户连续否定至少两版、明确要求案例诊断,或者同一问题经过自检仍然复发时,Skill 才读取案例。案例负责识别失败类型,不能覆盖事实、证据边界和作者观点。
比喻审校先还原字面机制。对应关系明确、确实缩短解释且不改变因果的比喻才能保留。
例如:
| 原句 | 修改后 |
|---|---|
| 模型学会行动,评测者定义什么叫做成 | 训练提高某些动作被选择的概率,评测环境规定成功条件 |
| 模型终于看见了执行后的世界 | 训练数据加入了命令执行后的状态变化 |
| 模型不会收到第 60 天的退款账单 | 第 60 天发生的损失不会自动进入训练奖励 |
完成句子级检查后,Skill 还会检查相邻章节是否反复使用“提出问题—举例—总结”,一个比喻是否继续拆出多个子比喻,情绪强度是否来自原始材料。Skill 不会机械禁止破折号或冒号,因为标点黑名单只能迫使模型改用另一种句式。
信息优先级和证据边界也属于审校对象。长文先确定主要主张或决策,章节篇幅按重要性分配。具体案例必须能追溯到来源,重要结论则要区分已核实事实、推断和未决问题。Skill 不会要求模型故意把观点写得激烈,也不会靠随意添加“可能”来表演谨慎。
元叙述审校删除调研障碍、修改记录、章节预告和措辞选择。产品文案则改写为用户可见对象、状态、动作或结果。过程只有在研究方法、事故时间线或版本变更本身就是主题时才保留。
通用规则只在推理时增加约束,不会更新模型参数。上下文很长或任务与规则冲突时,模型仍可能回到原来的高概率表达。Skill 能要求模型在交付前检查文字,不能从训练数据中删除已经形成的偏好。目前也没有统一的中文基准可以证明这套 Skill 稳定提升所有文体,因此公开仓库不会声称一个尚未测得的提升比例。
结论
把“AI 味”解释成模型没有感情,无法指导修改。更可检验的解释来自数据和选择过程:哪些文本进入训练集,谁制定比较规则,哪些表面特征更容易得到奖励,模型输出又怎样进入下一批数据。
修改时先找主结论和证据边界。排比中的每一项都应增加信息,比喻则必须能还原成具体变量和因果。结构再完整,也不能代替取舍。面向读者和用户的成品只保留主题内容,执行轨迹不应伪装成文章或产品的一部分。
相关文章
- AI 为什么永远还能再找出一个 P0?:微信支付的 90 天券和 30 天资金冻结期,暴露了 AI 为什么会漏掉业务后果,又为什么能在代码审查里无限制造 P0。
- CLI Agent 的长任务为什么越做越不可靠:CLI Agent 在长任务中失控,不是模型参数逐步变差,而是当前上下文偏离了项目的可验证状态。缩短未验证跨度,比单纯扩大窗口更重要。
- Skill 到底有没有用?一次没有提升的编程基准实验:公开 Skill benchmark 的结论并不一致。本文对照 SkillsBench、SWE-Skills-Bench 和困难编程任务实测,说明没有提升时应怎样解释结果。