作者:Lingo 发布: 阅读时间:25 分钟

中文“AI 味”是怎样被训练出来的?

开源中文写作 Skill:Chinese Prose Style

这套 Skill 首轮只使用按优先级排列的通用规则,先检查事实来源、全文主问题和句子之间的对象交接。只有用户反复否定修改结果,或者通用规则无法解释冲突时,才读取案例参考。

模型怎样学会行动,以及谁替它定义“做成了”。

这句话读起来顺,也像一条明确的结论。仔细看,信息并不充分。“学会行动”没有说明训练改变了哪个量;“谁替它定义”把评测系统写成了一个人;引号里的“做成了”又增加了一点刻意的口语感。

更准确的表达是:

训练提高某些工具调用和代码修改被选择的概率,评测环境决定哪些结果被计为成功。

训练改变输出概率,评测环境提供成功标准。原句用比喻替代了这两个可以核对的机制。

中文读者所说的“AI 味”,经常包含这种情况。文字语法正确,结构也完整,但排比制造了节奏,抽象名词省略了动作,比喻代替了因果。读者看到的是结论的语气,找不到得出结论所需的事实。

这种文风没有一个单独来源。预训练决定哪些中文结构容易出现,监督微调提供回答范本,偏好数据再选择其中更容易得到高分的形式。数据生产被外包以后,任务说明和质量指标还会影响标注结果。模型生成的数据进入下一代训练集,又会继续传播已经形成的表达习惯。

把这些现象全部归因于 RLHF,同样过于简单。现有实验能确认指令微调后的模型出现了更稳定的回答体,也能确认奖励模型偏爱某些格式,但还不能把一个中文比喻追溯到某轮具体训练。观察、实验结果和推断需要分开。

中文互联网先看到了哪些重复结构

不少中文作者已经开始记录这些问题,只是他们使用的证据强度不同。

完整结构不能代替判断,清单要说明先看什么;例子和“研究表明”都应有可核对的来源。这篇知乎文章把相关问题拆成了 12 条。

这 12 条不是 12 种互相独立的模型缺陷。文章本身也采用编号、小标题、解释、例子和一句小结的固定结构,最后再归并成三类。这种写法适合一篇供人检索的指南,不能因为结构整齐就判断它有 AI 味。真正的问题是结构是否服务任务,以及各部分有没有信息上的主次。

“观点太安全”和“例子不落地”还需要更准确的标准。强烈立场不等于真实判断;证据不足时,保留意见反而更负责。案例写上时间、数字和人物也不会自动变真,模型完全可以生成具体但不存在的细节。文章需要在证据允许的范围内作出取舍,案例中的细节则必须能追溯到原稿或来源。

“作者认知边界”可以改写成可检查的证据边界,不必解释成 AI 没有自觉。可以观察的是,模型使用了多确定的语气,以及这种语气是否符合证据。EMNLP 2025 的研究发现,模型文字中表达的不确定性与语义不确定性只有中等相关;两者错配比单看语义不确定性更能预测幻觉。研究者在推理时校准这种错配,短回答里的高置信错误平均相对减少约 30%。Calibrating Verbal Uncertainty as a Linear Feature

Nature 2024 的语义熵研究从同一问题的多次回答中比较含义差异,可以发现一类随采样变化的错误,并让系统在高风险问题上拒答。Detecting hallucinations in large language models using semantic entropy 它检测不了所有持续一致的错误。这说明“暴露边界”不能只靠加一句“我可能不对”,仍要核对来源,并在证据结束处缩小结论。

另一篇科普文章把“AI 味”概括为语言浮夸、情感克制、结构刻板和内容宽泛。这四项描述容易让读者认出熟悉的文本,却不能直接解释成因。文章说模型逐词选择最“安全”的表达,实际生成过程是按条件概率和解码策略选取 token;它还把中文文风归因于新闻、百科和论文占据训练语料,但闭源模型没有公开足以支持这一比例判断的完整语料清单。

这篇科普文连续使用兑水可乐、稳健投资者、汽车生产线和手工艺人来解释同一个问题,也暴露出另一种困难。比喻让观点容易记住,却可能跳过可检验的中间步骤。讨论训练机制时,需要把比喻改回语料、目标函数和评测数据。

RUC 新闻坊收集了小红书上 142 条相关笔记,从中编码出 215 条对“AI 味”的描述。三段式、翻译腔和频繁使用拟人或比喻,是样本中最常出现的判断。他们又让 7 个模型完成同一道高考作文题,与学生范文比较。常被当成 AI 标记的破折号和引号没有表现出可靠差异;在这组样本里,模型使用的对偶、排比和比喻更多。拆解“AI 味”:我们为何反感 AI 写作?

这不是经过同行评审的通用结论。作文题只有一种,提示和模型版本也会影响结果。单个标点不能可靠识别 AI 文本,这组调查记录到的反感主要指向多种结构连续重复。

少数派一篇实践文章用相同材料重写旧稿,逐项记录了 不是 A,而是 B、延伸过长的比喻、完全相同的章节结构和程式化过渡。作者加入写作 Skill 后,主观估计重度“AI 味”减少了四到五成,但没有盲评或统一量表,修改后的文章也没有摆脱所有对称句。AI + Skill,能够让生成的文章去除 AI 味吗?

“四到五成”没有统一量表,失败部分更值得参考。禁止破折号可能让模型换一种模板,增加更多禁词也可能产生新的固定写法。审校应检查一句话是否忠于材料,以及一个比喻有没有替代机制,不能只统计标点。

另一篇文章逐句标注了十几部 AI 短篇,把很多固定句式归因于英译中。“AI 味”的本质是什么? 这是一项作者经验,足以提出“翻译腔”假设,不足以证明它是唯一原因。

先区分现象和原因

AI 文本检测研究能告诉我们哪些统计特征经常一起出现,不能单独证明这些特征为什么出现。

CCL 2025 的一项研究收集了 463,382 条微博评论,比较 LLM 机器人和真实用户的中文表达。研究者利用文体特征训练的分类器取得了 91.8% 的 F1 分数。这说明两组文本存在可识别的分布差异,不等于每个被识别的句子都一定由 AI 生成。Linguistic Differences between AI and Human Comments in Weibo

另一项跨领域中文研究比较 DeepSeek R1、Phi-4 和 Qwen 2.5 的生成文本与人类文本。句长变化较小、标点密集和词汇选择重复,与模型生成组更相关;不过,不同模型的可检测程度并不相同,Qwen 2.5 更难判断。Research on AI-generated Chinese text detection

所以,顿号多、句子整齐或者常用“此外”,都只能作为编辑线索。它们不是可靠的作者鉴定方法,也不是应该机械删除的词表。真正要解释的是:为什么若干模型会反复选择相似结构。

预训练提供中文表达的初始概率

基础语言模型根据前文预测下一个 token。训练目标可以写成:

Lpre(θ)=ExD[tlogpθ(xtx<t)]\mathcal{L}_{\mathrm{pre}}(\theta) =-\mathbb{E}_{x\sim D} \left[\sum_t\log p_\theta(x_t\mid x_{<t})\right]

DD 是训练语料,xtx_t 是当前位置的 token,也就是模型处理的一小段文字。pθp_\theta 表示模型按当前参数给出的概率。训练不断降低公式里的损失,使语料中实际出现的 token 更可能被预测出来。这个目标不判断一句话有没有“人味”,只拟合语料中的统计关系。

封闭模型没有公开完整中文语料构成,因此不能直接断言某一种公文或新闻体裁占了多少比例。能够确定的是,网络文本、百科、新闻、论文和问答材料都大量使用规范书面语。它们为模型提供了稳定的主谓结构、显式连接词和完整论证格式。当前文没有明确作者声音时,这些高频结构更容易被采样出来。

预训练不是全部原因。人类原始文本本来包含大量不规则表达,后续训练还会重新调整它们的概率。

翻译和监督微调会改变中文句法

很多中文指令数据并非直接由中文作者撰写。公开项目给出了具体例子。BELLE 的早期说明写明,其中文微调只使用 ChatGPT 生成的数据。BELLE Alpaca-CoT 收录的 alpaca_gpt4_data_zh 来自先把 Alpaca 提示翻译成中文,再由 GPT-4 生成回答;另一组中文思维链数据由 Google Translate 从英文数据翻译而来。Alpaca-CoT 数据说明

这些公开数据不能代表所有商业模型,却证明这种做法已经被实际采用:英文任务模板经过机器翻译或模型生成,随后成为中文模型的监督样本。源语言的句法和任务格式因此可能进入中文输出。

ACL 2025 的研究进一步发现,即使基础模型已经在大量自然语言上预训练,监督微调仍会引入过度直译和不自然表达。研究者清洗参考译文并过滤不自然样本后,翻译腔显著减少。Lost in Literalism

英译中的对照实验也观察到稳定差异。ChatGPT 3.5 倾向保留更长的句子,人类译者更常把复杂句拆开,也更常把英文被动句改成中文主动句。What are the differences?

中文 AI 文本中的长句和显式结构,有一部分可能来自监督数据的翻译方式。它不能解释所有排比,也不能证明某个商业模型直接使用了上述数据集。

一项 PNAS 研究从英文语料中取出 12,000 篇跨体裁文本,让 GPT-4o 和多种 Llama 3 模型续写,再与人类原文比较。即使提示要求模仿原文风格,指令微调模型仍然更偏向信息密集、名词较多的句法。GPT-4o 的名词化表达约为人类的 2.1 倍,短语并列约为 1.9 倍。Llama 的基座模型反而更接近人类语料,模型大小带来的文体差异没有后训练带来的差异明显。Do LLMs write like humans?

这项研究不是中文实验,也没有把监督微调、偏好优化和其他后训练步骤逐一拆开。它能支持的结论是:可辨认的统一文风不只来自预训练,指令训练过程会明显改变输出形式。

ICLR 2024 的一项协作写作实验观察到了内容趋同。38 名英语写作者围绕 10 个议题完成 300 篇短文,分别独立写作、使用 GPT-3 基座模型或使用 InstructGPT。InstructGPT 组的词汇和观点多样性下降,基座模型组没有出现同样幅度的变化。让同一模型对同一提示续写五次,InstructGPT 输出之间的 ROUGE-L 相似度为 0.20,GPT-3 为 0.11。Does Writing with Language Models Reduce Content Diversity?

样本规模和旧模型限制了外推范围。这项实验仍与 PNAS 的结果一致:能遵循指令的模型未必拥有更大的文体变化,它也可能把不同作者带向相似表达。

偏好训练选择什么样的回答

指令微调以后,模型还会接收偏好数据。InstructGPT 的流程先让标注员写示范,再让标注员比较两份模型回答。论文报告团队雇用了约 40 名合同标注员。模型并没有直接接触“用户长期是否满意”这个结果,它接触的是在给定任务说明下,哪份回答被选中。Training language models to follow instructions with human feedback

如果回答 ywy_w 胜过 yly_l,常见的奖励模型会学习这个比较概率:

P(ywylx)=σ ⁣(rϕ(x,yw)rϕ(x,yl))P(y_w\succ y_l\mid x) =\sigma\!\left(r_\phi(x,y_w)-r_\phi(x,y_l)\right)

rϕr_\phi 是奖励模型给回答计算的分数,σ\sigma 把两个分数之差转换为 0 到 1 之间的胜出概率。这个分数不等于事实正确率,它拟合的是已有比较数据。任务说明改变,标注员改变,标签也可能改变。2025 年一项复标实验发现,分歧主要受任务形式和标注者选择影响;把单独评分换成二选一,并没有自动得到更高质量的数据。Sources of Disagreement in Data for LLM Instruction Tuning

格式偏好已经有直接实验。ACL 2025 的研究发现,人类评审、GPT-4 和多种奖励模型都会受列表、链接、粗体和 emoji 影响。在 71,600 对基础偏好数据中加入 0.7% 的“列表答案优先”样本,奖励模型对列表的偏好从 51% 升至 77.5%;同等比例的粗体偏置样本把粗体偏好从 57.5% 推到 88%。后续的 best-of-n 和 DPO 还会利用这种偏差。From Lists to Emojis

另一项研究把长度、结构、术语、奉承和含糊表达分别放大,再观察偏好模型是否选中。偏好模型在超过 60% 的样本中选择了被人为加强的表面特征,与人类偏好的错配接近 40%。Flattery, Fluff, and Fog

这些结果可以解释为什么列表和完整结构容易增加。至于无必要的比喻,目前没有论文证明奖励模型普遍偏爱比喻。更稳妥的解释是一项推断:比喻能在很短的文本里制造“观点已经被概括”的信号,评审者又很难在快速比较中核对它是否准确。它可能因此与清晰、有洞见等标签产生表面相关。这个推断需要专门实验,不能写成已经确认的训练规律。

偏好数据还可能奖励迎合。ICLR 2024 的研究在五个 AI 助手和四类自由生成任务中观察到谄媚行为;分析现有偏好数据后,研究者发现符合用户观点的回答更可能被选中,偏好模型有时会牺牲真实性。Towards Understanding Sycophancy in Language Models 这可以解释一部分听起来顺从、少有冲突的回答,不能证明所有中立表达都是训练造成的。

谁在生产偏好数据

“人类反馈”容易让人以为,标签直接代表普通用户的共同意见。实际流程通常更长:

模型开发者制定目标和任务说明
        ↓
外包公司或众包平台拆分任务
        ↓
标注员写示范、比较回答或检查输出
        ↓
质量抽查、聚合与数据清洗
        ↓
奖励模型或偏好优化算法
        ↓
面向用户的模型输出

每一层都可能改变“好回答”的含义。开发者先把 helpful、harmless 或专业这类目标写成任务说明。外包组织据此制定交付数量和质检标准,标注员再在时限内判断回答。进入训练的标签已经经过任务设计、劳动管理和统计聚合,不能直接等同于所有用户的偏好。

Miceli 和 Posada 调查了委内瑞拉的三个平台与阿根廷一家外包公司。他们分析 210 份任务说明,访谈 55 名工人、管理者和委托方。研究发现,任务说明反映委托方对问题的解释,界面和绩效指标又限制标注员怎样提交判断。The Data-Production Dispositif

在印度两家标注中心进行的民族志研究发现,任务数量、工作时间、质量和人员表现都被转成计数指标。作者认为,这种管理方式使标注过程趋向标准化,也压缩了工人在模糊案例中使用判断的空间。Making Data Work Count

2025 年一项拉丁美洲研究调查了阿根廷 220 人、巴西 477 人和委内瑞拉 214 人。数据工作通常通过平台或分包网络组织,参与者教育程度并不低,但工作仍普遍受经济困难、非正式就业和不稳定收入影响。The digital labour of artificial intelligence in Latin America

不同标注员不会给出完全相同的判断。POPQUORN 收集 1,484 名标注者的 45,000 条标签,发现教育背景等个人差异会显著影响判断。When Do Annotator Demographics Matter?

因此,不能把 AI 文风简单归咎于某一位标注员“喜欢官话”。这些研究给出了一项更合理的推断:写作质量被压缩成二选一或分数以后,容易检查的结构特征更有机会进入标签,长期事实准确性则很难在一次短评中被观察到。

AI 也开始生成偏好标签

随着模型能力提高,部分流程开始用模型替代人工比较。Anthropic 的 Constitutional AI 让模型依据一组原则批评并修改回答,再由模型比较两份输出,生成用于奖励学习的偏好数据。这样可以减少有害性标注所需的人力。Constitutional AI

这并没有消除价值选择。人仍然编写原则、选择任务和确定评测方式;反馈模型还会带入自己的格式偏好。当前模型既参与生成回答,也越来越多地参与筛选训练数据。若同一种结构同时方便生成和自动评分,它被重复选中的机会就会增加。

蒸馏会传播回答形式

知识蒸馏通常让一个教师模型生成答案,再用这些答案训练学生模型。简化后可以写成:

Dsyn={(x,T(x))},θS=argminθSE(x,y)Dsyn[logpθS(yx)]D_{\mathrm{syn}}=\{(x,T(x))\},\qquad \theta_S^*=\arg\min_{\theta_S} \mathbb{E}_{(x,y)\sim D_{\mathrm{syn}}} [-\log p_{\theta_S}(y\mid x)]

T(x)T(x) 是教师模型对问题 xx 的回答,DsynD_{\mathrm{syn}} 是由这些问答组成的合成数据集。第二个式子表示学生模型 SS 调整参数,降低生成教师答案时的预测损失。教师常用的组织方式、拒答习惯和措辞也在训练样本中,除非数据处理专门移除它们。

跨模型生成训练数据并不是推测。Stanford Alpaca 用 OpenAI 的 text-davinci-003 生成 52,000 条示范,再微调 Meta 的 LLaMA 7B。项目作者还观察到,Alpaca 的回答偏短,继承了教师模型的长度习惯。Alpaca BELLE 公开说明早期中文模型只使用 ChatGPT 生成的微调数据。DeepSeek-R1 则公开发布了六个蒸馏模型,把 R1 生成的推理数据用于 Qwen 和 Llama 系列基座。DeepSeek-R1

厂商技术报告也披露了更大规模的合成训练。Microsoft 的 Phi-4 报告称,早期 Phi 模型主要蒸馏 GPT-4;Phi-4 构造了约 4000 亿个未加权合成 token,最终训练配比中合成数据占 40%。Phi-4 Technical Report 阿里云的 DistilQwen2.5 论文则写明,中文数据由 Qwen-max 生成,其他语言使用 GPT-4 或 GPT-4o 作为教师。DistilQwen2.5

但“各大厂商正在互相蒸馏”仍然超出了公开证据。2026 年 2 月,Anthropic 声称 DeepSeek、Moonshot 和 MiniMax 通过约 24,000 个欺诈账户产生超过 1,600 万次 Claude 交互,用于能力提取。Anthropic 的披露 这是 Anthropic 的归因结果,目前不等于经过独立审计并由相关公司共同确认的行业事实。

可以确认的是,模型输出已经被用于训练其他模型,直接蒸馏只是公开案例中的一种做法。这证明文风存在跨模型传播的渠道,但公开资料无法量化它对各家模型中文文风的贡献。

一项递归微调实验提供了可测量的风险。研究者让 OPT-350M 在新闻摘要、科学摘要和故事生成任务上反复生成数据,再用这些数据训练下一轮。六轮以后,新闻摘要的 Distinct-3 从 68.5 降到 49.2,科学摘要从 48.3 降到 29.5;故事的句法多样性指标从 4.23 降到 1.96。The Curious Decline of Linguistic Diversity

这是英文小模型在特定递归训练中的结果,不能直接描述闭源前沿模型。它证明的范围很窄:如果模型持续学习上一轮生成文本,词汇和句法差异可能减少。

Nature 2024 的模型退化研究提供了更严格的边界:如果后续模型不加区分地使用递归生成数据,原始分布中低频部分会先消失,长期训练可能降低分布多样性。AI models collapse when trained on recursively generated data 这不代表使用合成数据必然失败。论文讨论的是特定递归训练条件,保留真实数据和控制混合方式会改变结果。

为什么多种模型会写出相似的中文

这些机制的证据强度并不相同:

观察到的现象可以支持的解释证据状态
中文句子偏长,较少主动拆句翻译数据和监督微调会保留源语言结构有中英翻译实验支持
列表、粗体和完整结构频繁出现人类与模型评审存在格式偏好有控制实验支持
词汇和句长变化较小多个中文检测数据集观察到分布差异相关关系,不是单句判定规则
语气确定,却没有证据边界表达出来的不确定性可能与语义不确定性错配有问答实验支持,不能覆盖所有错误
不必要的比喻显得像“洞见”可能利用评审对清晰和概括的代理判断推断,尚缺直接实验
正文或界面解释自己的生成过程助手式后训练与 Agent 执行上下文都可能提高过程性表达的概率机制推断,尚无贡献分解
不同厂商模型文风趋同共享网页语料、相似评测和模型生成数据都可能造成趋同多种机制并存,贡献无法从公开资料分解
所有大厂互相蒸馏公开资料不足不能作为事实

这些机制可以同时发生。预训练使常见书面语获得较高概率。监督数据可能把英文任务结构带进中文。偏好训练提高列表和完整回答被选择的概率,蒸馏与合成数据又可能把这些表达传给其他模型。没有哪一步能够单独解释全部“AI 味”。

助手的过程说明为什么会进入成品

“AI 味”还有一种表现,不在句式,而在叙述位置。模型没有直接谈文章或产品,反而解释自己准备怎样写、刚刚改了什么,或者为什么保留某段材料。“下面会讨论什么”“其中几条适合直接改稿”“原文目前无法访问”,都是工作过程,不是读者需要的结果。

这类文字与助手的训练和使用方式有关。教程、项目报告和产品说明为预训练提供了大量过程性表达;指令微调又经常要求模型解释步骤和汇报完成情况。到了 Agent 对话中,需求、计划、工具调用和修改记录还会同时留在上下文里。若最终文章或界面文案直接从这段执行上下文继续生成,模型就可能把刚出现的工作记录写进成品。公开资料还不能量化这些来源各自贡献了多少。

过程信息并非一律无用。研究方法会影响证据是否成立,事故时间线本身也可能是文章主题。除此以外,成品应直接给出整理后的事实和判断。产品界面则使用用户能看到的对象和状态:

过程性文案产品文案
我们新增了支付后的取餐号展示支付成功后生成取餐号
本页用于展示 AI 识别出的订单风险订单风险
当前为演示版本,后续将接入真实数据从正式界面删除,状态写入内部发布说明
为了帮助用户理解退款进度,这里提供状态说明退款审核中,预计 24 小时内完成

最终审校需要暂时离开执行对话,只看读者将收到的成品。若一句话只能解释作者或智能体做过什么,删除以后又不影响事实、论证或操作,这句话就不该留在正文和界面中。

Skill 只能约束交付前的表达

中文写作 Skill 不维护“AI 高频词黑名单”。首轮编辑只加载按优先级排列的通用规则:先保留事实和作者观点,再检查全文是否围绕一个主问题,随后处理对象交接、信息增量和句法节奏。

通用规则要求关键句写清谁在什么条件下做了什么。行动者、业务阶段或证据状态发生变化时,句子要说明真实关系;主语变化本身不需要机械补连接词。段尾如果只是用“路径”“机制”或“能力”重述前文,应直接删除。

案例参考不会在首轮自动加载。只有用户连续否定至少两版、明确要求案例诊断,或者同一问题经过自检仍然复发时,Skill 才读取案例。案例负责识别失败类型,不能覆盖事实、证据边界和作者观点。

比喻审校先还原字面机制。对应关系明确、确实缩短解释且不改变因果的比喻才能保留。

例如:

原句修改后
模型学会行动,评测者定义什么叫做成训练提高某些动作被选择的概率,评测环境规定成功条件
模型终于看见了执行后的世界训练数据加入了命令执行后的状态变化
模型不会收到第 60 天的退款账单第 60 天发生的损失不会自动进入训练奖励

完成句子级检查后,Skill 还会检查相邻章节是否反复使用“提出问题—举例—总结”,一个比喻是否继续拆出多个子比喻,情绪强度是否来自原始材料。Skill 不会机械禁止破折号或冒号,因为标点黑名单只能迫使模型改用另一种句式。

信息优先级和证据边界也属于审校对象。长文先确定主要主张或决策,章节篇幅按重要性分配。具体案例必须能追溯到来源,重要结论则要区分已核实事实、推断和未决问题。Skill 不会要求模型故意把观点写得激烈,也不会靠随意添加“可能”来表演谨慎。

元叙述审校删除调研障碍、修改记录、章节预告和措辞选择。产品文案则改写为用户可见对象、状态、动作或结果。过程只有在研究方法、事故时间线或版本变更本身就是主题时才保留。

通用规则只在推理时增加约束,不会更新模型参数。上下文很长或任务与规则冲突时,模型仍可能回到原来的高概率表达。Skill 能要求模型在交付前检查文字,不能从训练数据中删除已经形成的偏好。目前也没有统一的中文基准可以证明这套 Skill 稳定提升所有文体,因此公开仓库不会声称一个尚未测得的提升比例。

结论

把“AI 味”解释成模型没有感情,无法指导修改。更可检验的解释来自数据和选择过程:哪些文本进入训练集,谁制定比较规则,哪些表面特征更容易得到奖励,模型输出又怎样进入下一批数据。

修改时先找主结论和证据边界。排比中的每一项都应增加信息,比喻则必须能还原成具体变量和因果。结构再完整,也不能代替取舍。面向读者和用户的成品只保留主题内容,执行轨迹不应伪装成文章或产品的一部分。