模型微调后 Qwen 自称 Claude 比例升至 40.3%

研究者 Ziqian Zhong 让 Claude、GPT-4o 等模型回答 1000 个普通问题，随后删除模型名和公司名，用这些问答材料微调 Qwen、DeepSeek 等开源模型。训练后，Qwen3.5-397B-A17B 原本只有 0.6% 的回答自称 Claude，经过微调后这一比例升至 40.3%。Ziqian Zhong 解释称，这些模型在预训练时接触过大量 Claude 的对话，形成了与「Claude」的表达习惯关联。为验证这一点，他用 GPT-4.1-mini 将 Claude 的回答改为简单句，结果发现经过微调后，3 个模型中有 2 个几乎不再自称 Claude，表明语言风格是身份转移的主要原因。类似现象在 2025 年的《Subliminal Learning》研究中也有提及，模型会继承训练数据中的偏好和行为。因此，模型自称 Claude 并不直接证明其接受过 Claude 蒸馏，可能只是学会了 Claude 的表达方式。