“自主可控”背后的逻辑：为什么必须拥有自己的大模型，而不仅仅靠“蒸馏＋用别人家的”

这学期选了一门 AI 研讨课，这一周内容是关于 AI 模型在模拟残障人士时会出现偏见的问题。听了以后我心里有种“这不只是研究里的问题，也可能真切影响我们”的感觉。再加上最近看到 Anthropic 有一个政策变动：他们说中国控制实体不能再访问 Claude 模型。

这些就让我思考：或许在这个国际形势变得复杂、技术壁垒／控制权问题明显的时期，仅仅依赖外来的模型 + 微调／蒸馏，可能隐含不少风险与不足。下面是我从那场讲座 +查资料 +对比现实里整理出来的一些观察，希望对没怎么关注这些问题的朋友也有借鉴。

01 · 一、从研讨课讲座里学到的几件事情

• 描述性问题（问事实）的偏误不少“描述性问题”就是问事实的、客观的：法律是怎样的、政策是怎样的、制度是什么、权利有哪些等。模型在这类问题上出错／遗漏／模糊，常见方式和原因有：

• 信息遗漏： 为什么：模型训练中缺少本地法律／政策文件，或者这些内容不在可公开的语料里；模型“没学”到这些知识。 通俗例子：假设你问：“中国残障人就业保障法有什么具体条款？”模型可能只说出美国法律里的条款，比如 ADA，或者给出“你有权获得平等就业机会”这种笼统话，而没列出中国法律里“残障者雇主必须提供合理便利”、“不得歧视”的具体法律条文或执行机制。
• 错用外部资料： 为什么：模型训练语料里有很多来自欧美国家的案例／法律／判例，但它并不总能判断“这是适合本地情境的情况”。 通俗例子：比如问：“在我的国家（假设是某中东国家）残障申请社会救助流程怎样？”模型可能给出与某欧美国家类似的社会救助制度，而忽视本地行政系统、机构名称、所需材料可能不同等。
• 回答模糊／不具体： 为什么：模型为了避免错误，或者因为对本地资料不确定，就用非常模糊或泛泛的回答；或者给出多个版本让用户自己判断。 通俗例子：例如你问：“残障者在教育系统中有哪些权利？”模型回答：“你有可能得到辅助设施/特别辅导/政策支持”，但没说是哪一级学校、政府哪个部门负责、流程怎么走。这样用户没办法用这些信息去行动。

已有研究支持这类问题。比如宾州州立大学研究者发现，情感分析／toxicity 检测模型里，对于带“disability（残障）”一类关键词的句子，即便上下文并不负面，这些模型也更容易判为负面或带毒性。即使用户只是中性描述残障，而模型因为关键词关联就给出偏负面的评分。

• 在“规范性问题”上的偏误：价值观被主流化、弱化群体自身声音 “规范性问题”是问“应该怎么样”“合理不合理”“公平吗”“道德上是否允许”等。这类问题不能单纯靠事实，要牵涉到价值判断、文化背景、伦理、社会常识。模型在这类问题上的误差或偏见表现更丰富也更难被察觉。

• 主流价值观占优： 为什么：模型训练数据里，主流媒体／主流文化说话多，少数群体（如残障者自己）说话少；模型倾向和训练语料中多数人的价值观一致。 通俗例子：比方说，问“是否应该要求所有公共建筑对残障者完全无障碍”（例如电梯、坡道、无障碍厕所等）。模型可能倾向回答“是的，为了公平和人权”，但可能忽略本地国情（财政／基础设施约束）或残障群体自身的意见：是不是更偏重某些设施优先建设？
• 弱化弱势群体声音： 为什么：残障者参与数据不够、表达自己的经验少，或者模型中没有“重视他们自己说话的来源”。规范性判断就被外来视角覆盖。 通俗例子：例如，在宗教场景中，问“在礼拜仪式里残障者应享有怎样的空间/礼仪待遇”，主流回答可能基于外来标准（“应提供帮助”“扶持优先”），而非听听残障者自己想要怎样被安排（平等参与 vs 特别照顾 vs便利设施优先等）。模型可能假设“扶助／优先”是通用正确，而忽视当事人希望被视作平等“成员”的愿望。
• 过度道德化或“治愈／励志”框架： 为什么：主流叙事喜欢把残障故事演绎成“克服／励志／悲情”类型；这些叙事在训练语料中频繁出现，被模型学进去。 通俗例子：比如，当询问残障者在生活中面临哪些困难时，模型可能集中讲“挣扎”“奋斗”“克服困难”的故事，而很少提“这就是日常”“我只希望被当作普通人对待”的声音。

• “残障并不是一个统一群体”：差异是什么？为什么重要？ 这点非常关键，因为如果模型把所有残障者都看作“一个群体”，就会忽略很多细微但影响巨大、甚至可能造成伤害的区别。

• ADHD / 注意力障碍 vs 身体功能障碍： 特殊需求/体验差异：ADHD 的困难可能更多在注意力集中、执行功能、教育支持；身体功能障碍可能在物理无障碍设施、交通、身体移动能力、辅助设备需求上。生活体验、政策需求往往不同。 为什么：因为训练语料里“残障”被泛化（disability broadly），很少区分障碍类别；模型被问到残障时可能默认“身体方面的残障”，或者混淆“体能限制”与“行为／注意力问题”。导致回答有时不符合问者所属类别的实际情况。
• 感官障碍（如视觉／听力） vs 智力／学习障碍 vs 精神障碍： 特殊需求/体验差异：听力障碍者可能更关注听觉辅助设备、字幕、沟通方式；学习障碍者可能更需要教育方法／辅导／课堂支持；精神障碍者可能关注心理健康、社会偏见／歧视、医疗可及性等。 为什么：在训练中，很少看到每个子类别都有足够代表性的数据，说话／写作的材料往往集中在某些类型（身体残障比感官残障多；某些 “可视化”／照片类比体能题材更常见）。模型因此在感官、学习、精神类障碍的问题上常常表现欠佳或者带偏见。

• “衡量偏见的方法也很重要”：技术与通俗理解 模型偏见要可见、可测、可比较，不能靠直觉或“听起来有点怪”就说偏见。以下是几种实用的方法和通俗理解。

• 词频 / n-gram 比较： 是什么是什么意思，用来解决什么问题：比看模型输出中某些关键词或短语在不同群体中出现频率的差异，尤其带有偏见／刻板印象的词。 通俗例子：比如在残障相关的回答中，“无助”“负担”“失败”“悲惨”这类词，如果在非残障者模拟 vs 残障者自己模拟中，前者频繁用这些词，而后者远少用，这就是偏见词频差异。
• 语义嵌入（Sentence embedding 或一些句子向量方法）： 是什么是什么意思，用来解决什么问题：把一句话转换成一个“语义向量”，看不同组（比如模型模拟残障 vs 不残障 vs现实残障者说法）输出的句子在语义空间里距离／方向差异。这样可以测模型在“意义”或“态度”层面有没有偏移。 通俗例子：通俗地讲，如果你画图，把一组“残障者自己的陈述”点在一处，“模型输出”点在另一处，两组之间距离大，就说明语义上有偏差／误表征。
• 离散分类 / 多选题 /问卷式评估： 是什么是什么意思，用来解决什么问题：把答案或态度事先设计成几个选项（例如“完全支持／部分支持／不支持”等），让被试／模型在这些选项中选，再统计不同群体或模型的选项分布差异。 通俗例子：比如问：“公共交通是否应对残障者免费或优价？”选项可能是“完全应当”“部分应当”“不应当”“不知道”“视情况而定”。模型和残障者自己的选项分布如果差很多（例如模型更多选“完全应当”，残障者可能偏“视情况而定”或“部分”），就说明模型没贴合群体实际态度。
• 统计检验 / t-统计量 /显著性测试： 是什么是什么意思，用来解决什么问题：用统计学方法判断这些差异是不是“偶然的”／“因为样本噪声”导致，还是具有统计学（以及实际）意义。t-统计量就是一种常用的比较两组均值／差异是否显著的工具。 通俗例子：通俗举例：假设你有“模型模拟残障者对是否应免费交通的评分”（按 1-5 分）和“真正残障者自己的评分”，分别算平均值。用 t-统计量比较两个平均值差异是不是大于可能由样本波动带来的差异。如果 t 值高并通过显著性水平（例如 p < 0.05），就说明模型真的偏离了残障群体自己的态度。

02 · 二、疑问：这些偏误是不是因为相关数据本身就很少？

我听完讲座后有这个质疑，是不是大家也会有这种疑问。后来我查找了一些资料，发现确实有很多研究支持“数据稀缺导致偏误／表现不佳”的情形，也有地区 /语言 /群体正在做补救。

• 数据稀缺导致偏误的研究／案例 有研究做了关于“可访问性 (accessibility) 数据集”的元分析（meta-analysis），看了很多公开可用、以残障人士／老年人参与的数据集。结果发现这类数据集在“年龄”的覆盖做得还不错，但在性别、种族／族群背景等方面存在很大的缺口。也就是说，即使是“残障数据集”，在代表性方面也不够完整。 有篇文章专门探讨 AI 医疗应用中“少数族裔或受代表性不足的患者”被预测误差大、医疗结果差的现象。论文认为这些都是“训练数据里代表性不够”的问题，是一种“预先存在的偏见”（pre-existing bias）或“表示性偏差”。 在阿拉伯语及中东／北非地区，有一篇研究叫 The Landscape of Arabic Large Language Models，里面提到一个关键问题：为了训练大规模的阿拉伯语模型（ALLMs），缺乏高质量、数量足够的阿拉伯语原始文本语料。很多时候要靠翻译或把英文语料翻译／本地化，或者把英文＋阿拉伯语混合起来，这就意味着阿拉伯语的“语言习惯 + 文化细节 +方言 +宗教／文化背景”在训练中经常被弱化或者丢失。 在中东地区，UAE 最近推出的“Falcon Arabic”模型就是一个回应这种稀缺问题的例子：他们特意用“本地的高质量阿拉伯语语料”（native dataset，不是完全从英文翻译过来的）来训练，以期望纠正那些外部或混合语料模型在阿拉伯语环境中的误差或表现不佳的问题。

• 所以，数据少确实是一个重要因素，会导致这样那些描述性/事实性的问题：信息遗漏、错用外部资料、回答模糊等 结合讲座里的例子 +这些研究，我们可以看出： 如果本地法律／政策材料／残障群体自身话语在训练语料里很少，模型区分这些材料的能力低，那么模型自然“没学到”“不知道”“不确定” → 出错／模糊／默认用外来模板回答。 数据稀缺还会导致模型在某些残障子群体（比如听力障碍／精神障碍／学习障碍）上的表现比身体功能障碍群体差很多，因为这些语料更加稀少，数据标注少，个体经验表达少。 这种“稀缺导致偏误”通常是系统性的，不是随机偶尔出错。例如阿拉伯语模型在某些方言／文化表达上的不足不是某条问答的问题，而是整个模型在那些语言/表达环境中普遍不够流畅或者出错率高。

• 那么，这“数据稀缺”算偏见吗？ 根据我查询的结果，偏见不仅是故意或有意识的歧视／偏向，有时候是“结构性”的／“无意的”，由数据分布／资源分布决定。 通过“数据少 → 模型表现差 → 对特定群体（残障群体中某些子类别）造成负面效果”，这满足偏见中“不公平性（某些群体比其他群体处境更差）”这个特征。 虽然“数据稀缺”可能被认为是“能力或资源尚未到位”的问题，但如果长期这么下去，忽略这些群体，就变成社会结构性忽视（结构性偏见）。

• 补救／已有趋势 很幸运，不少地方／组织／研究人员已经注意到这个问题，也在做事情来补充 /减少这种偏误： 比如 “Arabic LLMs” 的发展：阿拉伯语模型现在越来越多，尝试收集母语阿拉伯语文本、高质量本地语料，而不是仅靠英文或翻译语料。像“Falcon Arabic”就是一个例子。 有研究提出“synthetic data”（合成数据）或“增强数据”（data augmentation）作为一种补救策略，当真实语料稀缺时，可以用规则模拟、统计模型或人工标注合成类文本来填补空白。这样虽然合成数据本身也有风险（可能引入误差／不够自然／缺乏文化细节），但在没有真实语料的情况下是一个过渡／辅助手段。 还有研究建议在 AI 系统开发中一定要让领域专家 +受影响群体参与进来，以确保标注／任务设计／评价标准不会完全由外来视角／主流群体设定。这样即使数据少，也能尽可能降低偏误。类似 Explanatory Debiasing 的研究就指出，通过让领域专家（比如残障医学／政策专家／残障者本人）参与语料制作或审查，可以在表示性偏差上有显著的改善。

03 · 三、最新案例：断供 +控制权的警示

这讲座的内容还让我联想到一个近期新闻：美国 AI 公司 Anthropic 更新了服务条款，宣布阻止“由中国实体控制（超过 50％ 股权或间接控制）”的公司使用其 Claude 系列模型，无论这些公司在地理上位于哪儿。

这意味着：一些中国公司——包括大型科技企业的子公司或关联企业——如果属于被判断为“由中国公司控制”，就会被断供 Claude 服务。

外部依赖的风险真实可见：你觉得“用别人的大模型＋做点微调或蒸馏就行了”吗？如果对方公司政策变了／法律环境变了／他们觉得出于国家安全／合规需求要断供，那么你的模型就随时可能被“拔掉插头”。

这不是科幻，这是发生在我们这学期的现实里。

04 · 四、为什么国家不能光靠“蒸馏＋外部模型”

结合讲座里的偏见问题 +断供案例，其实我们就更好理解或者说明为什么国家／地区真的需要从头或强力训练属于自己的大模型，而不仅仅依赖“用别人家的模型做点儿调整”。这些理由交织在一起，我们可以从技术、社会、法律、文化、战略五个层面来谈。

• 技术语料与知识准确性： 为什么：为什么“外部模型 + 蒸馏／微调”不够：外部模型对本地法律、政策、文化的知识覆盖稀疏，描述性回答容易出错；训练里面偏向英美制度、表达习惯。 自己训练／部署模型能带来的好处：本土化语料（法律、教育、卫生、残障政策等）直写进模型，回答更准确，更贴近用户实际需求。
• 价值观 &规范性判断： 为什么“外部模型 + 蒸馏／微调”不够：模型内建的价值观往往来源于训练语料主流文化──可能与本地文化／宗教／社会习俗发生冲突。蒸馏／微调通常改动很难以根本改变核心偏向。 自己训练／部署模型能带来的好处：本地价值观可以在训练或微调中明确融入；残障群体、少数信仰者、地方文化参与到模型设计／评估，确保规范性问题的回答更有“本地共识”。
• 社会公平与弱势群体权益： 为什么“外部模型 + 蒸馏／微调”不够：对残障群体、语言少数群体、文化少数群体的不敏感会导致误表征，降低他们获取正确帮助／政策／信息的机会。 自己训练／部署模型能带来的好处：本地模型可以更好地服务这些群体，因为他们的声音、经验可以被包括在训练与评估流程中；模型被设计来识别并减少这些偏差。
• 控制权 &安全 /政策风险： 为什么“外部模型 + 蒸馏／微调”不够：正如 Anthropic 案例所示，外部模型服务可以被政策、法律、商业策略“断供”或限制；依赖别人的 API 或服务，在关键时刻可能失去访问。 自己训练／部署模型能带来的好处：自己训练／部署能保持技术主权，对外部政策或公司变化不那么敏感；更能保证数据隐私、用户安全，也能制定监管与合规标准。
• 文化／语言／习惯适配： 为什么“外部模型 + 蒸馏／微调”不够自己训练／部署模型能带来的好处：语言表达方式、成语典故、礼仪、宗教习俗等外部模型可能“没见过”或“没理解好”。即便蒸馏／微调，也可能表现出外来“音调不对”或“文化错位”的输出。 自己训练／部署模型能带来的好处：地方语言习惯、文化底蕴、本土标注可以全部纳入；模型更自然、更少“翻译腔”或“价值冲突”，用户体验更好，也更容易被社会接受。
• 产业与长远战略： 为什么“外部模型 + 蒸馏／微调”不够自己训练／部署模型能带来的好处：靠别人做基础设施、算力、模型架构，长远看处于被动；国外政策、出口管制等因素会影响整个生态可持续性。 自己训练／部署模型能带来的好处：拥有自己的大模型可以带动本地 AI 产业链：数据标注、算力基础、应用开发、法规/伦理研究等；增强就业与自主创新能力；在国际竞争中更有话语权。

做这个整理的时候，我越来越觉得这些看似“技术研究里的偏误”其实很接地气，对普通用户、对政策制定、对残障权益都有实际影响。模型把事实答错／遗漏，不只是学术里低分的题目；模型在价值判断上的偏差，也可能影响残障者被理解／被对待的方式。

Anthropic 最近的“断供”政策，让人看到了“技术控制权”并非抽象存在：当你严重依赖外部模型，一旦控制规则变了，你可能就会被切断服务或受到限制。与此同时，中东／阿拉伯国家推出像 Falcon Arabic 这样的本地模型，也显示了“本地语料 +本地文化 +自主控制”实实在在在做，而且效果看得见。

很多外来的模型确实解决了不少问题，也带来了便利。但我觉得，从那场讲座出发，我们可以理解为什么国家／地区越来越看重训练自己大模型：不只是追“速度”／追“规模”，更是为了让 AI 在回答描述性问题上能讲本地事实，在规范性问题上能体现本地价值观，在不同残障类别上能有差别地理解与尊重，也在技术／政策变动中拥有一定的稳定性与自主性。

愿我们在科技发展的路上，少一些误解，多一些精确与理解；少一些外来的“模板答案”，多一些贴近本地、贴近每一个人真实生活的声音。