开放权重描述的是能否获得训练后的模型参数;开源 AI 关注使用、研究、修改和分享系统所需的自由与材料。只有权重下载链接,还不能回答许可和可复现性问题。
三个标签回答的问题不同
| 标签 | 通常意味着什么 | 仍需核对什么 |
|---|---|---|
| API 访问 | 可以向托管模型发送请求。 | 服务条款、数据保留、可用性,以及是否另行提供权重。 |
| 开放或可下载权重 | 可在规定条件下下载训练后的参数。 | 商用、再分发、修改、用途限制,以及代码和数据信息。 |
| 开源 AI | 对相关自由及其支撑材料的主张。 | 采用哪个定义,以及具体发布是否符合该定义。 |
“开放权重”是方便的描述,但不对应唯一的标准许可证。两个都能下载的模型,允许的使用方式可能不同。托管服务也可能同时提供另行许可的本地模型。应评估具体版本,而不是只看公司名或模型家族。
OSI 定义要求什么
开放源代码促进会的 Open Source AI Definition 1.0 描述了为任何目的使用系统、研究其工作方式、修改并分享系统的自由。其适合修改的形式包含参数、相关代码,以及足够详细的训练数据信息。
这比“开放了权重”更具体。定义并非简单要求全部原始训练数据都能下载,而是规定了数据信息要求,并区分不同类型的训练数据。评估某个模型的开源主张时,应直接阅读定义与发布材料,不能仅凭宣传标签下结论。
构建应用前的检查清单
- 记录准确模型与版本。保存仓库、检查点标识和许可证版本。同一模型家族的不同版本可能采用不同条款。
- 阅读许可证及其引用的政策。检查使用、修改、再分发、署名和衍生作品条件。不要从“可以下载”推断“允许商用”。
- 检查模型卡片。关注预期用途、局限、训练信息、评估条件与支持语言。缺失信息应被明确记录为不确定项。
- 核对代码和分词器要求。确定本地需要运行哪些组件,是否需要自定义代码。权重可获取不等于兼容任意运行框架。
- 检查下游产物。量化文件、适配器和合并模型可能带来新的来源与兼容性问题。确认基础模型和转换流程。
- 保留部署依据。保存许可文本、模型卡片和版本标识,防止后续升级悄悄改变先前假设。
能下载,不等于容易部署
模型大小只是部署条件的一部分。内存还要容纳 KV 缓存、运行时缓冲区和其他分配。长上下文及并发请求可能显著增加需求。量化可以降低权重存储量,但也可能改变数值表现、兼容性和速度。
可以先用大模型显存估算器计算,再测试准确的模型、格式和工作负载。估算不是吞吐量测试,也不保证模型能在某张显卡上运行。
本地推理让你控制模型在哪里执行,但不会自动使整个应用保持私密。下载、更新检查、遥测与连接的工具仍可能访问外部服务,需要检查完整部署及其配置。
怎样公平比较模型发布
先列出任务和约束:语言、准确性、延迟、内存预算和允许用途。使用相同评估集,并尽量保持提示词和推理预算一致。把许可适用性与能力测试分开:模型即使表现出色,也未必适合计划中的分发方式。
一个模型可以提供有价值的访问能力,同时不符合某种开源定义。准确用词能帮助读者理解这一差别。本站的开放模型专题追踪发布和本地推理进展,具体条款仍应回到原始发布核对。
来源与适用范围
- OSI:Open Source AI Definition 1.0,本文比较所采用的定义。
- Hugging Face:Model Cards,介绍模型用途、局限、训练和评估记录。
- Transformers 量化文档,介绍量化方案与支持情况。
本文比较概念并提供阅读清单,不逐一判定所有模型,也不对具体许可争议作结论。反馈错误或建议更新。