大型语言模型:修订间差异
小无编辑摘要 |
小无编辑摘要 |
||
| 第7行: | 第7行: | ||
== 本地部署模型 == | == 本地部署模型 == | ||
通常使用的文件格式是 [[GGUF]],Instruct 和 Base 这两个术语描述的是模型的训练阶段和功能定位,如果需要研究模型底层能力选择 Base,如果想要快速实现对话与执行任务选择 Instruct。 | 通常使用的文件格式是 [[GGUF]],Instruct 和 Base 这两个术语描述的是模型的训练阶段和功能定位,如果需要研究模型底层能力选择 Base,如果想要快速实现对话与执行任务选择 Instruct。 | ||
== 训练与推理 == | |||
通常来说,参数量越大,模型知识越丰富,整体性能越强。 | |||
温度、top-k、top-p等虽然也被叫作“参数”,但它们影响的是模型在推理阶段的表现结果。 | |||
== 另请参阅 == | == 另请参阅 == | ||