知识库

基础概念词汇

文本与生成

模型处理文本的最小单位。文本先被切分为 token,再转换为向量参与计算。英文中一个常见单词约为 1 个 token,中文一个汉字约为 1 到 2 个 token。token 同时是计费单位与上下文长度的衡量标准。

发送给模型的输入文本，包含指令、问题、上下文与期望的输出格式。高质量提示词通常包含角色设定(Role)、背景(Context)、指令(Instruction)、约束(Constraints)与示例(Few-Shot)。围绕提示词的系统化优化方法称为提示词工程。

模型一次调用能处理的最大 token 数，输入与输出合并计算，决定了模型的「短期记忆」容量，超出限制时最早的内容会被截断或遗忘。以平台在售型号为例:claude-sonnet-5 为 1M,gpt-5.6-sol 为 1.05M,kimi-k3 为 1M,具体以模型广场为准。

控制输出随机性与创造性的参数，常用取值 0 到 2。低温度(0 至 0.3)输出稳定、确定性高，适合代码生成与事实问答;高温度(0.7 以上)输出更多样，适合创意写作与头脑风暴。

另一个控制随机性的参数：生成下一个词时，只从累积概率达到 p 的最高概率候选词中采样。取值越小输出越保守，越大输出越多样。一般建议温度与 Top-p 二选一调整，不要同时改动。

把文本转换为固定长度数值向量的过程，语义相近的文本在向量空间中距离更近，是语义搜索、推荐系统与 RAG 的基础。平台提供 /v1/embeddings 端点，具体可用嵌入模型以模型广场（控制台「模型服务」）为准。

专为存储、索引与检索高维向量设计的数据库，支持高效的相似度搜索，是 RAG 应用的关键基础设施。常见产品:Milvus、Pinecone、Chroma、Qdrant、pgvector。

Retrieval-Augmented Generation 的缩写：先从知识库中检索与问题相关的内容，再连同问题一起交给模型作答。它让模型能够引用私有数据与新知识，并显著降低幻觉，是知识问答类应用的主流方案。

预训练指在海量通用语料上进行的大规模自监督学习，赋予模型基础语言与知识能力;微调指在特定任务数据上继续训练，使模型适配具体场景。对多数应用而言，提示词工程与 RAG 已能覆盖大部分定制需求。

Transformer 架构的核心创新：生成每个词时，动态计算输入序列中各位置对当前任务的重要程度。自注意力(Self-Attention)让序列中每个位置都能关注其他所有位置，从而捕捉长距离依赖关系。

衡量语言模型预测能力的指标，数值越低表示模型对文本的预测越有信心，生成通常越通顺。困惑度不完全等同于人类感知的质量，当前业界更多依赖基准测试与人工评估。