Keyboard shortcuts

Press or to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

附录 C:术语表

本术语表收录了大模型应用开发过程中常用的中英文技术术语,便于读者查阅和理解。

C.1 大模型基础

英文术语中文术语说明
Large Language Model (LLM)大语言模型基于大规模语料训练的语言模型
Foundation Model基座模型大规模预训练模型,可适配多种任务
Multimodal Model多模态模型能处理文本、图像、音频等多种模态
Prompt提示词输入给模型的指令或问题
Prompt Engineering提示工程设计和优化提示词的技术
Token词元模型处理的最小单位
Context Window上下文窗口模型一次能处理的最大 token 数
Temperature温度参数控制模型输出随机性
Top-p SamplingTop-p 采样核采样,一种输出生成策略

C.2 Transformer 架构

英文术语中文术语说明
TransformerTransformer一种神经网络架构
Self-Attention自注意力机制Transformer 的核心组件
Multi-Head Attention多头注意力多个注意力头并行计算
Feed-Forward Network (FFN)前馈神经网络Transformer 中的全连接层
Positional Encoding位置编码为序列添加位置信息
Layer Normalization层归一化稳定训练的归一化技术
Residual Connection残差连接缓解梯度消失的跳跃连接
KV Cache键值缓存加速推理的缓存机制

C.3 RAG 相关

英文术语中文术语说明
Retrieval-Augmented Generation (RAG)检索增强生成结合检索和生成的架构
Vector Database向量数据库存储和检索向量的数据库
Embedding向量嵌入将文本转为数值向量
Chunk文本块文档切分后的片段
Hybrid Search混合检索结合向量和关键词的检索
Reranking重排序优化检索结果排序
BM25BM25基于关键词的经典检索算法
HNSWHNSW一种高效向量索引算法
MMR (Maximal Marginal Relevance)最大边际相关性兼顾相关性和多样性的检索
HyDE (Hypothetical Document Embeddings)假设文档嵌入一种检索增强技术

C.4 Agent 相关

英文术语中文术语说明
Agent智能体能自主决策和执行任务的 AI 系统
ReActReAct推理+行动的 Agent 框架
Function Calling函数调用模型调用外部工具的机制
Tool Use工具使用Agent 调用外部工具的能力
Chain of Thought (CoT)思维链引导模型逐步推理的技术
Tree of Thought (ToT)思维树探索多种解决路径的框架
Planning规划Agent 分解和计划任务的能力
Memory记忆Agent 存储和回忆信息的能力
Short-term Memory短期记忆当前对话上下文
Long-term Memory长期记忆持久化存储的信息

C.5 模型训练与微调

英文术语中文术语说明
Fine-tuning模型微调在预训练基础上继续训练
Full Fine-tuning全参数微调更新全部模型参数
PEFT (Parameter-Efficient Fine-Tuning)高效参数微调只更新部分参数的微调方法
LoRA (Low-Rank Adaptation)LoRA一种高效的微调技术
QLoRAQLoRA量化的 LoRA,减少显存占用
Adapter适配器添加的可训练小型模块
Instruction Tuning指令微调提升指令遵循能力
RLHF (Reinforcement Learning from Human Feedback)人类反馈强化学习优化模型对齐的技术
Reward Model奖励模型评估输出质量的模型
PEFT提示微调仅调整少量提示参数

C.6 阿里云产品术语

英文术语中文术语说明
DashScope灵积阿里云大模型服务平台
PAI机器学习平台阿里云机器学习服务
DSW交互式建模PAI 的 Jupyter 环境
EAS弹性算法服务PAI 的模型部署服务
FC / Function Compute函数计算Serverless 计算服务
ACK容器服务阿里云 Kubernetes 服务
ASK容器服务 Serverless无服务器 Kubernetes
OSS对象存储云存储服务
RDS云数据库关系型数据库服务
SLS日志服务日志采集与分析
ARMS实时监控应用性能监控服务

C.7 DevOps 与云原生

英文术语中文术语说明
Docker容器应用打包和隔离技术
Container容器轻量级虚拟化
Image镜像容器的模板
DockerfileDocker 配方定义镜像构建步骤
Kubernetes / K8s容器编排容器自动化管理平台
PodPodKubernetes 最小调度单位
Deployment部署应用部署配置
Service服务网络暴露方式
Ingress入口HTTP/HTTPS 路由
ConfigMap配置映射非敏感配置存储
Secret密钥敏感信息存储
HPA (Horizontal Pod Autoscaler)水平 Pod 自动扩缩容根据负载自动调整副本数
HelmHelmKubernetes 包管理器
CI/CD持续集成/持续部署自动化构建和发布
Auto Scaling自动扩缩容根据需求自动调整资源
Serverless无服务器不需管理服务器的模式

C.8 安全与合规

英文术语中文术语说明
API KeyAPI 密钥访问 API 的凭证
IAM (Identity and Access Management)身份与访问管理权限控制
RBAC (Role-Based Access Control)基于角色的访问控制角色化权限管理
VPC (Virtual Private Cloud)虚拟私有云隔离的网络环境
TLS / SSL传输层安全加密传输协议
WAF (Web Application Firewall)Web 应用防火墙应用层安全防护
Rate Limiting限流控制请求频率
Input Validation输入验证校验用户输入
Prompt Injection提示注入针对 LLM 的攻击
Content Filtering内容过滤过滤不当内容

C.9 性能与监控

英文术语中文术语说明
Latency延迟请求响应时间
Throughput吞吐量单位时间处理量
TTFT (Time to First Token)首个 Token 时间开始返回的时间
TPOT (Time Per Output Token)每 Token 时间输出每个 Token 的时间
RPS (Requests Per Second)每秒请求数QPS,查询每秒
GPU Memory显存GPU 内存
Throughput吞吐量单位时间处理的 token 数
PrometheusPrometheus监控系统
GrafanaGrafana可视化仪表盘
Logging日志系统运行记录
Tracing链路追踪请求追踪
Metrics指标可测量的数据

C.10 其他常见术语

英文术语中文术语说明
API (Application Programming Interface)应用程序接口交互协议
SDK (Software Development Kit)软件开发包开发工具集
REST / RESTfulREST一种 API 设计风格
JSONJSON数据格式
gRPCgRPC高性能 RPC 框架
WebhookWebhook事件回调通知
CRUD增删改查基本数据操作
CRON定时任务周期性执行
Webhook网络钩子事件触发通知
Middleware中间件请求处理中间层
Streaming流式输出边生成边返回
Batch Processing批处理批量处理任务