了解 FDE
FDE 术语表
FDE 和 AI 落地工作中常用的词,用尽量平实的话解释清楚。
- FDE(前沿部署工程师)
- 派驻到客户现场的工程师,负责把 AI 和软件能力变成客户业务里真正在用、能看到结果的系统。工作范围从需求访谈一直到上线交付。
- AI 落地
- 把 AI 能力用到具体业务流程里,并产生可以衡量的结果。演示能跑通不算落地,被业务持续使用才算。
- 场景判断
- 在客户提出的众多想法里,判断哪个场景价值高、数据和条件具备、风险可控,值得先做。这是 FDE 最核心的能力之一。
- 范围蔓延
- 项目进行中需求不断增加,导致周期和成本失控。应对方法是在方案里明确写出「不做清单」,并管理每一次变更。
- PoC(概念验证)
- 用小范围、短周期的试点验证一个方案是否可行。好的 PoC 有明确的成功指标,结束时能回答「要不要继续投入」。
- 基线
- 项目开始前的现状数据,例如现在的平均回复时间、出错率。没有基线,就无法证明项目带来了改善。
- 大模型(LLM)
- 在大量文本上训练出来的语言模型,能理解和生成自然语言。FDE 通常不训练大模型,而是把它和企业的知识、系统结合起来使用。
- 提示词
- 给模型的指令和上下文。系统提示词通常包含角色、任务、边界、输出格式,以及不确定时该怎么做。
- RAG(检索增强生成)
- 先从企业知识库里检索出相关内容,再让模型基于这些内容作答。它让模型能使用企业自己的、最新的知识,并减少编造。
- 知识库治理
- 决定哪些文档可以进入知识库,并保持它们准确和最新。包括排除过期和互相冲突的内容、剔除敏感信息、指定维护负责人。
- Agent(智能体)
- 能够根据目标自己决定步骤、调用工具并完成任务的 AI 系统。相比单次问答,Agent 可以查询系统、执行操作,也因此需要更严格的权限和兜底设计。
- 工具调用
- 让模型按约定的格式请求调用外部功能,例如查询订单、发送邮件。它是模型与业务系统对接的主要方式。
- 幻觉
- 模型生成了看起来合理但实际不正确或没有依据的内容。常见的控制办法是限定知识来源、要求不确定时明确说明,以及用评测集检查。
- 评测集
- 一组用来检验 AI 系统的测试输入和对应的通过标准。好的评测集覆盖正常问题、边界情况、知识库以外的问题和对抗性输入。
- 隐藏测试集
- 搭建系统的人事先看不到的测试用例。它检验的是系统在没见过的问题上的表现,可以避免针对已知题目做调整。
- 提示词注入
- 用户或外部内容里夹带指令,试图让模型忽略原有规则,例如泄露内部信息。面向外部用户的系统必须针对这类输入做测试。
- 兜底策略
- 当 AI 无法回答或不该回答时的处理方式,例如明确告知、转人工、留下联系方式。兜底设计决定了系统出错时的后果有多大。
- 人在回路
- 在关键环节保留人工审核或确认,AI 负责起草和建议,人负责决定。适用于出错代价高的场景,例如对外报价、医疗建议。
- 私有化部署
- 把模型和应用部署在客户自己的服务器或内网里,数据不离开客户的环境。常见于制造、金融、政务和医疗行业。
- 数据出域
- 数据离开企业自己控制的环境,例如发送给外部的模型服务。涉及个人信息或商业秘密时,需要在方案阶段确认是否允许以及需要哪些手续。
- 灰度发布
- 先在小范围(部分门店、部分时段、部分用户)上线,观察效果和问题,再逐步扩大。它能把出错的影响控制在小范围内。
- 回滚
- 上线后发现严重问题时,退回到之前的状态。上线计划里应当事先写明什么情况下回滚、谁来决定、怎么操作。
- ROI(投入产出比)
- 项目带来的收益与投入的比值。FDE 需要用客户自己的数据来测算,例如节省的工时、减少的流失、缩短的停机时间。
- 学习即考试
- ChinFDE 的学习方式:学习者在模拟的客户项目中完成访谈、方案、搭建和复盘,过程中留下的产出就是考核依据,不另设笔试。
Forward Deployed Engineer
Use-case selection
Scope creep
Proof of Concept
Baseline
Large Language Model
Prompt
Retrieval-Augmented Generation
Tool use / Function calling
Hallucination
Evaluation set
Held-out test set
Prompt injection
Fallback
Human-in-the-loop
On-premises deployment
Gradual rollout
Rollback
Return on Investment