上一题下一题

Prompt 改动后结构化 JSON 输出偶发解析失败时,如何设计约束、示例和兜底校验

进阶版
来源:bytedance初级工程师生成链路排查Prompt工程LLM输出兜底校验结构化输出约束
草稿该题目为草稿状态,前台公开题库中不可见。
答案解析

我一般会把这个问题分成三层处理: 模型输出约束、Prompt 示例设计、服务端兜底校验与修复 。因为只靠 Prompt 约束模型“必须输出 JSON”,在真实线上场景里是不够稳定的,尤其是 Prompt 改动后,很容易出现多余解释、字段缺失、类型不一致、JSON 转义错误这类问题。

在 Prompt 设计上,我会明确告诉模型输出格式,比如:

这里有几个细节比较重要:

明确要求“只输出 JSON”,避免出现“下面是结果:”这种前缀。 明确字段名、字段类型、是否必填。 明确空值策略,比如用 null、"" 还是 []。 明确不要输出 Markdown 代码块,否则有些模型会包一层 ```json。 如果字段是枚举值,要列出允许范围,比

登录后查看完整内容