Prompt 改动后结构化 JSON 输出偶发解析失败时,如何设计约束、示例和兜底校验
进阶版来源:bytedance初级工程师生成链路排查Prompt工程LLM输出兜底校验结构化输出约束
草稿
答案解析
我一般会把这个问题分成三层处理: 模型输出约束、Prompt 示例设计、服务端兜底校验与修复 。因为只靠 Prompt 约束模型“必须输出 JSON”,在真实线上场景里是不够稳定的,尤其是 Prompt 改动后,很容易出现多余解释、字段缺失、类型不一致、JSON 转义错误这类问题。
在 Prompt 设计上,我会明确告诉模型输出格式,比如:
这里有几个细节比较重要:
明确要求“只输出 JSON”,避免出现“下面是结果:”这种前缀。 明确字段名、字段类型、是否必填。 明确空值策略,比如用 null、"" 还是 []。 明确不要输出 Markdown 代码块,否则有些模型会包一层 ```json。 如果字段是枚举值,要列出允许范围,比
登录后查看完整内容
