litellm - 💡(How to fix) Fix [Bug]: 为什么我部署的qwen14b，输出都是json格式内容，而用云端api输出的就是正常的？

Check for existing issues

• I have searched the existing issues and checked that my issue is not a duplicate.

What happened?

用litellm部署了一个云端模型和一个本地qwen14b模型，我发现调用14b则json格式输出，我改了no thinking ，改了流式输出，调整config，但是都不起作用，哪位大神指导一下，这个问题如何解决的？

Steps to Reproduce

修改 reasoning: true — 无关，其他模型也是 false 没问题 加 system_prompt 禁止 JSON — 无效猜测 加 stream: true — 无效猜测 修改 SOUL.md — 问题不在这里 创建 qwen3-nothink 删除思考标签 — 方向对但执行多次出错，制造了重复模型浪费空间 多次重新生成 Modelfile — 每次都重新拉 9GB 模型 修改 feishu-channel-rules — 问题不在这里 加 extra_body: think: false — 声称有效但实际可能走了云端，没有真正验证 反复让你删除重建模型 — 造成磁盘浪费 多次猜测而不查文档 — 浪费大量时间和 token

根本问题至今未解决：本地 qwen3 通过 LiteLLM 调用时的 JSON 输出问题，还没有经过严格验证。 目前本地用的是qwen3:8b-q8_0

Relevant log output

What part of LiteLLM is this about?

Other

What LiteLLM version are you on ?

v1.85.0

Twitter / LinkedIn details

No response