[Issue]生成文字时<think>缺失

#8
by AndyZhang32767 - opened

截屏0007-02-08 23.08.00.png
生成文本时会出现如图所示的<think>消失,导致思考部分当成输出内容展现出来,下文也</think>证实了该问题的存在。
测试 -> ollama + open webui

我会出现循环输出的问题

This comment has been hidden

可以看下llama.cpp/ollama加载的log,我这边看log,似乎是prompt的template中,自动向assistant的模板中增加了标签导致的

Sign up or log in to comment