生成文本时会出现如图所示的<think>消失,导致思考部分当成输出内容展现出来,下文也</think>证实了该问题的存在。测试 -> ollama + open webui
我会出现循环输出的问题
可以看下llama.cpp/ollama加载的log,我这边看log,似乎是prompt的template中,自动向assistant的模板中增加了标签导致的
· Sign up or log in to comment