部署成功试了后，有时会循环输出，还有对中文不是很友好

[chenhaoqiang]

• 循环输出bug
  

• 有的使用提示词后可以输出中文，有的不行
  

[ChenTao98]

第一张图片应该是因为使用了ocr的问题。我这边也有出现这情况。
本地部署，感觉效果不如开放的demo那么好。相同的图片和问题，本地回答效果不怎么好，而且还会重复回答直到最大长度。

[yanwei-li]

Hi, thanks for your report! The 7B model is actually far from the implemented 34B demo. Please try 34B model for a better experience. And we plan to support better Chinese model recently.

[chenhaoqiang]

第一张图片应该是因为使用了ocr的问题。我这边也有出现这情况。

本地部署，感觉效果不如开放的demo那么好。相同的图片和问题，本地回答效果不怎么好，而且还会重复回答直到最大长度。

可能是7b的原因，34b跑不动，没算力了😂

[chenhaoqiang]

Hi, thanks for your report! The 7B model is actually far from the implemented 34B demo. Please try 34B model for a better experience. And we plan to support better Chinese model recently.

Thank you!😁