Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

您好,请问模型回复的末尾偶尔会出现形如: "✿ARGS✿: {"query": "西游记,孙悟空"}"的特殊token,是什么原因呢? #365

Open
GreatWildFire opened this issue Sep 23, 2024 · 3 comments

Comments

@GreatWildFire
Copy link

我看到在qwen_fncall_prompt.py中有remove_incomplete_special_tokens函数来处理这个问题,但是还是会偶尔出现特殊的token。

此时并没有调用工具,只会在末尾出现"✿ARGS✿"特殊标记。

期待您的指导,谢谢。

@GreatWildFire GreatWildFire changed the title 您好,请问偶尔会出现模型回复的末尾有: ✿ARGS✿: {"query": "西游记,孙悟空"} 是什么原因呢? 您好,请问模型回复的末尾偶尔会出现形如: "✿ARGS✿: {"query": "西游记,孙悟空"}"的特殊token,是什么原因呢? Sep 23, 2024
@JianxinMa
Copy link
Contributor

请问有简单的复现脚本吗?我看看。。

@GreatWildFire
Copy link
Author

请问有简单的复现脚本吗?我看看。。

感谢您的回复。
还没有复现脚本,我的assistant是基于fncall_agent.py做的,这个问题只出现过一次,后续再测试就没出现过了。我再多尝试尝试,有新的发现我再请教您。

@GreatWildFire
Copy link
Author

请问有简单的复现脚本吗?我看看。。

大佬您好,目前找到的原因是no function call时,函数remove_incomplete_special_tokens移除了以special tokens结尾或者不完整的special tokens内容。但对于生成的形如:✿ARGS✿: {"query": "西游记,孙悟空"} 的内容则无法移除。

def remove_incomplete_special_tokens(text: str) -> str:

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants