We read every piece of feedback, and take your input very seriously.
To see all available qualifiers, see our documentation.
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Windows
最新
现在R1很多模型提供商不太稳定,有时输出了2000token的时候突然卡住了,等待了两分钟没输出的时候,客户端会直接报错,然后毁掉所有消息。
具体来说是这样的:
在这个错误提示之前,其实已经有了很长的文字和图表内容输出了。 这次,使用度英伟达官方的NIH 服务,不过输出了一会儿卡住了,然后所有数据都丢失了。
如上。
报错应该保留现有数据。
No response
The text was updated successfully, but these errors were encountered:
No branches or pull requests
平台
Windows
版本
最新
错误描述
现在R1很多模型提供商不太稳定,有时输出了2000token的时候突然卡住了,等待了两分钟没输出的时候,客户端会直接报错,然后毁掉所有消息。
具体来说是这样的:
![Image](https://private-user-images.githubusercontent.com/3251548/410996537-d3c1dbc6-3642-4974-8eeb-6c74e270ff25.png?jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmF3LmdpdGh1YnVzZXJjb250ZW50LmNvbSIsImtleSI6ImtleTUiLCJleHAiOjE3MzkzNzc4MzAsIm5iZiI6MTczOTM3NzUzMCwicGF0aCI6Ii8zMjUxNTQ4LzQxMDk5NjUzNy1kM2MxZGJjNi0zNjQyLTQ5NzQtOGVlYi02Yzc0ZTI3MGZmMjUucG5nP1gtQW16LUFsZ29yaXRobT1BV1M0LUhNQUMtU0hBMjU2JlgtQW16LUNyZWRlbnRpYWw9QUtJQVZDT0RZTFNBNTNQUUs0WkElMkYyMDI1MDIxMiUyRnVzLWVhc3QtMSUyRnMzJTJGYXdzNF9yZXF1ZXN0JlgtQW16LURhdGU9MjAyNTAyMTJUMTYyNTMwWiZYLUFtei1FeHBpcmVzPTMwMCZYLUFtei1TaWduYXR1cmU9NWJlNGIzNzYxMzk4ZmM5MGM0MTlhMjkyNGYwNDk1MWY1MjM3NjQ2NDEyYmVjNmNjZTIwOTI2OGZlNDZlM2JmMiZYLUFtei1TaWduZWRIZWFkZXJzPWhvc3QifQ.adAISLLtpaKV0xT9Oh46WPtOKKRNocp1W3lEpFsbuHM)
在这个错误提示之前,其实已经有了很长的文字和图表内容输出了。
这次,使用度英伟达官方的NIH 服务,不过输出了一会儿卡住了,然后所有数据都丢失了。
重现步骤
如上。
预期行为
报错应该保留现有数据。
相关日志输出
附加信息
No response
The text was updated successfully, but these errors were encountered: