sol5.6首字异常问题🌐 链接:

最近sol的发布让gpt一片大火，但是普遍反映sol模型的首字特别慢。 鼠鼠平时自己搭了一个个人公益站免费分发给身边的人使用。收到反馈说sol的首字时间异常，具体见图：差异还是挺大的 这个感觉是明显异常了，而且比账号直接登录的回复要慢很多。 鼠鼠的路线是cpa+new-api。分别部署在两个服务器上，cpa-30m带宽（国外）、new-api5m带宽（国内）。分别都套了一层nginx。感觉应该不是网络问题，因为5.5，terra等模型使用速度都还算正常。但是科研工作又很需要比较聪明的模型…