Skip to main content

【🔥爽了】GPT6-Astra把我本地部署的GLM5.3Flash速度提高了50%！🌐 链接:

  1. 【🔥爽了】GPT6-Astra把我本地部署的GLM5.3Flash速度提高了50%！

    🌐 链接: https://linux.do/t/topic/2858936

    🔍 关键词: #api #gpt

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-09-05 14:27:28
    LINUX DO
    【🔥爽了】GPT6-Astra把我本地部署的GLM5.3Flash速度提高了50%！
    前几天刚买了两台 DGXSpark 然后部署GLM5.3Flash，目前社区里面 效果最好、速度最快（相对）的方案是 Mia-lab的 MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks: GLM-5.3 Flash EXL3 for 2x DGX Sparks 但是它prose decode只有27tps左右 结构化代码会提高 在真实harness上下文中实际速度甚至只有24-30波动，还是偏慢了。 然后让Astra直接帮我定制化内核，在不损失精度的情况下优化解码速度，…