v1 固定为 Qwen3-8B · NVIDIA RTX 4090 · vLLM 0.26.0。ModelScope 是大陆默认模型源;国产 GPU 和其他模型属于商业化后的独立 SKU,不会被当成当前能力展示。
总序列预算:模板后 prompt + 生成上限 ≤ 8,192;这不是 7,500 纯输入词元承诺。
正在读取连接状态