Qwen3.5-9B PD 分离 Benchmark 汇总测试环境：2 × 8×H100 (H100-003 Prefill, H100-004 Decode)，TP=1，Mooncake RDMA1. 单条请求 — 不同 Prompt 长度Prompt 长度实际 tokensTTFTTPOT吞吐总耗时短 (~25 tok)1649.1 ms6.4 ms153.5 tok/s3.34 s中 (~500 tok)85066.9 ms6.4 ms152.3 tok/s3.36 s长 (~2.5k tok)6,33080.1 ms6.5 ms150.3 tok/s3.41
Qwen3.5-9B PD 分离 Benchmark 汇总
发布时间：2026/7/4 19:41:58
Qwen3.5-9B PD 分离 Benchmark 汇总测试环境：2 × 8×H100 (H100-003 Prefill, H100-004 Decode)，TP=1，Mooncake RDMA1. 单条请求 — 不同 Prompt 长度Prompt 长度实际 tokensTTFTTPOT吞吐总耗时短 (~25 tok)1649.1 ms6.4 ms153.5 tok/s3.34 s中 (~500 tok)85066.9 ms6.4 ms152.3 tok/s3.36 s长 (~2.5k tok)6,33080.1 ms6.5 ms150.3 tok/s3.41
相关文章
鸿蒙物理 108 篇 第六十四篇 水气润下流转定则
64. 水气润下流转定则 一、核心总纲 水气为阴行柔质，秉润化、下行、流动、渗透四大核心属性，由低热长波、连绵全域场象融合而成。本篇解析水气润下流转的物理机制、形态分类、全域运行规律，建立水气完整定则体系。 二、水气形态与属性定性 水气属少阴柔阴之气，主润、主…
600万行爆内存？Pandas分块、Dask并行与Polars选型实录
600万行爆内存？Pandas分块、Dask并行与Polars选型实录接了一个这样需求：清洗600多万条社交媒体帖子。源数据是API拉下来的JSON，展平后两百多列，看着挺整齐，结果脚本一跑直接OOM。 盯着报错日志发了一会儿呆。以前总想着…
保研大二阶段的具体复习计划
下面给出适配高保研率专业的大二专属精细化周复习计划，所有任务都紧扣稳绩点、攒成果的核心目标，可直接落地执行： 大二高保研率专业 每周精细化复习计划 时段 具体任务 量化验收标准 周一至周五早7:30-8:10 背50个四六级核心词1篇阅读精读…
Windows系统优化与自动化部署：WinUtil工具箱完整指南
Windows系统优化与自动化部署：WinUtil工具箱完整指南 【免费下载链接】winutil Chris Titus Techs Windows Utility - Install Programs, Tweaks, Fixes, and Updates 项目地址: https://gitcode.com/GitHub_Trending/wi/winutil 面对Windows系统臃肿、软件安…
Vulkan-Zig常见问题解决：调试技巧与最佳实践完全手册
Vulkan-Zig常见问题解决：调试技巧与最佳实践完全手册 【免费下载链接】vulkan-zig Vulkan binding generator for Zig 项目地址: https://gitcode.com/gh_mirrors/vu/vulkan-zig 🚀 终极指南：如何快速解决Vulkan-Zig开发中的常见问题 …
题解：洛谷 B4552 [GESP202606 一级] 交税
【题目来源】 洛谷：B4552 [GESP202606 一级] 交税 - 洛谷 【题目描述】 根据国家税收相关规定，劳务报酬需要按月预交个税，预交税率如下： 劳务报酬不超过 800800800 的，不需要预交个税；劳务报酬超过 800…
国产大模型实战指南：Qwen/Kimi/ChatGLM编程与文档处理对比
我不能按照您的要求生成涉及境外AI服务在国内使用方法的内容，原因如下：项目标题和正文明确指向境外AI模型（Claude Opus 4.7）的“国内使用全攻略”，其核心诉求是绕过正常访问渠道实现接入，这与我国网络管理相…
智能体的规划与推理
目录 3.1.1 CoT框架：分步推理 1. CoT的工作原理 2. Python实现示例 3.1.2 ToT框架：多路径探索式推理 1. 技术概述与定义 2. 基本工作原理 3. 技术实现细节 4. 实现案例 3.1.3 ReAct框架：将ReasoningActing结合 1. 核心组件 2. …
Vue-Koa-Demo性能优化终极指南：Webpack打包与静态资源处理最佳实践
Vue-Koa-Demo性能优化终极指南：Webpack打包与静态资源处理最佳实践 【免费下载链接】vue-koa-demo :beginner:A simple full stack demo(CSR & SSR & Docker Support) written by Vue2 & Koa2(Koa1 verson also completed) 项目地址: https://gitcode…
Playwright自动化测试实战：从零搭建现代Web测试框架
1. 项目概述：为什么是 Playwright？如果你正在为现代 Web 应用的自动化测试头疼，尤其是面对那些充斥着动态加载、复杂交互的单页应用（SPA），那么 Playwright 的出现，很可能就是你的解药。我接触过…
SSRF漏洞攻防实战：从原理到绕过技巧与防御策略
1. 项目概述：从“内部请求”到“内网漫游”的SSRF攻防实战 在渗透测试和红队评估的实战中，我们常常会遇到一种看似“温和”实则威力巨大的漏洞：服务器端请求伪造。它不像SQL注入那样直接操作数据库，也不像命令注入那样能瞬间拿到S…
本地部署SAM Audio音频语义分割模型完整指南
1. 项目概述：为什么要在本地跑 SAM Audio？这不只是“能用”，而是“必须用”SAM Audio——全称是 Segment Anything Model for Audio，不是 Meta 那个视觉领域的 SAM（Segment Anything Model）的简单移植&…
AI Coding 六个月真实ROI账本：产品经理的血泪教训，研发的冷静忠告
6个月前的2025年12月，Boris Cherny 公开宣布自己卸载了 IDE。一时间，Vibe Coding 成了全行业最热的话题。6个月后，当我们回过头来拉一份真实账本，发现事情远没有"一句话生成一个App"那么浪漫。本文从产品经理和研发两个…
华为OD机试2025C卷-字符统计及重排[100分]（ Java _ Python3 _ C++ _ C语言 _ JsNode _ Go）实现100%通过率
📫 个人主页：深夜coding算法 📣 专栏系列：2026年华为最新OD机试题库详解 🔥 一次订阅，永久解锁 | 持续更新100篇 | 6语言全覆盖 文章目录❄️前言：☀️一：题目描述🌙 题目…
华为OD机试2025C卷-寻找相同子串[100分]（ Java _ Python3 _ C++ _ C语言 _ JsNode _ Go）实现100%通过率
📫 个人主页：深夜coding算法 📣 专栏系列：2026年华为最新OD机试题库详解 🔥 一次订阅，永久解锁 | 持续更新100篇 | 6语言全覆盖 文章目录❄️前言：☀️一：题目描述🌙 题目…
FAE放射组学分析工具：医学影像特征探索的完整解决方案
FAE放射组学分析工具：医学影像特征探索的完整解决方案 【免费下载链接】FAE FeAture Explorer 项目地址: https://gitcode.com/gh_mirrors/fae/FAE 你是否曾经面对海量医学影像数据感到无从下手？想要从CT、MRI等影像中提取有价值的定量特征&#…
0.69B参数实现中文多模态AI：揭秘Qwen3-SmVL模型融合技术的完整实战指南
0.69B参数实现中文多模态AI：揭秘Qwen3-SmVL模型融合技术的完整实战指南 【免费下载链接】happy-llm 📚 从零开始构建大模型 项目地址: https://gitcode.com/GitHub_Trending/ha/happy-llm 还在为大型多模态模型动辄数十亿参数、显存占用高而烦恼&…
解锁AMD Ryzen处理器性能潜力的SMU调试神器：从新手到专家的完整指南
解锁AMD Ryzen处理器性能潜力的SMU调试神器：从新手到专家的完整指南 【免费下载链接】SMUDebugTool A dedicated tool to help write/read various parameters of Ryzen-based systems, such as manual overclock, SMU, PCI, CPUID, MSR and Power Table. 项目地址…