Posteo

Zyphra发布首个MI355X推理评测：长文本直逼B200

币界网
币界网
币界网消息，Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测，测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1，并对标NVIDIA B200。实测显示，AMD的288GB显存远超B200的180GB，使其在处理超长文本时能更高效地利用缓存，降低硬件成本。然而，AMD在芯片间互联上处于劣势，B200通过NVLink交换机实现900GB/s带宽，而MI355X采用点对点直连，通信效率较低。为弥补这一短板，Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示，尽管在单请求速度上NVIDIA B200仍领先，但在长文本场景下，Zyphra推理栈的吞吐量逐渐逼近B200，证明AMD在长文本生产环境中具备竞争力。
NVDA+1.89 %
AMD+9.56 %
18:44 · 19/05/26·6.97 K visualizaciones·
Visitar la fuente
0
0

Deslinde de responsabilidades: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Envía la primera respuesta!

Related Flash News

Avatar fuenteBlockbeats•Hace 1 s

Anuncio: El informe de resultados del primer trimestre de Nvidia y las actas de la reunión de la Reserva Federal se publicarán juntos esta noche

Avatar fuenteOdaily•Hace 1 h

Bitget UEX sigue expandiéndose y ahora soporta más de 340 activos bursátiles estadounidenses

Avatar fuente币界网•Hace 4 h

Un modelo de código abierto de un billón de parámetros ejecuta 981 palabras por segundo, y Cerebras prueba la velocidad de KimiK2.6 29 veces

Avatar fuente币界网•Hace 6 h

Swissquote Group: El impacto del informe de resultados de Nvidia en el sentimiento de los inversores con IA se ha debilitado

Avatar fuente币界网•Hace 8 h

Duan Yongping realizó una compra masiva de Tesla, redujo sus participaciones en Apple y vendió Alibaba

Avatar fuenteTechFlow•Hace 15 h

La batalla por los beneficios de Nvidia se acerca, y los tres principales productos de trading de Bybit ayudan a los usuarios a captar las fluctuaciones de la IA a través de las fronteras

Avatar fuenteOdaily•Hace 23 h

El sector estadounidense de semiconductores experimentó una reversión en forma de "V" durante la sesión, y la caída de muchas acciones se estrechó bruscamente o incluso alzó

Avatar fuenteChainCatcher•Hace 1 d

Los futuros de los índices bursátiles estadounidenses bajaron ligeramente y las acciones de semiconductores continuaron cayendo

Avatar fuente币界网•Hace 1 d

Bitget Wallet añade 130 nuevas acciones tokenizadas de Xstocks

Avatar fuenteChainCatcher•Hace 1 d

Instituciones: La demanda de centros de datos con IA podría impulsar la revaloración de los mineros de Bitcoin, y se han anunciado más de 90.000 millones de dólares en cooperación