المنشور

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

إخلاء المسؤولية: يُقدَّم محتوى OKX Orbit لأغراض إرشادية فقط. اعرف المزيد

الردود

لا تعليقات حتى الآن. كُن أول من يرد!

Related Flash News

الصورة الرمزية للمصدرChainCatcherمنذ 3 ساعاتٍ

الرئيس التنفيذي لشركة نفيديا: وحدات معالجة فيرا تفتح سوقا جديدة بقيمة 200 مليار دولار لشركة نفيديا

الصورة الرمزية للمصدر币界网منذ 3 ساعاتٍ

تم رفع تهديد إضراب سامسونج، وارتفع سوق الأسهم الكوري الجنوبي بأكثر من 6٪

الصورة الرمزية للمصدر币界网منذ 4 ساعاتٍ

Cohere Open Source Command A+: نموذج MoE الكبير المكون من 218 معاملة، يركز على الوكلاء على مستوى المؤسسة وسيادة البيانات

الصورة الرمزية للمصدر币界网منذ 5 ساعاتٍ

أعلن ماسك أن سبيس إكس توفر خدمات طاقة الحوسبة بالذكاء الاصطناعي وهي تجري محادثات مع شركات أخرى

الصورة الرمزية للمصدرChainCatcherمنذ 9 ساعاتٍ

تحولت Nvidia إلى إيجابية بعد ساعات العمل، حيث تجاوزت إيرادات الربع الأول التوقعات

الصورة الرمزية للمصدرBlockbeatsمنذ 13 ساعة

إعلان: سيتم إصدار تقرير أرباح الربع الأول من نفيديا ومحاضر اجتماع الاحتياطي الفيدرالي معا الليلة

الصورة الرمزية للمصدرChainCatcherمنذ 13 ساعة

تظهر التحليلات أن البيتكوين يتعرض لضغط مرة أخرى، وأن مشاعر المخاطر في الأسهم الأمريكية تثبط سوق العملات الرقمية

الصورة الرمزية للمصدرOdailyمنذ 15 ساعة

تواصل Bitget UEX توسيع قدرتها وتدعم الآن أكثر من 340 أصلا أسهما أمريكيا

الصورة الرمزية للمصدر币界网منذ 19 ساعة

نموذج مفتوح المصدر ذو تريليون معلمة يعمل بسرعة 981 كلمة في الثانية، ويختبر Cerebras سرعة KimiK2.6 على 29 مرة

الصورة الرمزية للمصدر币界网منذ 21 ساعة

مجموعة رويكسون: تقرير أرباح Nvidia أضعف تأثير مشاعر المستثمرين في مجال الذكاء الاصطناعي