Bài đăng

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Miễn trừ trách nhiệm: Nội dung OKX Orbit chỉ để tham khảo. Tìm hiểu thêm

Phản hồi

Chưa có bình luận. Trở thành người phản hồi đầu tiên!

Related Flash News

Ảnh đại diện gốcBlockbeats1 giây trước

Thông báo: Báo cáo thu nhập quý 1 của Nvidia và biên bản cuộc họp của Cục Dự trữ Liên bang sẽ được công bố cùng nhau vào tối nay

Ảnh đại diện gốc币界网57 phút trước

Swissquote Group: Tác động của báo cáo thu nhập của Nvidia đối với tâm lý nhà đầu tư AI đã suy yếu

Ảnh đại diện gốc币界网2 giờ trước

Duan Yongping mua Tesla trên quy mô lớn, giảm vị thế của mình trong Apple và thanh lý Alibaba

Ảnh đại diện gốcTechFlow9 giờ trước

Cuộc chiến thu nhập của Nvidia đang đến và ba sản phẩm giao dịch chính của Bybit giúp người dùng nắm bắt những biến động của AI xuyên biên giới

Ảnh đại diện gốcOdaily17 giờ trước

Lĩnh vực bán dẫn của Mỹ đã đảo chiều "hình chữ V" trong phiên giao dịch và sự sụt giảm của nhiều cổ phiếu thu hẹp mạnh hoặc thậm chí tăng

Ảnh đại diện gốcChainCatcher21 giờ trước

Hợp đồng tương lai chỉ số chứng khoán Mỹ giảm và cổ phiếu bán dẫn tiếp tục giảm

Ảnh đại diện gốc币界网21 giờ trước

Bitget Wallet bổ sung 130 cổ phiếu token hóa Xstocks mới

Ảnh đại diện gốcChainCatcher23 giờ trước

Các tổ chức: Nhu cầu trung tâm dữ liệu AI có thể thúc đẩy việc định giá lại các thợ đào Bitcoin và hơn 90 tỷ đô la hợp tác đã được công bố

Ảnh đại diện gốc币界网1 ngày trước

Dell đã hợp tác với Palantir để ra mắt một hệ điều hành AI gốc: bộ nhớ cơ bản thay thế Ceph, nhắm mục tiêu trực tiếp vào các ngân hàng phòng thủ và lõi

Ảnh đại diện gốc币界网1 ngày trước

Analog Devices có kế hoạch mua lại Empower với giá 1,5 tỷ USD, củng cố nhà cung cấp Nvidia MPS