Vận chuyển nhanh đến
Liên Hệ Với Chúng Tôi
Theo dõi đơn hàng
Tìm kiếm
Tìm kiếm phổ biến
Câu Hỏi
Giỏ hàng
Đăng nhập

Mã giảm giá
Trích dẫn ngay,
tiết kiệm tới 8%.

Câu Hỏi
Liên lạc

Phản hồi
Thông tin phản hồi của bạn
Bạn đánh giá chúng tôi thế nào?
Dễ sử dụng:
Phản hồi khi mua hàng:
Chi tiết sản phẩm:
  • Giới thiệu
  • Hướng dẫn thiết kế
  • Sản phẩm được đề xuất
  • sự so sánh
  • Các trường hợp sử dụng
Báo giá nhanh <24 giờ

Kiến trúc mạng cụm GPU là gì?

Điều gì

  • Kiến trúc mạng cụm GPU là một kiến ​​trúc mạng băng thông cao, độ trễ thấp, kết nối các máy chủ GPU, thiết bị lưu trữ và dịch vụ cho việc huấn luyện AI, suy luận và các tác vụ HPC. Được xây dựng trên các thiết bị chuyển mạch trung tâm dữ liệu Cisco Nexus/Catalyst 9000 25G/100G/400G và Juniper QFX/EX, nó sử dụng thiết kế spine-leaf không chặn để đảm bảo các đường dẫn GPU được sử dụng tối đa và giảm thiểu tắc nghẽn giao tiếp trong các tác vụ phân tán quy mô lớn.

    Các khả năng chính bao gồm EVPN-VXLAN cho các kiến ​​trúc lớp 2/3 có khả năng mở rộng, lớp nền được tối ưu hóa RoCE với QoS và PFC, và bộ thu phát quang mật độ cao 40G/100G/400G cùng với cáp DAC/AOC QSFP+/QSFP28/QSFP-DD. Sự kết hợp này mang lại độ trễ xác định, thông lượng có thể dự đoán được và khả năng mở rộng linh hoạt, cho phép các kiến ​​trúc sư và kỹ sư thiết kế các cụm GPU giúp tăng tốc quá trình huấn luyện mô hình, rút ​​ngắn thời gian đạt được kết quả và hỗ trợ mở rộng trung tâm dữ liệu AI/HPC linh hoạt.

Thiết kế kiến ​​trúc Ethernet cho cụm GPU

Khám phá cách thiết kế các kiến ​​trúc Ethernet băng thông cao, độ trễ thấp cho các cụm GPU, từ kiến ​​trúc lá-gốc và lớp nền RoCE đến các lựa chọn quang học và cáp cho các khối lượng công việc AI và HPC có khả năng mở rộng.

Thiết kế

  • Yêu cầu về kiến ​​trúc GPU cho các tác vụ AI và HPC

    Các cụm GPU hiện đại phục vụ cho việc huấn luyện AI, suy luận và khối lượng công việc HPC đòi hỏi băng thông không bị tắc nghẽn, độ trễ ở mức micro giây và hành vi tắc nghẽn có thể dự đoán được. Các kiến ​​trúc sư phải tính đến các mô hình lưu lượng truy cập đông-tây, các trao đổi toàn diện quy mô lớn và vận chuyển dựa trên RoCE. Phần này làm rõ các chỉ số mục tiêu cho tình trạng quá tải, hành vi ECN và PFC, các miền lỗi và khả năng mở rộng để bạn có thể chuyển đổi các SLA ứng dụng thành các yêu cầu cụ thể về mạng Ethernet trước khi lựa chọn bộ chuyển mạch, thiết bị quang và cáp.

    Thảo luận về yêu cầu của bạn
Thiết kế

  • Thiết kế lớp phủ Leaf–Spine, EVPN‑VXLAN và RoCE‑Ready

    Sau khi xác định các yêu cầu về kiến ​​trúc mạng, bước tiếp theo là lựa chọn cấu trúc liên kết và mặt phẳng điều khiển phù hợp. Kiến trúc lá-xương sống với EVPN-VXLAN cung cấp khả năng kết nối lớp 2/3 có thể mở rộng và cách ly người dùng, trong khi lớp nền được tinh chỉnh cẩn thận cho phép xử lý lưu lượng RoCE nhạy cảm với mất gói. Ở đây, chúng tôi phác thảo các mẫu thiết kế thực tiễn tốt nhất cho các cổng 25G/100G/400G, ECMP, MTU, QoS và lập kế hoạch bộ đệm để kiến ​​trúc mạng Ethernet của bạn mang lại hiệu suất ổn định cho việc lập lịch công việc GPU và các cụm đa người dùng.

    Nhận hướng dẫn thiết kế vải

Điểm nổi bật của bộ chuyển mạch GPU Fabric và quang học

Các thiết bị chuyển mạch, thiết bị quang học và cáp Ethernet spine-leaf 25G/100G/400G của Cisco và Juniper dành cho các cụm GPU AI và HPC có độ trễ thấp và không bị tắc nghẽn.

Mạng lưới có khả năng mở rộng 100G/400G

Xây dựng kiến ​​trúc mạng lá-xương sống không bị tắc nghẽn với số cổng từ 25G đến 400G và thông lượng lên đến 12.8T.

Ethernet được tối ưu hóa GPU

Lớp nền sẵn sàng cho RoCE với ECN, PFC và hệ thống đo từ xa được tinh chỉnh để đảm bảo tính toàn vẹn dữ liệu trong quá trình huấn luyện AI.

Tự động hóa EVPN-VXLAN

EVPN-VXLAN dựa trên tiêu chuẩn dành cho các cụm AI đa người dùng và khả năng mở rộng mạng GPU liền mạch.

So sánh giữa Ethernet GPU Fabrics và InfiniBand: Ứng dụng trong AI và HPC

So sánh InfiniBand với các kiến ​​trúc Ethernet GPU 100G/400G hiện đại để cân bằng độ trễ, khả năng mở rộng và chi phí cho các cụm AI và HPC.

Yếu tốVải InfiniBand truyền thống
Mạng lưới GPU Ethernet (100G/400G)
Kết quả dành cho bạn
Độ trễ & Độ rungĐộ trễ cực thấp, được kiểm soát chặt chẽ nhưng dựa trên một kiến ​​trúc độc quyền.Độ trễ gần như InfiniBand với Ethernet Cisco/Juniper 100G/400G được tối ưu hóa theo RoCE.Thời gian hoàn thành tác vụ GPU có thể dự đoán được mà không cần phụ thuộc vào một nhà cung cấp mạng duy nhất.
Thông lượng & Tốc độ cổngBăng thông cao nhưng hệ sinh thái còn hạn chế đối với chuẩn 400G và các bản nâng cấp trong tương lai.Lộ trình phát triển mạnh mẽ cho tốc độ 25G/100G/400G sử dụng chuẩn quang học QSFP và cáp DAC/AOC.Mở rộng băng thông huấn luyện AI bằng cách sử dụng các thiết bị chuyển mạch và quang học 400G phổ biến, tiết kiệm chi phí.
Khả năng mở rộng và thiết kế vảiKhả năng mở rộng tốt, nhưng các hệ thống Clos quy mô lớn rất phức tạp và phụ thuộc chặt chẽ vào một nhà cung cấp duy nhất.Kiến trúc EVPN-VXLAN dạng lá-gai có thể mở rộng theo chiều ngang trên các cụm và miền.Thêm dần các giá đỡ GPU và các thiết bị đầu cuối mà không cần thiết kế lại toàn bộ hệ thống kết nối.
Hệ sinh thái và sự cởi mởCông cụ độc quyền và khả năng tích hợp hạn chế với các mạng trung tâm dữ liệu chính thống.Giao thức Ethernet dựa trên tiêu chuẩn, tương thích với các thiết bị Cisco Nexus, Catalyst và Juniper QFX/EX hiện có.Hợp nhất trí tuệ nhân tạo, lưu trữ và lưu lượng truy cập doanh nghiệp trên một nền tảng duy nhất, đơn giản hóa hoạt động và tái sử dụng kỹ năng.
Công cụ và kỹ năng vận hànhQuản lý chuyên môn; số lượng kỹ sư có kinh nghiệm chuyên sâu về InfiniBand ít hơn.Tận dụng các khung vận hành, đo từ xa và tự động hóa quen thuộc của trung tâm dữ liệu dành cho Ethernet.Triển khai và khắc phục sự cố nhanh hơn bằng các công cụ mà nhóm của bạn đã quen thuộc.
Tổng chi phí sở hữu (TCO) và mua sắmChi phí mỗi cổng cao hơn, nguồn cung hạn chế và phụ thuộc vào một nhà cung cấp chính duy nhất.Giá cả cạnh tranh cho các thiết bị chuyển mạch, thiết bị quang học và cáp từ nhiều nhà cung cấp Ethernet khác nhau.Giảm chi phí đầu tư và rủi ro chuỗi cung ứng trong khi vẫn duy trì hiệu suất của các cụm GPU.
Phù hợp khối lượng công việc (AI & HPC)Tuyệt vời cho các tác vụ MPI liên kết chặt chẽ và các tác vụ đặc thù cực kỳ nhạy cảm với độ trễ.Được tối ưu hóa cho việc huấn luyện, suy luận AI quy mô lớn và tính toán hiệu năng cao hỗn hợp trên các kiến ​​trúc mạng chia sẻ.Hỗ trợ nhu cầu huấn luyện GPU hiện tại và các dịch vụ AI đa người dùng trong tương lai trên cùng một kiến ​​trúc.

Cần trợ giúp? Chuyên gia kỹ thuật sẵn sàng hỗ trợ ngay.

  • + 1-626-655-0998 (Hoa Kỳ)
    UTC 15:00-00:00
  • +852-2592-5389 (Hồng Kông)
    UTC 00:00-09:00
  • +852-2592-5411 (Hồng Kông)
    UTC 06:00-15:00
Nhận báo giá
Trò chuyện trực tuyến
Cần trợ giúp? Chuyên gia kỹ thuật sẵn sàng hỗ trợ ngay.

Các trường hợp sử dụng mạng cụm GPU

Khám phá cách các thiết bị chuyển mạch, thiết bị quang học và cáp 25G/100G/400G của Cisco và Juniper giúp tạo ra các cụm GPU có độ trễ thấp và khả năng mở rộng cho các tác vụ AI, ML và HPC.

Vải huấn luyện AI

Vải huấn luyện AI

  • Thiết kế các cụm GPU không bị tắc nghẽn để huấn luyện mô hình quy mô lớn bằng cách sử dụng Cisco Nexus/Catalyst 9000 và Juniper QFX/EX trong kiến ​​trúc mạng EVPN-VXLAN dạng xương sống-lá. Các cổng 100G/400G mật độ cao, lớp nền được tối ưu hóa RoCE và khả năng kiểm soát tắc nghẽn không mất dữ liệu đảm bảo hoàn thành công việc một cách chắc chắn và sử dụng GPU hiệu quả ở quy mô siêu lớn.
Suy luận theo thời gian thực

Suy luận theo thời gian thực

  • Hỗ trợ các dịch vụ suy luận yêu cầu độ trễ thấp cho các nền tảng fintech, ad tech và cá nhân hóa với ToR 25G và khả năng tổng hợp 100G/400G. Các thiết bị chuyển mạch trung tâm dữ liệu của Cisco và Juniper với QoS chính xác, PFC và ECN mang lại độ trễ ở mức micro giây, thông lượng ổn định và hiệu suất có thể dự đoán được trên các nút GPU và các tầng ứng dụng giao diện người dùng.
Mô phỏng HPC

Mô phỏng HPC

  • Xây dựng các kết nối thông lượng cao cho các tác vụ CFD, xử lý địa chấn, gen học và kỹ thuật. Thiết kế spine-leaf 100G/400G với quang học QSFP+/QSFP28/QSFP-DD và cáp DAC/AOC cung cấp băng thông đông-tây dày đặc, cho phép các tác vụ HPC tăng tốc bằng MPI và GPU chạy hiệu quả trên các cụm lớn với khả năng mở rộng có thể dự đoán được và giảm thiểu xung đột mạng.
Đám mây AI doanh nghiệp

Đám mây AI doanh nghiệp

  • Cung cấp các nền tảng AI và MLOps riêng tư cho các doanh nghiệp lớn bằng cách sử dụng thiết bị chuyển mạch Cisco và Juniper 25G/100G/400G. Mạng EVPN-VXLAN kết nối các nhóm GPU, bộ nhớ lưu trữ và mạng của người dùng với khả năng phân đoạn, tự động hóa và giám sát mạnh mẽ, cho phép các dịch vụ AI đa người dùng an toàn và hiệu suất ổn định cho các quy trình huấn luyện và suy luận đa dạng.

Câu Hỏi Thường Gặp

Tôi nên chọn giữa thiết bị chuyển mạch Cisco và Juniper cho kiến ​​trúc mạng cụm GPU của mình như thế nào?

Cả Cisco (Nexus, Catalyst 9000) và Juniper (QFX, EX) đều cung cấp các kiến ​​trúc Ethernet có độ trễ thấp và thông lượng cao cho AI/ML và HPC. Sự lựa chọn phù hợp thường phụ thuộc vào tiêu chuẩn trung tâm dữ liệu hiện có, hệ điều hành mạng (NOS) ưa thích (NX-OS, IOS-XE, Junos), bộ công cụ tự động hóa (Ansible, Terraform, Python) và kinh nghiệm vận hành của bạn. Từ góc độ mạng cụm GPU, hãy tập trung vào mật độ cổng 100G/400G nhất quán, kiến ​​trúc bộ đệm sẵn sàng cho RoCE, hỗ trợ EVPN-VXLAN và thiết kế spine-leaf không bị tắc nghẽn. Router-switch.com Có thể giúp bạn so sánh các mẫu cụ thể, tùy chọn quang học và cáp để phù hợp với mục tiêu hiệu suất và ngân sách của bạn.

Tôi cần băng thông và cấu trúc mạng nào cho việc huấn luyện GPU AI – 25G/100G/400G và kiến ​​trúc spine-leaf?

  • Hầu hết các cụm huấn luyện GPU hiện đại sử dụng đường truyền 100G cho mỗi máy chủ GPU đến bộ chuyển mạch ToR và đường truyền 100G/400G từ ToR đến spine để xây dựng kiến ​​trúc leaf-spine không bị tắc nghẽn hoặc quá tải thấp cho lưu lượng AI đông-tây.
  • Đối với môi trường AI/ML và HPC quy mô lớn, các bộ chuyển mạch trục 400G với tùy chọn phân nhánh 4×100G hoặc 8×50G cung cấp băng thông phân chia cao hơn, khả năng mở rộng tốt hơn và hiệu suất ổn định hơn cho giao tiếp GPU dựa trên RoCE trong kiến ​​trúc EVPN-VXLAN.

Tôi nên sử dụng loại cáp quang, DAC và cáp AOC nào để kết nối giữa các máy chủ GPU, ToR và các bộ chuyển mạch trục chính?

Đối với kết nối tầm ngắn giữa máy chủ GPU và ToR bên trong giá đỡ, DAC thụ động (QSFP+/QSFP28/QSFP-DD) thường được ưu tiên cho tốc độ 40G/100G/400G do độ trễ thấp, công suất thấp và chi phí thấp hơn. Đối với các kết nối giữa các giá đỡ hoặc giữa các hàng (ToR) và các bộ chuyển mạch trục chính, khách hàng thường kết hợp DAC/AOC chủ động cho khoảng cách trung bình và bộ thu phát quang 40G/100G/400G với cáp quang đa mode hoặc đơn mode cho các khoảng cách xa hơn, tùy thuộc vào bố cục trung tâm dữ liệu và kế hoạch dung lượng trong tương lai.
    Các lựa chọn cáp được khuyến nghị cho cụm GPU
  • Trong tủ rack: DAC hoặc AOC 25G/100G từ card mạng GPU đến các cổng ToR để giảm thiểu độ trễ và đơn giản hóa việc quản lý.
  • Kết nối cuối hàng / tổng hợp: AOC 100G/400G hoặc bộ thu phát quang (ví dụ: QSFP28 SR4/DR, QSFP-DD DR4/FR4) cho các kết nối giữa trục chính và nhánh có khả năng mở rộng.
    Các yếu tố về tính tương thích và khả năng tương tác
  • Hãy đảm bảo kiểu dáng và mã hóa của bộ thu phát (QSFP+/QSFP28/QSFP‑DD) phù hợp với từng cổng Cisco Nexus/Catalyst hoặc Juniper QFX/EX, và chắc chắn rằng các thiết bị quang học đã được mã hóa hoặc kiểm tra cho nhà cung cấp đó để tránh các vấn đề về kết nối hoặc hỗ trợ.
  • Khi kết hợp các nhà cung cấp khác nhau trong cùng một kiến ​​trúc mạng, hãy xác thực khả năng tương tác ở cấp độ liên kết (chế độ FEC, tự động đàm phán, ánh xạ phân tách) trong phòng thí nghiệm hoặc PoC trước khi triển khai lên các nút GPU sản xuất.

Liệu Ethernet với EVPN-VXLAN và RoCE có thực sự thay thế được InfiniBand cho các cụm GPU AI và HPC?

Các kiến ​​trúc Ethernet trung tâm dữ liệu 100G/400G hiện đại sử dụng Cisco Nexus/Catalyst 9000 hoặc Juniper QFX với EVPN-VXLAN và lớp nền RoCE (RDMA trên Ethernet hội tụ) được tinh chỉnh tốt có thể đạt được độ trễ ở mức micro giây và thông lượng cao, cạnh tranh với nhiều triển khai InfiniBand. Đối với nhiều khối lượng công việc huấn luyện AI, suy luận và HPC hỗn hợp, phương pháp Ethernet hội tụ này đơn giản hóa hoạt động, giảm chi phí và cung cấp khả năng tương tác tốt hơn với các mạng IP hiện có trong khi vẫn đảm bảo hiệu suất ổn định cho các cụm GPU.

Kiến trúc mạng cụm GPU dựa trên Cisco và Juniper này có khả năng mở rộng đến mức nào, và liệu tôi có thể nâng cấp từ 100G lên 400G sau này không?

Kiến trúc cụm GPU được đề xuất được xây dựng dựa trên các mạng trục-lá sử dụng các bộ chuyển mạch 100G/400G dạng mô-đun hoặc cố định hỗ trợ cấu hình từng cổng, phân nhánh và quang học linh hoạt. Bạn có thể bắt đầu với truy cập máy chủ 25G/100G vào ToR và đường lên 100G đến mạng trục, sau đó giới thiệu các bộ chuyển mạch trục 400G hoặc các card đường dây trục và chuyển đổi các đường truyền quan trọng sang 400G khi kích thước cụm và khối lượng công việc huấn luyện tăng lên. Việc sử dụng EVPN-VXLAN và cáp quang/DAC/AOC tiêu chuẩn giúp bảo vệ khoản đầu tư ban đầu của bạn đồng thời cho phép mở rộng tuyến tính các máy chủ GPU, bộ nhớ và dung lượng mạng.

Vậy còn về chế độ bảo hành, hỗ trợ và vòng đời sản phẩm khi mua thiết bị chuyển mạch và thiết bị quang học của Cisco hoặc Juniper cho hệ thống mạng GPU thì sao?

Khi thiết kế kiến ​​trúc GPU với Cisco Nexus/Catalyst và Juniper QFX/EX, điều quan trọng là phải đảm bảo các lựa chọn phần cứng và quang học phù hợp với chính sách vòng đời sản phẩm chính thức, lộ trình phát triển phần mềm và hợp đồng hỗ trợ hiện có của nhà cung cấp, đặc biệt là đối với các cụm máy tính hiệu năng cao và đào tạo AI quan trọng. Nhiều khách hàng kết hợp hỗ trợ từ nhà cung cấp với các dịch vụ giá trị gia tăng từ các đối tác như... router-switch.com Để xác nhận thiết kế, tối ưu hóa danh sách linh kiện (BOM) và lập kế hoạch chuyển đổi. Xin lưu ý: Các điều khoản bảo hành cụ thể và dịch vụ hỗ trợ có thể khác nhau tùy theo sản phẩm và khu vực. Để biết thông tin chính xác, vui lòng tham khảo thông tin chính thức. Để biết thêm thông tin chi tiết, vui lòng liên hệ: router-switch.com.

Đánh giá nổi bật

David Henderson

Chúng tôi cần một kiến ​​trúc mạng có độ trễ thấp và ổn định để huấn luyện GPU mà không làm tăng đáng kể chi phí đầu tư. Router-switch.com Họ đã cung cấp một bộ sản phẩm kết hợp giữa Cisco và Juniper gồm các thiết bị chuyển mạch 100G/400G, thiết bị quang học và DAC, tích hợp trực tiếp vào thiết kế EVPN-VXLAN của chúng tôi. Giá cả, độ tin cậy của hàng tồn kho và hướng dẫn thiết kế của họ đã giúp chúng tôi mở rộng quy mô nhanh hơn trong khi vẫn giữ rủi ro về khả năng tương thích ở mức thấp.

Tanaka Aiko

Nhóm AI của chúng tôi cần hiệu suất RoCE có thể dự đoán được và lộ trình chuyển đổi rõ ràng từ 100G lên 400G. Router-switch.com Đề xuất kiến ​​trúc spine-leaf dựa trên QFX với các thiết bị quang học Cisco và Juniper tương thích, hoạt động trơn tru. Các đơn đặt hàng đến nhanh chóng, hoàn toàn tương thích, và các kỹ sư bán hàng trước của họ đã giúp tinh chỉnh các cài đặt bộ đệm và QoS để đảm bảo hoạt động ổn định của các tác vụ GPU.

Markus Vogel

Khi thiết kế cụm GPU mới, chúng tôi đã gặp khó khăn trong việc cân bằng giữa thông lượng, độ trễ và khả năng mở rộng lâu dài. Router-switch.com Họ cung cấp các bộ chuyển mạch Nexus và QFX với module quang 100G/400G và DAC dưới dạng gói sản phẩm đã được kiểm định. Kiến trúc mạng không bị tắc nghẽn, sẵn sàng cho RoCE, và dịch vụ hỗ trợ sau bán hàng về khả năng tương thích của module quang và xử lý RMA của họ rất xuất sắc.

nhiều giải pháp

Ethernet vs InfiniBand for AI & HPC Networks

So sánh Ethernet và InfiniBand cho mạng AI & HPC

So sánh chi tiết giữa Ethernet và InfiniBand cho các kiến ​​trúc mạng AI/HPC – độ trễ, khả năng mở rộng, RDMA và sự đánh đổi về chi phí.

Mạng lưới AI & HPC
Beyond Bandwidth: The 100G+ Data Center Architecture

Vượt xa băng thông: Kiến trúc trung tâm dữ liệu 100G+

Nền tảng 100G không thể thiếu - Tăng trưởng sẵn sàng cho AI, hiệu suất không độ trễ

Trung tâm dữ liệu
Copper vs Fiber vs DAC/AOC Interconnects Guide

Hướng dẫn về kết nối Đồng, Cáp quang và DAC/AOC

So sánh đầy đủ về đồng, cáp quang, DAC và AOC—độ trễ, phạm vi phủ sóng, chi phí và khả năng triển khai 10G/25G/100G/400G.

Cáp & Bộ thu phát
Đăng nhập
Đăng ký