Vận chuyển nhanh đến
Liên Hệ Với Chúng Tôi
Theo dõi đơn hàng
Tìm kiếm
Tìm kiếm phổ biến
Câu Hỏi
Giỏ hàng
Đăng nhập

Mã giảm giá
Trích dẫn ngay,
tiết kiệm tới 8%.

Câu Hỏi
Liên lạc

Phản hồi
Thông tin phản hồi của bạn
Bạn đánh giá chúng tôi thế nào?
Dễ sử dụng:
Phản hồi khi mua hàng:
Chi tiết sản phẩm:

Mạng không mất dữ liệu cho cụm AI với RoCEv2 và GPUDirect

Mạng không mất dữ liệu cho cụm AI với RoCEv2 và GPUDirect
  • Giới thiệu
  • Những thách thức
  • Sản phẩm khuyến cáo
  • So sánh
  • Trường hợp sử dụng
Nhận trợ giúp của chuyên gia

Thiết kế các loại vải AI không mất dữ liệu

Thiết kế các loại vải AI không mất dữ liệu

  • Các cụm máy chủ huấn luyện AI hiện nay đẩy lưu lượng truy cập theo hướng đông-tây và độ trễ vượt quá khả năng chịu đựng của các kiến ​​trúc Ethernet truyền thống. Khi số lượng GPU tăng lên và khối lượng công việc mở rộng trên các giá đỡ và hàng, mỗi sự cố tăng đột biến, mất gói dữ liệu hoặc tắc nghẽn đều ảnh hưởng trực tiếp đến thông lượng huấn luyện và mức độ sử dụng GPU. Các thiết kế RoCEv2 không mất dữ liệu và GPUDirect RDMA trở nên cực kỳ quan trọng để biến các bộ tăng tốc đắt tiền thành cơ sở hạ tầng AI hiệu quả và có thể dự đoán được, thay vì là dung lượng bị lãng phí.

    Các phần sau tập trung vào cách thiết kế kiến ​​trúc mạng AI có tính xác định và khả năng mở rộng bằng cách sử dụng các thiết bị chuyển mạch Arista leaf-spine và spine 400G, cùng với các module 100G/400G dựa trên Huawei CloudEngine. Trọng tâm được đặt vào các lựa chọn cấu trúc liên kết, quản lý bộ đệm và tắc nghẽn, tinh chỉnh RoCEv2 và các lộ trình di chuyển, để các nhóm thiết kế có thể chọn đúng tầng thiết bị chuyển mạch và module cho quy mô cụm GPU cụ thể, các miền lỗi và lộ trình triển khai của họ.

Thiết kế kiến ​​trúc AI RoCEv2 không mất dữ liệu

Việc cân bằng giữa các yêu cầu nghiêm ngặt về RoCEv2 không mất dữ liệu với khả năng mở rộng GPU, phần cứng đa nhà cung cấp và rủi ro vận hành là một vấn đề không hề đơn giản.

Thiết kế kiến ​​trúc AI RoCEv2 không mất dữ liệu

  • Đảm bảo không mất dữ liệu ở quy mô AI

    Việc duy trì RoCEv2 không mất dữ liệu thực sự dưới lưu lượng truy cập đột biến và hàng ngàn luồng GPU gây áp lực lên bộ đệm, chính sách QoS và kiểm soát tắc nghẽn.

  • Cân bằng mật độ cảng và ngân sách

    Việc lựa chọn giữa các tùy chọn leaf-spine 100G/400G để đáp ứng sự tăng trưởng của GPU mà không cần xây dựng quá mức hoặc bỏ phí các cổng tốc độ cao đắt tiền là một vấn đề phức tạp.

  • Khả năng tương tác và phát triển giữa nhiều nhà cung cấp

    Việc đồng bộ hóa các mô-đun chuyển mạch của Arista và Huawei với các đặc tính RoCEv2, ECN và PFC khác nhau làm phức tạp quá trình nâng cấp và tinh chỉnh hệ thống mạng về lâu dài.

Các yếu tố thiết yếu của Cluster Fabric AI không mất dữ liệu

Ưu tiên thiết kế kiến ​​trúc mạng, kiểm soát tắc nghẽn và cơ sở hạ tầng mạng 100/400G có khả năng mở rộng cho các cụm AI RoCEv2.

Vải RoCEv2 xác định

Thiết kế các kiến ​​trúc mạng không mất dữ liệu dạng lá-gân giúp duy trì tính ổn định của các cụm GPU ở quy mô lớn.

Kiểm soát tắc nghẽn đầu cuối

Tận dụng ECN, PFC và điều chỉnh bộ đệm để bảo vệ các luồng RDMA của GPUDirect khỏi các sự kiện truyền phát nội tuyến.

Mạng trục 100/400G có khả năng mở rộng

Sử dụng các đường trục mật độ cao 100/400G để phát triển xương sống AI mà không cần thiết kế lại cấu trúc mạng.

AI Fabric RoCEv2 Ethernet so với các lựa chọn Spine

So sánh các tùy chọn RoCEv2 leaf, 400G spine và kiến ​​trúc CE dạng mô-đun để chọn ra đường dẫn mạng cụm AI không mất dữ liệu tốt nhất.

Tính năng Vải dạng lá Arista RoCEv2 Arista 400G AI Spine Backbone
Nền tảng mạng tốc độ cao Huawei CloudEngine (nóng hổi)
 Kết quả dành cho bạn
Phù hợp triển khai chính Được tối ưu hóa cho các cụm GPU TOR/leaf-spine với RoCEv2 và GPUDirect RDMA trong các cụm AI đơn vị. Được xây dựng như một lớp xương sống có số lượng cổng cao dành cho các cụm AI đa pod lớn cần khả năng tổng hợp 100G/400G. Phù hợp nhất cho các nhà khai thác đang chuẩn hóa CloudEngine, mở rộng quy mô các kiến ​​trúc trung tâm dữ liệu dựa trên hệ thống xương sống/thẻ đường truyền dạng mô-đun. Làm rõ nền tảng nào phù hợp với cấu trúc trung tâm dữ liệu hiện tại và quy mô cụm GPU của bạn.
Khả năng kết nối mạng không mất dữ liệu Cung cấp các mẫu điều chỉnh PFC, ECN và RoCEv2 cho mỗi rack; lý tưởng cho hoạt động không mất dữ liệu ở cấp độ pod một cách nhất quán. Mở rộng các chính sách không mất dữ liệu trên nhiều nhánh và mạng; mạnh mẽ cho lưu lượng truy cập xương sống AI theo hướng đông-tây. Hỗ trợ hệ sinh thái CloudEngine với các chức năng QoS, PFC và quản lý tắc nghẽn trong các thiết kế tham chiếu của Huawei. Giúp bạn hình dung nên đặt quyền kiểm soát không mất dữ liệu ở đâu — chỉ tại TOR, hay từ đầu đến cuối trên toàn bộ hệ thống.
Khả năng mở rộng và tăng trưởng trong tương lai Có khả năng mở rộng tốt trong các giá đỡ hoặc mạng nhỏ; bị hạn chế khi cần hàng nghìn GPU trên nhiều miền khác nhau. Được thiết kế để mở rộng theo chiều ngang nhiều cụm GPU với đường truyền uplink mật độ cao 100G/400G và bộ đệm lớn. Tận dụng khung gầm dạng mô-đun để bổ sung cổng và dung lượng mà không cần thay thế hoàn toàn; phù hợp cho việc mở rộng theo từng giai đoạn. Hướng dẫn xem nên đầu tư nhiều hơn vào lớp truy cập hay vào lõi có khả năng mở rộng để hỗ trợ sự phát triển của AI qua nhiều thế hệ.
Hệ sinh thái và khả năng tương tác Phù hợp mạnh mẽ với môi trường RoCEv2 tương thích NVIDIA chỉ sử dụng Ethernet; tốt nhất khi toàn bộ hệ thống mạng ở biên đều là Arista. Lý tưởng khi hệ thống lõi/cột xương sống là Arista và bạn muốn có sự hỗ trợ nhất quán từ nhiều nhà cung cấp khác nhau ở phía dưới. Tích hợp chặt chẽ với máy chủ, thiết bị lưu trữ và bộ điều khiển của Huawei; hiệu quả hơn nếu trung tâm dữ liệu đã được thiết kế chủ yếu bởi Huawei. Hiển thị tùy chọn nào giảm thiểu rủi ro tích hợp dựa trên các thiết bị chuyển mạch, máy chủ và công cụ quản lý hiện có.
Độ phức tạp vận hành Dễ triển khai và tinh chỉnh hơn trong các cụm máy chủ đơn miền; ít lớp hơn nhưng nhiều ràng buộc hơn khi quy mô tăng lên. Cần nhiều công đoạn thiết kế ban đầu hơn, nhưng tập trung chính sách không mất dữ liệu và khả năng quan sát ở hệ thống xương sống. Cần có kế hoạch cụ thể hơn cho các thiết kế dạng mô-đun dựa trên CE, nhưng vòng đời và việc nâng cấp có thể được tiêu chuẩn hóa cho từng khung máy. Giúp cân bằng giữa những thành công nhanh chóng của các cụm AI thí điểm và việc xây dựng một nền tảng vận hành bền vững, thân thiện với người dùng trong thời gian dài.
Chi phí và hồ sơ đầu tư Chi phí đầu vào thấp hơn cho mỗi giá đỡ; có thể cần thiết kế lại kiến ​​trúc sau này đối với các cụm máy chủ rất lớn. Chi phí đầu tư ban đầu cho phần cốt lõi cao hơn, nhưng tránh được việc phải thay thế thường xuyên khi quy mô hệ thống AI tăng nhanh. Đầu tư vốn tập trung vào khung máy và card mạng; hấp dẫn đối với các nhà mạng có kế hoạch ngân sách cho việc áp dụng CE dài hạn. Làm rõ liệu nên bắt đầu với các mô-đun giá cả phải chăng hay đầu tư vào một kiến ​​trúc AI cơ bản, sẵn sàng mở rộng.
Các kịch bản sử dụng tốt nhất điển hình Mỗi trung tâm dữ liệu (DC), phòng thí nghiệm POC hoặc các trang trại GPU quy mô vừa, nơi việc tinh chỉnh độ trễ và RoCE được thực hiện cục bộ. Các cụm huấn luyện AI/ML đa module, đa giá đỡ yêu cầu hoạt động nhất quán không mất dữ liệu trên nhiều địa điểm. Các trung tâm dữ liệu của nhà mạng, đám mây hoặc doanh nghiệp sử dụng kiến ​​trúc xương sống/lá Huawei CE muốn có các giải pháp mạng tốc độ cao sẵn sàng cho AI. Giúp nhanh chóng lập bản đồ lộ trình AI của bạn—trong phòng thí nghiệm, tại một địa điểm duy nhất hoặc nhiều địa điểm—vào lựa chọn kiến ​​trúc phù hợp.
Đề xuất chiến lược Sử dụng khi bạn ưu tiên việc kích hoạt RoCEv2 nhanh chóng ở cấp độ rack và có kế hoạch mở rộng lõi sau này. Sử dụng khi bạn muốn có một hệ thống xương sống Arista thống nhất để truyền tải AI, lưu trữ và lưu lượng truy cập Đông-Tây ở quy mô lớn. Hãy ưu tiên những khu vực mà Huawei CE có vai trò chiến lược và bạn cần một hệ thống cụm AI có khả năng mở rộng và đồng bộ với nhà cung cấp. Ủng hộ quyết định về việc chuẩn hóa một trong hai thiết bị: Arista ở cấp biên/lõi hoặc Huawei CE cho mạng AI dài hạn.

Cần trợ giúp? Chuyên gia kỹ thuật sẵn sàng hỗ trợ ngay.

  • + 1-626-655-0998 (Hoa Kỳ)
    UTC 15:00-00:00
  • +852-2592-5389 (Hồng Kông)
    UTC 00:00-09:00
  • +852-2592-5411 (Hồng Kông)
    UTC 06:00-15:00
Nhận báo giá
Trò chuyện trực tuyến
Cần trợ giúp? Chuyên gia kỹ thuật sẵn sàng hỗ trợ ngay.

Các ứng dụng AI Fabric lý tưởng

Các kịch bản triển khai phù hợp nhất để xây dựng các cụm AI RDMA RoCEv2 / GPUDirect không mất dữ liệu và các mạng GPU mật độ cao.

Cụm máy chủ huấn luyện AI siêu quy mô

Cụm máy chủ huấn luyện AI siêu quy mô

  • Triển khai kiến ​​trúc GPU dạng lá-xương sống RoCEv2 sử dụng bộ chuyển mạch Ethernet Arista AI Cluster để kết nối hàng nghìn GPU phục vụ huấn luyện mô hình quy mô lớn.
  • Xây dựng các lớp xương sống 100G/400G không bị tắc nghẽn với bộ chuyển mạch xương sống Arista 400G để duy trì lưu lượng truy cập toàn diện trong các tác vụ huấn luyện song song dữ liệu và song song mô hình.
  • Mở rộng kiến ​​trúc dựa trên CloudEngine với các mô-đun Huawei 100G/400G để bổ sung thêm các giá đỡ GPU mà không làm gián đoạn các cụm huấn luyện AI hiện có.
Trung tâm dữ liệu AI doanh nghiệp và đám mây riêng

Trung tâm dữ liệu AI doanh nghiệp và đám mây riêng

  • Sử dụng thiết kế leaf-spine Arista RoCEv2 để kết nối các node GPU, lưu trữ và CPU hỗn hợp trong các trung tâm dữ liệu AI doanh nghiệp với độ trễ thấp có thể dự đoán được.
  • Triển khai hệ thống mạng trục Arista 400G làm xương sống không mất dữ liệu cho các dịch vụ AI đám mây riêng, hợp nhất nhiều khách hàng AI trên một kiến ​​trúc hiệu năng cao duy nhất.
  • Tận dụng các mô-đun Huawei CloudEngine 100G/400G để mở rộng băng thông Đông-Tây trong các cụm AI và ảo hóa hội tụ mà không tạo ra các điểm tắc nghẽn.
Suy luận thời gian thực và các ứng dụng độ trễ thấp

Suy luận thời gian thực và các ứng dụng độ trễ thấp

  • Xây dựng các kiến ​​trúc GPU nhỏ gọn dựa trên RoCEv2 với các bộ chuyển mạch Arista leaf cho các dịch vụ suy luận nhạy cảm về độ trễ như hệ thống đề xuất và phát hiện gian lận.
  • Kết hợp nhiều cụm suy luận thành một đường trục 100G/400G dùng chung bằng cách sử dụng các bộ chuyển mạch mật độ cao của Arista để đảm bảo thời gian phản hồi nhất quán ở mức micro giây.
  • Nâng cấp mạng CloudEngine hiện có bằng các module Huawei 100G/400G để cung cấp đường truyền không mất dữ liệu giữa các GPU suy luận và các dịch vụ giao diện người dùng trong môi trường sản xuất.
Phòng thí nghiệm nghiên cứu & Cụm máy tính hiệu năng cao (HPC)

Phòng thí nghiệm nghiên cứu & Cụm máy tính hiệu năng cao (HPC)

  • Xây dựng các cụm GPU hỗ trợ RoCEv2 với bộ chuyển mạch Arista AI để hỗ trợ các khối lượng công việc nghiên cứu đa người dùng trong các lĩnh vực vật lý, gen học và mô phỏng kỹ thuật.
  • Triển khai các lớp xương sống Arista 400G để kết nối các cụm điện toán không đồng nhất, kết hợp các nút GPU, các nút chỉ dùng CPU và các hệ thống tệp song song trong một mạng lưới duy nhất không mất dữ liệu.
  • Tích hợp các mô-đun Huawei CloudEngine 100G/400G vào các lõi HPC hiện có để mở rộng khả năng thử nghiệm mà không cần thiết kế lại toàn bộ mạng lưới phòng thí nghiệm.
Nền tảng AI cho nhà mạng và nhà cung cấp dịch vụ đám mây

Nền tảng AI cho nhà mạng và nhà cung cấp dịch vụ đám mây

  • Sử dụng kiến ​​trúc mạng Ethernet leaf-spine của Arista AI Cluster để lưu trữ các nhóm GPU dùng chung cho các khối lượng công việc AI viễn thông như tối ưu hóa RAN, dự đoán lưu lượng và phân tích OSS.
  • Triển khai các đường trục 400G có khả năng mở rộng với nền tảng Arista để tạo ra các xương sống AI đa vùng, kết nối các cụm GPU trên các vùng khả dụng của đám mây.
  • Mở rộng các trạm mạng đô thị hoặc mạng lõi dựa trên CloudEngine với các mô-đun Huawei 100G/400G để tích hợp các cụm AI vào cơ sở hạ tầng mạng dữ liệu hiện có của nhà mạng mà không làm giảm chất lượng truyền tải không mất dữ liệu.

Câu Hỏi Thường Gặp

Tôi nên chọn giữa các thiết bị chuyển mạch leaf/spine của Arista và các module của Huawei cho cụm AI RoCEv2 của mình như thế nào?

  • Các thiết bị chuyển mạch Ethernet Arista AI Cluster (ví dụ: ARI:DCS-7260CX3-64-R/F, ARI:DCS-7050SX3/7050CX3 series) phù hợp khi bạn muốn có một kiến ​​trúc RDMA RoCEv2/GPUDirect chuyên dụng với các tính năng EOS nhất quán, thường là trong các cụm AI sử dụng GPU NVIDIA hoặc các cụm AI kết hợp nhiều nhà cung cấp dựa trên kiến ​​trúc Ethernet không mất dữ liệu.
  • Các mô-đun chuyển mạch Huawei 100G/400G CloudEngine (ví dụ: CR5M0OFCK050, CR5DSFUFK050, CR5D00N2NC61, CR5D00E2NC73) sẽ phù hợp hơn khi bạn muốn mở rộng kiến ​​trúc trung tâm dữ liệu dựa trên Huawei CloudEngine hoặc router hiện có và cần mở rộng theo kiểu card mạng thay vì các switch cố định độc lập.
  • Từ góc độ quyết định, hãy bắt đầu từ tiêu chuẩn hệ điều hành mạng hiện tại, các công cụ quản lý mạng và kỹ năng vận hành; sau đó đối chiếu mật độ cổng 100G/400G cần thiết, mô hình nguồn/làm mát (từ trước ra sau so với từ sau ra trước) và bộ tính năng RoCEv2 (PFC, ECN, bộ đệm) với các SKU cụ thể. Nhóm của chúng tôi có thể cung cấp các khuyến nghị trung lập về cấu trúc mạng và nhà cung cấp thông qua... Hỗ trợ thiết kế CCIE miễn phí.
  • Vui lòng lưu ý: Điều khoản bảo hành và dịch vụ hỗ trợ cụ thể có thể khác nhau tùy theo sản phẩm và khu vực. Để biết thông tin chính xác, vui lòng tham khảo thông tin chính thức. Để được giải đáp thêm thắc mắc, vui lòng liên hệ: router-switch.com.

Các sản phẩm mạng AI của Arista và Huawei có tương thích với các cụm RDMA NVIDIA RoCEv2 / GPUDirect không?

  • Các thiết bị chuyển mạch Arista được liệt kê (các dòng DCS-7260CX3, DCS-7050SX3, DCS-7050CX3, DCS-7050CX4, DCS-7280CR3, DCS-7800R3) và các module Huawei 100G/400G được sử dụng rộng rãi trong các cụm GPU dựa trên RoCEv2, nhưng khả năng tương thích với NVIDIA GPUDirect RDMA phụ thuộc vào toàn bộ hệ thống: firmware NIC, trình điều khiển GPU, điều khiển tắc nghẽn RoCE và cấu hình PFC/ECN.
  • Trên thực tế, chúng tôi khuyên bạn nên kiểm tra tính tương thích với thế hệ GPU cụ thể của mình (ví dụ: A100, H100), loại NIC (ConnectX-5/6/7, BlueField) và ma trận firmware RoCE. Trước khi đặt hàng, bạn có thể chia sẻ danh sách linh kiện (BOM) hiện tại, phiên bản hệ điều hành và cấu trúc mạng mong muốn để chúng tôi có thể chỉ ra bất kỳ hạn chế nào về khả năng tương thích (ví dụ: các bản phát hành EOS/VRP cần thiết, cấu hình bộ đệm, ngưỡng ECN).
  • Đối với các cụm máy chủ đã đi vào hoạt động, chúng tôi cũng đề xuất thực hiện thử nghiệm PoC hoặc A/B trên một tập hợp con các nút lá/xương sống trước khi triển khai quy mô đầy đủ để tránh các hành vi không mong muốn trong môi trường mạng hỗn hợp nhà cung cấp.

Tôi cần lường trước những rủi ro triển khai nào khi xây dựng kiến ​​trúc mạng RoCEv2 không mất dữ liệu với các thiết bị chuyển mạch này?

  • Các kiến ​​trúc AI không mất dữ liệu rất nhạy cảm với các lỗi cấu hình bộ đệm, điều khiển luồng ưu tiên (PFC) và ECN. Khi tích hợp các module Arista 7260CX3/7050SX3/7050CX4/7280CR3 hoặc Huawei 100G/400G vào môi trường hiện có, các rủi ro chính bao gồm: tắc nghẽn đầu hàng do PFC quá mạnh, phân bổ băng thông không công bằng giữa các tác vụ huấn luyện và tắc nghẽn lan rộng trên các đường trục.
  • Để giảm thiểu điều này, chúng tôi khuyến nghị một kế hoạch triển khai bao gồm: xác thực trong phòng thí nghiệm các cấu hình PFC/ECN với lưu lượng RoCE tổng hợp, đo độ trễ cơ bản trên mỗi chặng và các quy trình hoàn tác rõ ràng. Bạn cũng nên đồng bộ hóa cáp, thiết bị quang (100G/400G SR4/DR4/FR4) và các chính sách QoS giữa các thiết bị leaf và spine, đặc biệt khi kết hợp các nền tảng khác nhau trong cùng một mạng.
  • Nếu bạn cần danh sách kiểm tra triển khai hoặc đánh giá cấu hình dành riêng cho các SKU và khung AI cụ thể của mình (ví dụ: NCCL, Horovod, Megatron-LM), các kiến ​​trúc sư mạng của chúng tôi có thể giúp bạn lập kế hoạch thực hiện từng bước thông qua Hỗ trợ CCIE miễn phí.
  • Vui lòng lưu ý: Điều khoản bảo hành và dịch vụ hỗ trợ cụ thể có thể khác nhau tùy theo sản phẩm và khu vực. Để biết thông tin chính xác, vui lòng tham khảo thông tin chính thức. Để được giải đáp thêm thắc mắc, vui lòng liên hệ: router-switch.com.

Tôi cần biết những gì về thời gian giao hàng, vận chuyển và rủi ro nhập khẩu đối với các thiết bị chuyển mạch và mô-đun cụm AI?

  • Đối với các thiết bị chuyển mạch và module 100G/400G tập trung vào AI, nhu cầu toàn cầu có thể dẫn đến tình trạng nguồn cung biến động. Thời gian giao hàng cho Arista DCS-7260CX3/7050SX3/7050CX4/7280CR3/7800R3 và các module Huawei như CR5M0OFCK050 hoặc CR5D00E2NC73 sẽ phụ thuộc vào lượng hàng tồn kho hiện tại, phân bổ theo lô và các hạn chế về hậu cần của khu vực bạn.
  • Chúng tôi thường đề xuất phương án mua sắm theo từng giai đoạn cho các cụm AI lớn: ưu tiên đảm bảo dung lượng hệ thống xương sống (spine) và hệ thống lá (leaf) đợt đầu tiên trước, sau đó mở rộng khi các giá đỡ GPU được giao. Đối với các mặt hàng có sẵn trong kho, tùy thuộc vào tình trạng sẵn có của sản phẩm và địa điểm giao hàng, chúng tôi có thể sắp xếp các phương án hậu cần khác nhau như mô tả trong chính sách của chúng tôi. phương thức vận chuyển trang này, và chúng tôi khuyên bạn nên điều chỉnh thời gian giao hàng sao cho phù hợp với lịch trình lắp đặt trung tâm dữ liệu của mình để giảm thiểu rủi ro về lưu trữ và bảo hiểm.
  • Để dự đoán tốt hơn về thuế nhập khẩu và thời gian thông quan—đặc biệt là đối với các lô hàng thiết bị mạng AI có giá trị cao—chúng tôi khuyên bạn nên xem lại hướng dẫn của chúng tôi về… thuế và phí hải quan và phối hợp với nhóm tuân thủ thương mại nội bộ của bạn.

Việc bảo hành, vòng đời sản phẩm (kết thúc vòng đời/kết thúc vòng đời) và rủi ro trả lại hàng (RMA) đối với các thiết bị mạng AI này được quản lý như thế nào?

  • Khi đầu tư vào các thiết bị chuyển mạch Ethernet Arista AI Cluster hoặc các mô-đun Huawei 100G/400G cho kiến ​​trúc GPU, điều quan trọng là phải hiểu cả tình trạng vòng đời sản phẩm của nhà cung cấp và các khía cạnh thực tiễn của việc thay thế phần cứng cho các cụm huấn luyện AI quan trọng.
  • Trước khi đặt hàng, chúng tôi khuyên bạn nên kiểm tra từng mã số phụ tùng trong danh mục của chúng tôi. Công cụ kiểm tra EOL / EOSL Để xác nhận trạng thái vòng đời, sau đó đối chiếu trạng thái đó với tuổi thọ cụm máy chủ và chu kỳ làm mới đã lên kế hoạch của bạn. Để biết các tùy chọn bảo hành và dịch vụ hậu mãi (bao gồm cả việc bạn thích bảo hành của nhà cung cấp, bảo hành mở rộng hay bảo hành của bên thứ ba), vui lòng xem lại phần hướng dẫn của chúng tôi. chính sách bảo hành.
  • Để giảm thiểu tác động của rủi ro RMA lên khối lượng công việc đào tạo sản xuất, nhiều khách hàng triển khai tính năng dự phòng N+1 cho hệ thống mạng trục chính và duy trì một nhóm nhỏ các thiết bị dự phòng nguội cho các SKU card mạng và card dòng quan trọng, đặc biệt là trong các cụm AI đa người dùng dùng chung.
  • Vui lòng lưu ý: Điều khoản bảo hành và dịch vụ hỗ trợ cụ thể có thể khác nhau tùy theo sản phẩm và khu vực. Để biết thông tin chính xác, vui lòng tham khảo thông tin chính thức. Để được giải đáp thêm thắc mắc, vui lòng liên hệ: router-switch.com.

Điều gì sẽ xảy ra nếu một thiết bị chuyển mạch/mô-đun AI của Arista hoặc Huawei được giao bị hỏng ngay khi nhận hàng hoặc gặp sự cố trong quá trình chạy thử?

  • Đối với các hệ thống AI, hầu hết khách hàng đều thực hiện kiểm tra độ bền và độ ổn định trên các thiết bị Arista và Huawei trước khi tích hợp chúng vào các dàn GPU sản xuất. Nếu thiết bị bị lỗi ngay khi nhận hàng (DOA) hoặc bị hỏng sớm, bạn nên tuân theo quy trình RMA và trả lại hàng đã được ghi chép đầy đủ để tránh thời gian ngừng hoạt động kéo dài hoặc chậm trễ dự án.
  • Chúng tôi khuyên bạn nên lưu giữ nhật ký kiểm tra nghiệm thu chi tiết (cổng, quang học, phiên bản firmware, kết quả kiểm tra RoCEv2) cho từng thiết bị chuyển mạch hoặc mô-đun, để có thể nhanh chóng truy tìm nguồn gốc sự cố và cách ly thiết bị bị ảnh hưởng. Trong trường hợp xảy ra lỗi, bạn có thể làm theo các bước được nêu trong tài liệu hướng dẫn của chúng tôi. Hướng dẫn trả lại hàng đối với hàng hóa bị lỗi Yêu cầu thay thế hoặc chẩn đoán thêm, đảm bảo phù hợp với quy trình quản lý tài sản và thay đổi nội bộ của bạn.
  • Đối với các cụm AI quan trọng, hãy cân nhắc việc điều chỉnh kế hoạch chạy thử nghiệm sao cho phù hợp với chiến lược dự phòng dung lượng (các nút leaf/spine bổ sung hoặc các card dòng mô-đun) để tránh trường hợp một thiết bị bị lỗi làm gián đoạn quá trình vận hành giá đỡ GPU.
  • Vui lòng lưu ý: Điều khoản bảo hành và dịch vụ hỗ trợ cụ thể có thể khác nhau tùy theo sản phẩm và khu vực. Để biết thông tin chính xác, vui lòng tham khảo thông tin chính thức. Để được giải đáp thêm thắc mắc, vui lòng liên hệ: router-switch.com.

nhiều giải pháp

GPU Cluster Networking Solutions for AI Scale-Out

Giải pháp mạng cho cụm GPU để mở rộng quy mô AI

Thiết kế các kiến ​​trúc mạng Ethernet hiệu năng cao cho các cụm GPU AI với khả năng định hướng cấu trúc liên kết mở rộng, chuyển mạch độ trễ thấp và kiến ​​trúc sẵn sàng triển khai.

Mạng cụm GPU AI
Lossless Ethernet for AI & HPC Networks

Ethernet không mất dữ liệu cho mạng AI & HPC

Xây dựng mạng Ethernet không mất dữ liệu cho AI và HPC với thiết kế sẵn sàng cho RoCE, hướng dẫn kiểm soát tắc nghẽn và lập kế hoạch mạng có độ trễ thấp và khả năng mở rộng.

Ethernet không mất dữ liệu
Ethernet vs InfiniBand for AI & HPC Networks

So sánh Ethernet và InfiniBand cho mạng AI & HPC

So sánh chi tiết giữa Ethernet và InfiniBand cho các kiến ​​trúc mạng AI/HPC – độ trễ, khả năng mở rộng, RDMA và sự đánh đổi về chi phí.

Mạng lưới AI & HPC
Đăng nhập
Đăng ký