Bài viết theo thẻ "RoCE v2"

1. Tối ưu hóa các cụm suy luận AI: Bộ điều hợp MCX7 AAS-NEAT
   Selene Công

   25
   Khi nhu cầu về Mô hình Ngôn ngữ Lớn (LLM) và Trí tuệ Nhân tạo tạo sinh tăng mạnh tại Singapore và khu vực Châu Á Thái Bình Dương, các nhà cung cấp dịch vụ GPU (GPUaaS) và các kỹ sư AI đang đối mặt với một thách thức quan trọng: tốc độ của cụm suy luận chỉ nhanh bằng tốc độ mạng. Độ trễ vài micro giây trong việc truyền bộ nhớ đệm KV hoặc đồng bộ hóa...
2. Sẵn sàng cho tản nhiệt nước: Bộ chuyển mạch Mellanox cho mật độ tủ rack 100kW trở lên
   Selene Công

   28
   Khi khối lượng công việc AI tăng mạnh vào năm 2026, các kiến ​​trúc sư trung tâm dữ liệu (DCA) và nhà cung cấp GPUaaS tại Singapore và khu vực Châu Á Thái Bình Dương phải đối mặt với thực tế khắc nghiệt: các GPU thế hệ tiếp theo như Blackwell GB200 NVL72 đẩy mật độ công suất của rack vượt quá 140kW. Trong môi trường khắc nghiệt như vậy, các thiết bị chuyển mạch làm mát bằng không khí truyền thống không thể duy trì...