"인피니밴드" 태그가 있는 기사

5 항목

내림차순 방향을 설정
  1. AI 추론 클러스터 최적화: MCX7 AAS-NEAT 어댑터 싱가포르와 아시아 태평양 지역에서 대규모 언어 모델(LLM) 및 생성형 AI에 대한 수요가 급증함에 따라 GPUaaS(GPU-as-a-Service) 제공업체와 AI 엔지니어는 중요한 과제에 직면해 있습니다. 바로 추론 클러스터의 속도가 네트워크 속도에 달려 있다는 점입니다. 키-값 캐시 전송이나 동기화 과정에서 발생하는 마이크로초 단위의 지연은...
  2. AI 인프라 구축을 위한 NVIDIA InfiniBand와 이더넷 중 어떤 것을 선택해야 할까요? AI 인프라 프로젝트가 구상 단계에서 구축 단계로 넘어갈 때, 가장 중요한 설계 결정 중 하나는 네트워크를 인피니밴드(InfiniBand) 방식으로 구축할지 이더넷 방식으로 구축할지 여부입니다. 이는 단순히 하드웨어 선호도의 문제가 아닙니다. 환경 확장성, 아키텍처 설계 방식 등에 영향을 미칩니다.
  3. 원스톱 고성능 네트워킹 공급망을 통해 글로벌 AI 인프라 조달을 간소화하는 방법 ...
  4. MQM8790 비관리형 클러스터용 InfiniBand 서브넷 관리자 페일오버 고가용성 OpenSM 아키텍처 문제 해결 요약: 관리되지 않는 MQM8790 스위치를 기반으로 하는 배포 환경에서 전체 InfiniBand 패브릭 제어 평면은 외부 서브넷 관리자(SM)에 의존합니다. 서로 다른 sm_priority 값을 사용하는 고가용성 액티브/스탠바이 OpenSM 아키텍처를 구현하면 장애 발생 시 전체 클러스터 중단을 방지할 수 있습니다.
  5. 서버용 PCIe 네트워크 카드: PCIe 레인, 속도, 폼 팩터 및 호환성 요약: PCIe 네트워크 카드를 선택할 때는 단순히 광고된 네트워크 속도와 사용 가능한 PCIe 슬롯을 일치시키는 것만으로는 충분하지 않습니다. 안정적인 선택을 위해서는 PCIe 세대 및 레인 폭, 서버 슬롯 배선, 포트 유형, 이더넷 또는 InfiniBand 요구 사항 등도 고려해야 합니다.

5 항목

내림차순 방향을 설정