Spostamento dei carichi di lavoro di IA sul cloud per l'IA ibrida

Spostamento dei carichi di lavoro di IA sul cloud per l'IA ibrida

Progettazione di sistemi ibridi di intelligenza artificiale a raffica

Progettazione di sistemi ibridi di intelligenza artificiale a raffica
  • Le aziende che addestrano e gestiscono modelli di intelligenza artificiale stanno rapidamente superando la capacità fissa delle GPU on-premise, eppure una migrazione completa al cloud pubblico è raramente fattibile per motivi di costi, residenza dei dati o prestazioni. Il trasferimento di carichi di lavoro di intelligenza artificiale sul cloud promette una potenza di calcolo elastica, ma mette in luce lacune nelle infrastrutture dei data center, nella progettazione del perimetro WAN e nei controlli di sicurezza che possono trasformare gli esperimenti di scalabilità orizzontale in architetture imprevedibili e difficili da gestire.

    Questa sezione si concentra sulle decisioni di rete e di sicurezza che determinano se il cloud bursting dell'IA rimanga controllabile, performante e conforme. L'attenzione è rivolta a come modellare le architetture leaf-spine ad alta larghezza di banda verso i gateway cloud, progettare il routing WAN edge per modelli di traffico AI variabili e rafforzare la sicurezza edge del cloud per il trasferimento di modelli e dataset sensibili, utilizzando percorsi di progettazione concreti anziché scelte prodotto per prodotto.

Vincoli di progettazione dell'IA in grado di sfruttare le nuvole

Estendere i carichi di lavoro di intelligenza artificiale al cloud sembra semplice, ma la larghezza di banda, la latenza, la sicurezza e il controllo dei costi rendono le progettazioni reali fortemente vincolate.

Vincoli di progettazione dell'IA in grado di sfruttare le nuvole
  • Portata di trasmissione est-ovest rispetto ai limiti di uscita dalle nuvole

    Allineare la capacità della struttura leaf-spine con i limiti del gateway cloud è difficile, e comporta il rischio di tempi di inattività della GPU o di colli di bottiglia imprevisti nel traffico di uscita.

  • Controllo dei costi, della qualità del servizio e del percorso delle reti WAN ibride.

    Bilanciare i flussi di IA ad alta larghezza di banda con gli SLA WAN e i budget esistenti è difficile senza sovraccaricare o penalizzare altre applicazioni.

  • Sicurezza e governance tra domini

    Garantire l'applicazione di policy, chiavi e registri di controllo coerenti tra data center, reti WAN e dispositivi periferici del cloud è un'operazione complessa e soggetta a errori.

Hai bisogno di aiuto? Esperti tecnici disponibili subito.

  • +1-626-655-0998 (Stati Uniti)
    UTC 15:00-00:00
  • +852-2592-5389 (Hong Kong)
    UTC 00:00-09:00
  • +852-2592-5411 (Hong Kong)
    UTC 06:00-15:00
Hai bisogno di aiuto? Esperti tecnici disponibili subito.

Casi d'uso del cloud bursting basato sull'IA

Un ambiente in cui le aziende possono estendere in sicurezza i carichi di lavoro di intelligenza artificiale ad alta intensità di GPU dai cluster on-premise al cloud pubblico, mantenendo prestazioni e controllo inalterati.

Addestramento ibrido dell'IA tra ambienti on-premise e cloud pubblico.

Addestramento ibrido dell'IA tra ambienti on-premise e cloud pubblico.

  • Esegui il trasferimento di processi di addestramento di modelli di base di lunga durata dai cluster GPU on-premise alle GPU cloud quando la capacità locale è satura, utilizzando fabric leaf-spine ad alta larghezza di banda e rampe di accesso al cloud basate su switch QFX5200, QFX5120 e 7050/7260.
  • Mantieni i set di dati di training sensibili in locale, trasmettendo in streaming al cloud solo le funzionalità selezionate e i tensori intermedi, grazie a router WAN edge come Cisco Catalyst 8300 e MX150 che ottimizzano la velocità di trasmissione, la selezione del percorso e il costo per Gbps.
  • Utilizza gateway di sicurezza edge per il cloud come Juniper SRX4200/SRX4600 per terminare i tunnel crittografati, imporre la microsegmentazione tra i tenant di training e ispezionare le API delle pipeline di intelligenza artificiale esposte ai servizi cloud.
Inferenza a raffica per applicazioni di IA sensibili alla latenza

Inferenza a raffica per applicazioni di IA sensibili alla latenza

  • Trasferisci dinamicamente i picchi di traffico di inferenza per i motori di raccomandazione, personalizzazione o rilevamento delle frodi dai data center on-premise alle regioni cloud vicine tramite reti a bassa latenza utilizzando QFX5200/QFX5120 e Arista 7050SX3/7260CX3.
  • Sfrutta il routing WAN intelligente con MX150, MX105 e Cisco C8300 uCPE per instradare il traffico tra filiali, gateway di colocation ed endpoint di inferenza cloud in base a latenza, jitter e congestione in tempo reale.
  • Proteggi i dati e i token dei clienti che transitano verso i servizi di inferenza cloud terminando il TLS, applicando politiche zero-trust e scalando IPsec con SRX1500, SRX4200 e SRX300 al bordo del cloud e della rete WAN.
Analisi aziendale e ingegneria dei dati potenziate dall'intelligenza artificiale

Analisi aziendale e ingegneria dei dati potenziate dall'intelligenza artificiale

  • Collega data lake e pipeline ETL on-premise a piattaforme di analisi AI native del cloud tramite infrastrutture di data center ad alta capacità da 25/40/100G utilizzando i design leaf-spine Huawei CE6855, Cisco C8K-12X4QC-IWANPM e Juniper QFX.
  • Utilizza piattaforme WAN edge come MX80, MX150 e gli abbonamenti Juniper AIWAN per dare priorità alla sincronizzazione di grandi quantità di dati, ai processi di riaddestramento dei modelli e agli aggiornamenti pianificati del feature store durante le finestre di non picco quando effettui migrazioni al cloud.
  • Posizionare SRX550, SRX1500 e MX65 nei punti di aggregazione chiave per proteggere le connessioni al database, applicare le policy DLP e di geofencing e segmentare le zone di analisi quando i dati vengono spostati tra servizi di intelligenza artificiale on-premise e multi-cloud.
Piattaforme di intelligenza artificiale multi-tenant sicure per le unità aziendali aziendali.

Piattaforme di intelligenza artificiale multi-tenant sicure per le unità aziendali aziendali.

  • Ospita cluster GPU condivisi on-premise ed espandi la capacità aggiuntiva nel cloud per servire più unità aziendali, utilizzando domini leaf-spine dedicati su QFX5120/QFX5200 e Arista 7260CX3 per isolare i tenant a livello 2/3.
  • Implementare i router MX105, MX150 e Cisco C8300 come edge del cloud ibrido per fornire separazione basata su VRF, garanzie di larghezza di banda e controllo del percorso consapevole delle applicazioni tra ciascuna unità aziendale e i relativi ambienti di intelligenza artificiale nel cloud.
  • Implementare l'accesso zero-trust alle API e ai notebook di IA tramite cluster SRX4200, SRX4600 e SRX300, applicando criteri di sicurezza per tenant, verifiche dell'identità dell'utente e ispezione continua per individuare abusi dei modelli di IA quando le sessioni si estendono al cloud.
Offload dell'IA in locale e nelle filiali sul cloud per le operazioni

Offload dell'IA in locale e nelle filiali sul cloud per le operazioni

  • Consenti a filiali, stabilimenti e punti vendita di pre-elaborare localmente dati video, di telemetria o IoT e di inviare elaborazioni AI avanzate, come la visione artificiale o il rilevamento di anomalie, alle GPU cloud tramite tunnel sicuri.
  • Utilizza Cisco C8300 uCPE e gli abbonamenti Juniper AIWAN su MX150/MX80 per aggregare il traffico edge, fornire accesso locale alle regioni cloud e regolare dinamicamente la larghezza di banda quando i carichi di lavoro di intelligenza artificiale raggiungono picchi.
  • Termina IPsec, applica firewall basati sulle applicazioni e controlla l'accesso da migliaia di nodi periferici ai servizi AI centralizzati utilizzando cluster SRX300, SRX550 e SRX1500 posizionati presso hub regionali o ai margini del cloud.

Domande frequenti

Come posso scegliere tra switch per data center e router di bordo WAN per il cloud bursting basato sull'intelligenza artificiale?

  • Utilizzate gli switch per data center (ad esempio, QFX5200-32C-AFO, serie QFX5120, DCS-7050SX3-48YC12-F, DCS-7260CX3-64-F, CE6855-48XS8CQ-B, C8K-12X4QC-IWANPM) principalmente per creare la struttura leaf-spine ad alta larghezza di banda tra i cluster GPU AI on-premise e i gateway cloud all'interno del data center o della struttura di colocation.
  • Utilizza router WAN edge (ad esempio, C8300-UCPE-1N20, MX150, MX80-AC, serie S-AIWAN) quando hai bisogno di routing e instradamento del traffico sicuri e basati su policy tra più siti, data center e regioni di cloud pubblico, inclusa l'integrazione con SD-WAN o reti overlay ottimizzate per l'intelligenza artificiale.
  • In pratica, la maggior parte delle architetture bursting utilizza entrambi: switch per la connettività est-ovest all'interno del data center e uplink verso le rampe di accesso al cloud, router per la connettività nord-sud e il routing multi-cloud. Se hai bisogno di aiuto per dimensionare le porte, il throughput o l'integrazione dell'overlay AI, puoi consultare il nostro Supporto gratuito per la soluzione CCIE.
  • Nota: i termini di garanzia e i servizi di supporto specifici possono variare in base al prodotto e alla regione. Per informazioni più dettagliate, consultare le informazioni ufficiali. Per ulteriori informazioni, contattare: router-switch.com.

Queste piattaforme di cloud bursting basate sull'intelligenza artificiale sono compatibili con la mia rete esistente, composta da dispositivi di diversi fornitori?

  • Gli switch e i router elencati sono basati su standard (ad esempio, Ethernet 10/25/40/100G, BGP, OSPF, EVPN/VXLAN, IPSec) e sono generalmente interoperabili con le apparecchiature aziendali esistenti di Cisco, Juniper, Arista, Huawei e di altri produttori, a condizione che si allineino velocità di interfaccia, fibra ottica e protocolli di routing.
  • Per gli switch dei data center, verificare i transceiver e le opzioni di breakout supportati su entrambi i lati di ciascun collegamento e assicurarsi che MTU e set di funzionalità EVPN/VXLAN siano coerenti se si estendono le infrastrutture AI tra diversi fornitori.
  • Per i router di bordo WAN e i gateway di sicurezza SRX/Cisco, verificare le versioni di IPSec/IKE, le suite di crittografia e il comportamento di BGP/filtri di percorso per evitare il routing asimmetrico quando si invia traffico AI in modalità burst al cloud pubblico.
  • Poiché le infrastrutture AI multi-vendor possono rivelare casi limite sottili in presenza di un elevato traffico GPU, raccomandiamo una revisione della progettazione e un progetto pilota limitato prima del lancio completo. I nostri ingegneri possono aiutare a convalidare l'interoperabilità e gli scenari di errore tramite Assistenza gratuita per la progettazione CCIE.
  • Nota: i termini di garanzia e i servizi di supporto specifici possono variare in base al prodotto e alla regione. Per informazioni più dettagliate, consultare le informazioni ufficiali. Per ulteriori informazioni, contattare: router-switch.com.

Quali sono le considerazioni di implementazione critiche quando si connettono cluster di IA on-premise a gateway cloud?

  • Per gli switch ad alta larghezza di banda (QFX5200, QFX5120, DCS-7050SX3, DCS-7260CX3, CE6855, C8K-12X4QC-IWANPM), pianificare un numero sufficiente di uplink 40/100G verso i punti di accesso al cloud e riservare percorsi non bloccanti per il traffico GPU est-ovest per evitare la sovraiscrizione in caso di picchi di traffico.
  • Ai margini della WAN (C8300-UCPE-1N20, MX150, MX80-AC, serie S-AIWAN), verificare che la velocità effettiva di trasmissione crittografata, la scalabilità del percorso e le code QoS corrispondano al volume di picco previsto, non solo al traffico medio, e configurare policy esplicite per i prefissi o i tag applicativi relativi all'IA.
  • Per i gateway di sicurezza (SRX1500, SRX4200, SRX4600, SRX300, SRX550, MX105-HW, MX65-HW), preconfigurare i tunnel IPSec/GRE, le policy di accesso utente-applicazione e l'esportazione dei log prima di attivare i carichi di lavoro AI completi per prevenire limitazioni impreviste o violazioni delle policy.
  • Infine, allinea il tuo design bursting con i piani di ciclo di vita e di supporto: verifica in anticipo lo stato EOL/EOSL del prodotto utilizzando il nostro Verificatore EOL/EOSL in modo che la tua piattaforma rimanga supportata lungo tutta la tua roadmap per l'IA.

Come posso evitare colli di bottiglia nelle prestazioni o limiti nascosti durante la crittografia del traffico AI verso il cloud?

  • Sui router di bordo WAN e sui gateway di sicurezza, la velocità di trasmissione crittografata effettiva in condizioni di traffico reale (checkpoint di modelli AI di grandi dimensioni, tensori di streaming) può essere significativamente inferiore alla capacità di inoltro dello chassis, pertanto è necessario dimensionare in base alle prestazioni VPN testate e al numero massimo di tunnel simultanei.
  • Dispositivi come i router delle serie SRX1500/SRX4200/SRX4600, SRX300/SRX550, MX105-HW, MX65-HW e S-AIWAN supportano l'offload hardware per IPSec, ma l'attivazione di servizi aggiuntivi (IDS/IPS, filtro URL, registrazione avanzata) potrebbe ridurre il margine disponibile per i burst di AI.
  • Utilizza classi QoS e pianificazioni separate per il traffico di training/INF dell'IA rispetto al traffico aziendale generale e valuta l'utilizzo di interfacce dedicate o VRF per i tunnel di cloud-bursting sui modelli C8300-UCPE-1N20 e sulla serie MX per isolare la congestione.
  • Nella fase di Proof of Concept (PoC), testate flussi di intelligenza artificiale realistici (caricamenti di checkpoint, sincronizzazione di set di dati, flussi di inferenza) durante i picchi di utilizzo, anziché utilizzare semplici strumenti di throughput, e validate il comportamento di failover (ad esempio, il dual-homing verso più regioni cloud) sotto carico prima del passaggio in produzione.

Cosa devo sapere riguardo ai tempi di consegna, alla spedizione e alle tasse per l'hardware di intelligenza artificiale per il cloud bursting?

  • La disponibilità a magazzino e i tempi di consegna per switch (QFX, DCS, CE, Catalyst 8000), router (C8300, MX150, MX80, serie AIWAN) e dispositivi SRX/di sicurezza possono variare in base alla regione, alla configurazione e alle attuali condizioni di fornitura; le stime di consegna precise vengono generalmente fornite solo dopo aver verificato la disponibilità per la specifica combinazione di SKU.
  • Per gli articoli disponibili a magazzino, le opzioni di spedizione e i tempi di consegna dipenderanno dal corriere selezionato, dal paese di destinazione e da eventuali procedure di sdoganamento; è possibile consultare i metodi e le condizioni tipiche nella nostra Panoramica dei metodi di spedizione.
  • I dazi doganali, l'IVA/GST e le commissioni di intermediazione sono generalmente regolati dalle normative locali e dagli Incoterms concordati nel tuo ordine; per pianificare il budget del tuo progetto AI, consulta la nostra guida dedicata su tasse e dazi doganali e coordinarsi con il team interno di logistica o finanza.
  • Poiché molti progetti di intelligenza artificiale sono vincolati a scadenze precise, consigliamo di contattare tempestivamente il nostro team di vendita fornendo la distinta base e la data di messa in produzione prevista, in modo da poter proporre alternative o consegne scaglionate qualora alcuni componenti avessero tempi di consegna più lunghi.

Quali opzioni di garanzia, reso e supporto tecnico si applicano a queste soluzioni di cloud bursting basate sull'intelligenza artificiale?

  • La copertura della garanzia dipende dal fornitore (Cisco, Juniper, Arista, Huawei, ecc.), dallo specifico SKU (ad esempio, QFX5200-32C-AFO, DCS-7260CX3-64-F, C8300-UCPE-1N20, SRX4600-AC) e dal fatto che si utilizzino prodotti nuovi, ricondizionati o provenienti da fonti globali; è possibile consultare il nostro approccio standard nel politica di garanzia.
  • Se un dispositivo arriva difettoso o sviluppa un problema durante il periodo di copertura, il nostro team logistico può guidarti attraverso i passaggi RMA; segui la procedura descritta nella nostra Istruzioni per la restituzione di merce difettosa per ridurre al minimo i tempi di inattività dei carichi di lavoro di intelligenza artificiale.
  • Per le progettazioni di cloud bursting basate sull'IA, le best practice di configurazione e la pianificazione della migrazione spesso contano più delle specifiche hardware pure; forniamo assistenza per la progettazione e la risoluzione dei problemi tramite il nostro Supporto CCIE gratuito in modo da poter convalidare le architetture prima di effettuare ordini su larga scala.
  • Nota: i termini di garanzia e i servizi di supporto specifici possono variare in base al prodotto e alla regione. Per informazioni più dettagliate, consultare le informazioni ufficiali. Per ulteriori informazioni, contattare: router-switch.com.

Altre soluzioni

GPU Cluster Networking Solutions for AI Scale-Out

Soluzioni di rete per cluster GPU per la scalabilità dell'IA

Progettare reti Ethernet ad alte prestazioni per cluster GPU AI con guida topologica scalabile, commutazione a bassa latenza e architettura pronta per l'implementazione.

Rete di cluster GPU per intelligenza artificiale
Enterprise SASE Security Architecture Guide

Guida all'architettura di sicurezza SASE aziendale

Scopri come SASE unisce SD-WAN e sicurezza cloud per ridurre del 40-60% le spese operative e fornire un accesso Zero Trust unificato per le aziende distribuite.

SEI
Ethernet vs InfiniBand for AI & HPC Networks

Ethernet vs InfiniBand per reti AI e HPC

Un confronto mirato tra Ethernet e InfiniBand per strutture AI/HPC: latenza, scalabilità, RDMA e compromessi sui costi.

Reti AI e HPC