Abstract
Raws li kev txawj ntse txawj ntse (AI) nce siab sai, cov chaw khaws ntaub ntawv ib txwm muaj ntsib teeb meem loj thaum nqa AI tsheb. Kev siv bandwidth siab thiab tsawg tus ntxhw ntws tuaj yeem ua rau cov pa ib txwm ua rau - flow load balancing ineffective, ua rau congestion thiab pob ntawv poob uas nce AI qauv kev cob qhia thiab lub sijhawm ua haujlwm tiav. Daim ntawv dawb no tshuaj xyuas lub tshuab ntse ntse routing technology uas sib xyaw ua ke tiag tiag - lub sijhawm paub txog nrog kev txiav txim siab ntse - ua. Nws siv txoj hauv kev- ntsuas kev ua tau zoo, BGP txuas ntxiv- attribute synchronization, dynamic weighted-nqi multipath (WCMP), txawv txav -txoj kev tshem tawm, thiab
Flowlet-theem auto load balancing (ALB) los txhim kho kev teem caij tsheb hauv AI ib puag ncig. Tus qauv tsim kuj tseem siv virtualization los muab ntau- tus neeg xauj tsev cais tawm thiab muab cov xwm txheej ntawm daim ntawv thov thiab kev npaj kev taw qhia rau kev ua haujlwm zoo, ruaj khov, thiab ntse AI cov ntaub ntawv chaw sib txuas.
Taw qhia: Network Evolution hauv AI Era
Vim li cas Kev Sib Txuas Lus Sib Tham nrog AI Tsheb khiav
Nyob rau hauv ib txwm cov ntaub ntawv chaw networks, ib tug loj tus naj npawb ntawm me me flows enables ib -flow load balancing kom tau txais kev faib thiab congestion zam txawm tias tsis muaj tiag - lub sij hawm paub txog lub network tej yam kev mob. AI tsheb sib txawv heev: kev siv bandwidth siab heev thiab kev khiav tsheb feem ntau tsuas yog ob peb tus ntxhw ntws. Kev sib tsoo Hash tuaj yeem tso ntau qhov dej ntws loj ntawm tib txoj kev thaum lwm txoj hauv kev tseem siv tsis tau. Thaum pob ntawv poob tshwm sim, lub sijhawm ua tiav ntawm tag nrho AI ua haujlwm yuav nce ntxiv. Vim li no, kev lag luam nce siab rau kev ua kom zoo dua cov khoom thauj- ntsuas cov txheej txheem rau AI fabrics kom cov tsheb thauj mus los tau sib npaug thoob plaws ntau txoj hauv kev.
Daim duab 1. Kev sib piv ntawm AI ntxhw- khiav khiav thiab ib txwm me me - khiav khiav.
Ua ke Dynamic Awareness nrog kev txiav txim siab ntse -Ua
Dynamic intelligent routing yog kev paub txog -raws li load- ntsuas tshuab. Nws siv txoj hauv kev zoo paub los ntawm cov keyboards hauv cov ntaub los kho cov kev xaiv hauv zos thiab txhawb nqa qhov hnyav hnyav hnyav. Ua los ntawm BGP, thev naus laus zis txhais tau hais tias qhov txuas ntxiv tshiab - zej zog tus cwj pwm.
Ntau -dimensional, siab- kev ntsuas qhov tseeb yog siv los ntsuas txoj hauv kev zoo, thiab cov txiaj ntsig tau nthuav tawm los ntawm BGP los coj cov tsheb thauj mus los tom ntej. Qhov no txhim kho kev sib koom tes- kev faib khoom thoob plaws thiab txo cov sij hawm teb rau daim ntawv thov [1].
Daim duab 2. Dynamic paub, kev txiav txim siab, thiab kev ua haujlwm ua haujlwm.
Core Technologies: Intelligent Traffic Teem caij
Mainstream network load-kev ntsuas ntsuas muaj xws li:
- Ib -flow ECMP: Txoj hauv kev uas muaj ntau tshaj plaws, raws li tsib-tuple hash. Nws ua haujlwm tau zoo thaum muaj ntau qhov ntws thiab khaws cia cov ntawv xaj, tab sis kev sib tsoo hash tuaj yeem tsim qhov ntsuas tsis zoo thaum suav suav tsawg, xws li hauv kev cob qhia AI [1].
- Flowlet-raws li ntsuas: Nyob ntawm qhov tseeb configuration ntawm inter-flowlet kis. Kev teeb tsa raug yog qhov nyuaj thaum txoj hauv kev thoob ntiaj teb - qib latency tsis paub [1].
- Ib - pob ntawv ECMP: Muab qhov zoo tshaj plaws theoretical tshuav nyiaj li cas tab sis tuaj yeem tsim ntau pob ntawv rov xaj ntawm tus txais [1].
Lub dynamic intelligent routing mus kom ze siv los ntawm XingRongyuan CX-N Series RoCE keyboards (SONiC-raws li) combines ib -flow ECMP thiab Flowlet-raws li ntsuas. Nws qhia dynamic WCMP (Weighted Cost Multipath) thiab Flowlet-raws li ALB (Auto Load Balancing) [1].
Txoj Kev Ntsuas Zoo
Lub kaw lus ntsuas kev sib txuas ntawm txoj hauv kev zoo siv yam uas cuam tshuam rau AI pawg ntaub, suav nrog kev siv bandwidth, kev siv kab, thiab xa mus latency.
Statistical Counters
Bandwidth thiab kev siv kab yog ntsuas los ntawm ASIC hardware counters nrog qhov tseeb ntawm puas-millisecond theem. Lub ASIC cov ntaub ntawv chaw nres nkoj - xa mus thiab kab - xa mus rau cov suav hauv lub sijhawm. Lub dav hlau tswj SONiC nyeem cov txee los ntawm SAI interface ntawm sub- thib ob precision thiab khaws cia rau hauv Redis. Cov txheej txheem tswj hwm -cov txheej txheem ntsuas kev sib txuas zoo siv cov txee no thiab tshaj tawm cov txiaj ntsig los ntawm BGP. Txhawm rau txwv kev tswj- dav hlau thauj khoom, kev tshaj tawm tam sim no raug xa mus rau theem thib ob- theem, nrog rau qhov hnyav nruab nrab siv rau ntau qhov qauv; cov qauv tsis ntev los no tau txais qhov hnyav dua.
Hauv -Band Telemetry
Kev xa mus- ncua kev ntsuas yog nyob ntawm INT (Nyob rau hauv-band Network Telemetry) thiab tuaj yeem ncav cuag nanosecond- theem precision. HDC (High Delay Capture) ntes cov pob ntawv uas muaj kev latency siab hauv ASIC. Thaum ib pob ntawv tshaj tus neeg siv- qhov kev ncua ncua sij hawm, qhov hloov pauv xa thawj 150 bytes ntawm thawj pob ntawv ua ke nrog metadata, suav nrog ingress chaw nres nkoj, egress chaw nres nkoj, thiab latency, mus rau tus sau. Hauv qhov tsim no, CPU ua raws li HDC sau thiab ntsuas ntsuas, ua kom siab -kev xa mus rau qhov tseeb- ncua kev ntsuas thiab txoj hauv kev raug ntau dua- kev ntsuas qhov zoo.
Daim duab 3. Txoj kev- zoo tshaj tawm thiab WCMP kev teeb tsa.
Cov thev naus laus zis siv BGP txuas ntxiv tshiab -cov yeeb yaj kiab hauv zej zog, Path Bandwidth Extended Community, los qhia txog qhov zoo ntawm txoj hauv kev mus rau qhov chaw. Qhov siab - xaj byte ntawm qhov txuas ntxiv - hom teb yog 0x00 thiab qis - xaj byte yog 0x05. Nyob rau hauv tus nqi teb, Lub Ntiaj Teb Administrator subfield sawv cev rau tus lej AS. Txoj kev zoo yog encoded nyob rau hauv plaub bytes siv IEEE ntab{10}}point hom ntawv thiab hais nyob rau hauv GB/s .
Thaum NIC1 sib txuas lus nrog NIC2, NIC2 thawj zaug tshaj tawm nws qhov chaw nyob IP rau Leaf2. Leaf2 tshaj tawm qhov chaw nyob rau tus nqaj qaum ua ke nrog qhov txuas - tus nqi zoo rau NIC2 muab los ntawm Leaf2 downlink qhov hnyav. Tus txha caj qaum ntxiv nws tus kheej qhov hnyav txuas qhov zoo thiab dhau tus nqi tsim nyog rau Leaf1. Leaf1 qhia txog txoj hauv kev zoo thiab txhim kho txoj hauv kev uas qhia kev xa mus. Hauv ob -tier Leaf-Spine npuag, cov chaw nres nkoj tau muab cais ua Leaf uplinks, Leaf downlinks, thiab Spine ports, nrog rau kev suav cov coefficients rau txhua chav kawm.
Dynamic WCMP
Load balancing faib cov tsheb khiav hla ntau qhov txuas. Hauv AI ib puag ncig, qhov no yog qhov tseem ceeb rau kev tsim cov ntaub tsis muaj Ethernet nrog cov pob ntawv poob tsawg, latency, thiab dhau ntawm kev puas tsuaj. ECMP yog cov txheej txheem ib txwm siv hauv cov chaw khaws ntaub ntawv. WCMP txuas ECMP los ntawm kev faib tawm
tsheb proportionally hla kev sib txuas. Nyob rau hauv dynamic intelligent routing, WCMP luj yog kho nyob rau hauv lub sij hawm raws li txoj kev zoo. Piv txwv li, yog tias ob txoj hauv kev muaj nyob nruab nrab ntawm NIC1 thiab NIC2, lub kaw lus yuav xam qhov piv ntawm 3: 7. Raws li kev hloov pauv, kev hloov kho tshiab- cov ntaub ntawv zoo tau nthuav tawm los ntawm BGP rau txhua nplooj ntawv hloov, qhov twg WCMP cov kev hloov pauv tau tsim los coj kev xa mus.
Txoj Kev Tshem Tawm
Thaum txoj kev sib sau ua ke zoo poob qis dua qhov kev pom zoo, txoj hauv kev suav tias yog siv tsis tau rau AI workload thiab raug tshem tawm ntawm kev xa mus. Lwm txoj hauv kev txuas ntxiv mus nqa tsheb los ntawm WCMP dynamic. Thaum txoj kev rov zoo li qub, nws rov qab los. Txawm hais tias qhov no yuav ua rau qee lub peev xwm tsis siv, nws tiv thaiv kev mob hnyav dua thiab pob ntawv poob [1].
Intelligent Load Balancing (ALB)
ALB muab Flowlet-raws li kev faib khoom. ASIC ntsuas load thiab latency ntawm cov chaw nres nkoj sib txawv hauv lub sijhawm tiag tiag thiab coj txhua Flowlet mus rau qhov txuas nrog qis qis lossis qeeb qeeb. Qhov no ntxiv qhov zoo dua - lub sijhawm teem caij rau saum ECMP ib txwm muaj. ALB tseem txhawb nqa qhov chaw nres nkoj tsis ua haujlwm thiab cia li rov faib cov tsheb khiav thaum qhov txuas egress tsis ua haujlwm [1].
Virtualization
Pem hauv ntej-kawg tes hauj lwm feem ntau xav tau ntau- cov neeg xauj tsev txhawb nqa kom cov peev txheej GPU sib txawv tuaj yeem faib rau cov neeg siv sib txawv. Qhov kev daws teeb meem siv VRF (Virtual Routing thiab Forwarding) los cais cov neeg xauj tsev, nrog rau ib qho VRF muab rau txhua tus neeg siv. GPU-cov subnets cuam tshuam tau muab tso rau hauv tus neeg siv lub VRF, thiab PRE ACLs hauv ASIC faib cov tsheb khiav tawm kom txhua tus neeg siv cov tsheb thauj mus los tsuas yog nyob hauv VRF sib thooj [1].
Daim ntawv thov Scenario
1.How Dynamic WCMP Absorbs Traffic Surges
Rau cov ntaub nrog 256 x 400G GPU cov chaw nres nkoj, ob lub -tier Clos architecture tuaj yeem tsim nrog 1: 1 downlink-rau-uplink convergence piv kom tswj tau qhov siab, siab bandwidth, thiab muaj peev xwm sib npaug. Cov qauv khoom tsim nyog suav nrog XingRongyuan CX864E-N lossis CX732Q-N [1]. Raws li cov lus pom zoo ECMP, ib qho me me ntawm AI ntxhw ntws tuaj yeem cuam tshuam rau tib leeg txha nraub qaum, ua rau muaj kev sib tsoo lossis pob ntawv poob. Dynamic WCMP tsis tu ncua kho cov tsheb thauj mus los raws li lub sijhawm tiag tiag - txoj hauv kev zoo, txo cov tsheb khiav ceev thiab tsis txhob muaj kev sib tsoo [1].
2.Flowlet-Qib Load Balancing
Hauv tib 256 x 400G GPU npuag, tsis yog txhua lub cuab yeej lossis kev ua haujlwm tau zoo tshaj plaws los ntawm dynamic WCMP. Qhov hloov pauv tuaj yeem xaiv Flowlet dynamically -raws li ALB. ALB ntsuas qhov load thiab latency ntawm kev sib txuas hauv pawg ECMP thiab xa Flowlets mus rau kev sib txuas nrog kev siv qis lossis qeeb. Yog tias qhov kev sib txuas dhau los dhau los lossis nws qhov kev xa mus qeeb, ASIC cia li zam qhov egress mus txog thaum cov xwm txheej rov qab mus rau qhov qub [1].
AI Network Planning thiab Tsim
Cov kev pabcuam AI feem ntau suav nrog peb theem: kev sau cov ntaub ntawv thiab ua ntej, kev cob qhia qauv, thiab AI inference. Txhua theem imposes txawv cov kev cai ntawm lub network.
1.Data Collection thiab Preprocessing
Kev cob qhia thoob ntiaj teb-cov ntaub ntawv sau thiab kev ua haujlwm ua ntej yuav tsum muab qhov loj - nplai, elastic pej xeem IP thiab cov peev txheej bandwidth kom cov ntaub ntawv nyoos loj tuaj yeem sau tau zoo los ntawm lub ntiaj teb internet. Tus tsim yuav tsum xyuas kom muaj kev ruaj ntseg thiab ruaj khov kis tau tus mob thaum txhim kho cov ntaub ntawv aggregation thiab preprocessing kev ua tau zoo [2].
1.1 VPC Segmentation
VPC tsim rau huab-raws li kev sau cov ntaub ntawv yuav tsum ua raws li tsawg kawg nkaus - muaj cai, txheej txheej cais, tswj kev ruaj ntseg, thiab cov qauv kev ua kom muaj zog elastic. Ob leeg VPCs lossis ntau lub subnets hauv ib VPC yuav raug siv [2].
- Ntu los ntawm theem kev pabcuam: Xa cov ntaub ntawv sau, ua ntej, khaws cia, kev cob qhia, thiab kev xav hauv cais subnets lossis VPCs. Muab cov ntsiab lus sau nkag rau hauv DMZ VPC lossis pej xeem subnet; tso preprocessing thiab ib ntus cov ntaub ntawv nyob rau hauv ib tug tshwj xeeb ua VPC; tso cov ntaub ntawv raw rhiab heev thiab kev cob qhia AI hauv siab -VPC kev nyab xeeb yam tsis muaj kev nkag ncaj qha rau pej xeem.
- Cais tawm los ntawm qib kev ruaj ntseg: Tsim siab -, nruab nrab-, thiab qis -VPCs lossis subnets thiab siv kev ruaj ntseg pab pawg, network ACLs, thiab kev sib txuas ntiag tug los tswj kev hla -VPC thiab hla -subnet kev khiav tsheb.
- Lsolate los ntawm tus neeg xauj tsev lossis qhov project: Muab VPCs cais rau cov neeg xauj tsev sib txawv lossis cov haujlwm kom cais cov peev txheej, tes hauj lwm, thiab cov ntaub ntawv.
1.2 Cov Ntaub Ntawv Sau Egress Network
NAT lub rooj vag: Siv lub pas dej ntawm EIPs thiab SNAT los ntawm NAT lub rooj vag, tso cai rau kev sau cov kev pabcuam nkag mus rau hauv is taws nem los ntawm kev xaiv qhov chaw nyob IP pej xeem.
Tus kheej- tsim lub npe: Xa cov npe neeg rau zaub mov uas tswj xyuas kev sib koom ua ke ntawm cov txheej txheem sau thiab cov chaw nyob IP pej xeem, thiab faib ib qho kev thov sau los ntawm ntau tus neeg sawv cev.
Tus neeg muab kev pabcuam IP: Txuas mus rau tus neeg muab kev pabcuam IP hla huab ntiag tug network rau tus nqi qis, tswj kev ruaj ntseg, thiab ruaj khov zoo [2].
1.3 Hla-Cov ntaub ntawv hauv cheeb tsam Aggregation thiab ua ntej
Xaiv thaj av OSS raws li kev ua ntej- pawg phiaj xwm thiab tsim cov ntaub ntawv- sib sau VPC hauv tib cheeb tsam. Tsim lub Transit Router (TR) nyob rau hauv txhua cheeb tsam, txuas VPCs hauv zos, thiab sib cuam tshuam cov TRs kom cov cheeb tsam sau VPCs tuaj yeem nkag ncaj qha rau hauv nruab nrab OSS. Cov kev pabcuam xws li PAI-iTAG, MaxCompute, thiab Flink tuaj yeem ua cov ntaub ntawv sau npe thiab ua ntej hauv cheeb tsam OSS [2].
2. Qauv Kev cob qhia Network
Tus qauv- kev cob qhia kev sib koom ua ke nrog kev sib sau ua ke thiab kev ua haujlwm ua ntej los tsim cov ntaub thoob ntiaj teb uas txuas cov ntaub ntawv huab cua, ntug ntawm cov pob txha, thiab ntawm - thaj chaw IDCs.
High-kev sib txuas ceev ceev muab-latency qis, siab- dhau ntawm cov ntaub ntawv txav, thaum bandwidth, kev ruaj ntseg txoj cai, tswj kev nkag mus, thiab kev puas tsuaj rov qab yuav tsum tau tsim kom kawg [2].
- Nyob rau hauv - cheeb tsam hla - pawg suav suav pas dej: Ib Lub Router Transit txuas ntau VPCs nyob rau hauv tib cheeb tsam. Tus neeg rau zaub mov ENIs txuas rau VPC keyboards thiab tuaj yeem teeb tsa rau qhov yuav tsum tau nkag mus thiab RDMA.
- Hla - huab suav pas dej ua ke: Dedicated circuits txuas ib qho IDC lossis lwm huab rau tib yam - cheeb tsam VPC. Alibaba Cloud VBRs txuas ntawm Txheej 3 mus rau cov cuab yeej sib koom ua ke, nrog BGP, BFD, thiab nrawm nrawm rau kev sib koom ua ke sai.
Ntiaj teb kev suav lub pas dej: Hla- cheeb tsam kev sib txuas ntawm TRs yog muab raws li kev sib koom ua ke ntawm - cheeb tsam kev tsheb khiav, nrog rau kev xaiv inter- cheeb tsam QoS los tsim ib qho kev sib koom ua ke suav thoob hauv cheeb tsam [2].
3. Ntiaj teb no Inference-Service Network
Lub ntiaj teb inference network xaiv cov qauv xa tawm raws li cov peev txheej thiab cov kev pabcuam huab muaj nyob rau hauv txhua cheeb tsam thiab muab kev pabcuam zoo thiab kev nkag tau [2].
- Kev xa tawm qauv lossis tus neeg sawv cev: Siv Model Studio MaaS xa tawm, PAI-EAS lossis Function Compute PaaS xa tawm, lossis IaaS xa tawm ntawm EGS, ACK, ACS, lossis Lingjun liab qab - hlau infrastructure hauv cov neeg siv khoom VPC.
- Kev faib tawm: Tsim ib qho kev xam pom- faib VPC thiab txuas cov kev sib txuas ntiag tug siv VPC Peering, cuam tshuam huab- kev pabcuam VPCs, lossis PrivateLink. Siv ALB lossis txhim kho ALB raws li qhov chaw nkag thiab thov npe rau cov qauv sib txawv lossis Tus Neeg Saib Xyuas.
- Kev Pabcuam: Cov neeg siv internet hauv zos tuaj yeem nkag mus tau zoo dua ALB ncaj qha; Cov neeg siv tej thaj chaw deb tuaj yeem siv Ntiaj Teb Accelerator (GA); Sab hauv lossis sab nraud Alibaba Cloud cov neeg siv khoom lag luam tuaj yeem txuas tus kheej los ntawm PrivateLink.
Xaus thiab Outlook
Daim ntawv dawb no piav qhia txog cov teeb meem uas tau ntsib los ntawm IDC tes hauj lwm hauv AI era thiab yuav ua li cas dynamic intelligent routing yuav daws tau lawv. Kev paub txog lub cev muaj zog, kev txiav txim siab ntse- ua, WCMP, ALB, thiab VRF virtualization txhim kho kev thauj khoom- ntsuas kev ua tau zoo, txo qis qis thiab pob ntawv poob, thiab ua kom AI kev cob qhia thiab kev xav. Ntu kev npaj qhia txog VPC segmentation, collection-egress design, cross- region aggregation and preprocessing, model training, and global inference delivery. Raws li AI txuas ntxiv hloov zuj zus mus, cov ntaub ntawv chaw sib koom tes yuav ntsib kev txwv nruj dua. Dynamic intelligent routing yuav txuas ntxiv txhim kho rau ntug AI, kev kawm hauv tsoomfwv, thiab lwm yam xwm txheej nyuaj. Yav tom ntej IDC cov tes hauj lwm yuav muab qhov tseem ceeb dua rau kev suav- network convergence, zog efficiency, thiab automated ua hauj lwm, tsim ib tug ntau ntse ntse, npaum, thiab txhim khu kev qha lub hauv paus rau kev lag luam digital.
Cov ntaub ntawv
Tus neeg siv - muab cov ntaub ntawv qhia txog kev siv.
Alibaba Huab AI Network Dawb Ntawv. Tau txais los ntawm May 27, 2026.
https://help.aliyun.com/zh/cloud-network-zoo-architected-design/alibaba-cloud-ai-network-dawb{10}}paper