人工智能帶來的帶寬速率挑戰(zhàn)

公開數(shù)據(jù)顯示，從GPT-1到GPT-3，模型的參數(shù)量從1.1億個(gè)增長(zhǎng)到了1750億個(gè)，GPT-4模型的參數(shù)達(dá)到1.8萬億個(gè)。根據(jù)市場(chǎng)調(diào)查機(jī)構(gòu)TrendForce的數(shù)據(jù)，如果以英偉達(dá)A100顯卡的處理能力計(jì)算，GPT-3.5大模型需要2萬塊GPU來處理訓(xùn)練數(shù)據(jù)。

ChatGPT，加上紛至沓來的AI大模型，AIGC（人工智能生成內(nèi)容）產(chǎn)業(yè)不僅帶來檢索效率和工作效率的提升，同時(shí)由于大模型需要大量的數(shù)據(jù)和算力進(jìn)行訓(xùn)練和運(yùn)行，并在使用過程中產(chǎn)生大量新的數(shù)據(jù)，因此除了GPU計(jì)算之外，對(duì)于高速存儲(chǔ)和數(shù)據(jù)交換也有更高的要求。

根據(jù)中國(guó)移動(dòng)在《算力網(wǎng)絡(luò)白皮書（2021年版）》中公布的算力網(wǎng)絡(luò)體系架構(gòu)。在算網(wǎng)基礎(chǔ)設(shè)施層，即算網(wǎng)底座，全光傳輸?shù)鬃咽切袠I(yè)的共識(shí)。先進(jìn)算力遵循“木桶效應(yīng)”的，算力、存儲(chǔ)和網(wǎng)絡(luò)傳輸三大核心環(huán)節(jié)，一個(gè)出現(xiàn)短板，整個(gè)系統(tǒng)的性能就會(huì)出現(xiàn)巨大的下滑，這也是云服務(wù)商積極部署800G以太網(wǎng)交換的原因。

Dell’Oro Group 最近發(fā)布的一份《以太網(wǎng)交換機(jī)五年預(yù)測(cè)》報(bào)告顯示，2021 年至 2026 年間，以太網(wǎng)交換機(jī)數(shù)據(jù)中心市場(chǎng)預(yù)計(jì)將以接近兩位數(shù)的復(fù)合年增長(zhǎng)率增長(zhǎng)，未來5年累計(jì)支出將接近1000億美元。預(yù)計(jì)400Gbps及更高的速度將占支出的一半，到2025年，800Gbps將超過400Gbps。

交換芯片的容量每?jī)赡攴槐?/strong>

博通始終代表著交換芯片的最先進(jìn)解決方案，Tomahawk系統(tǒng)芯片是高帶寬交換機(jī)平臺(tái)芯片，Tomahawk 5是Broadcom推出的5納米工藝的51.2T交換容量的芯片，主要針對(duì)超大規(guī)模企業(yè)和云服務(wù)商用交換機(jī)和路由器芯片市場(chǎng)。

Tomahawk 5可以驅(qū)動(dòng)51.2TB/秒的總帶寬，64個(gè)以800Gb/秒運(yùn)行的端口、128個(gè)以400Gb/秒運(yùn)行的端口和256個(gè)以200Gb/秒運(yùn)行的端口，超大規(guī)模企業(yè)和云服務(wù)商喜歡具有128端口基數(shù)、每端口運(yùn)行速度為400Gb/秒的交換機(jī)，其中 64個(gè)端口向下連接到機(jī)架中的服務(wù)器，64個(gè)端口向上連接到網(wǎng)絡(luò)結(jié)構(gòu)的主干層。人工智能服務(wù)器集群可以使用256個(gè)以200Gb/秒運(yùn)行的端口，可以極大滿足人工智能計(jì)算的數(shù)據(jù)交換需求。

這些大容量交換芯片一般都是大型的FCBGA封裝，芯片尺寸大于60cm2，超過8000個(gè)LGA引腳。

光進(jìn)銅退，800G交換機(jī)的互聯(lián)方案

隨著高速信號(hào)的傳輸速率從50G增加到100G再到200G，傳輸系統(tǒng)的損耗從低于10dB增加到超過20dB。在信號(hào)傳輸速率超過200G時(shí)，PCB板的互聯(lián)復(fù)雜性增加，幾乎所有信號(hào)線的走線長(zhǎng)度都將超出1m DAC線路傳輸?shù)膿p耗預(yù)算。

Celestica在OCP Summit 2023上展示了一款使用Broadcom TomaHawk 5交換芯片的800G交換機(jī)。采用flyover cables的銅纜技術(shù)來縮短布線及散熱問題。

flyover cables銅纜技術(shù)，很好解決了800G交換機(jī)的設(shè)計(jì)與技術(shù)挑戰(zhàn)點(diǎn)：

更容易走線到可插拔的光模塊(線長(zhǎng)更短信號(hào)更好)。由于800G交換機(jī)基于112Gpbs速率及密集的交換線路布線路，在PCB上走線時(shí)其信號(hào)噪聲很難最小化，其解決主案一種是選擇共封裝光學(xué)器件(CPO)方案，另一種就是易操作/低成本的flyover cables銅纜方案；

功耗散熱問題:800G交換芯片及光模塊需要更大的散熱器來進(jìn)行冷卻。由于采用了flyover cables銅纜方案，中間多出大量空間，這些空間被利于安裝大型散熱器。

共封裝光學(xué)器件(CPO)是另外一個(gè)替代方案。隨著800G交換機(jī)的產(chǎn)品化，速率達(dá)到224Gbps，CPO會(huì)越來越流行。

銳捷網(wǎng)絡(luò)25.6T硅光CPO交換機(jī)

銳捷網(wǎng)絡(luò)51.2T硅光NPO交換機(jī)

聲明：文章內(nèi)容整理自網(wǎng)絡(luò)公開素材，版權(quán)歸原作者平臺(tái)所有，僅用于信息分享，如有侵權(quán)請(qǐng)聯(lián)系刪除。