博通今天揭開(kāi)了新芯片的面紗，該芯片將集成旨在幫助改善網(wǎng)絡(luò)的片上人工智能神經(jīng)網(wǎng)絡(luò)。
新型 Trident 5-X12 交換芯片具有名為 NetGNT（網(wǎng)絡(luò)通用神經(jīng)網(wǎng)絡(luò)流量分析器）的集成神經(jīng)網(wǎng)絡(luò)引擎。據(jù)博通稱，這標(biāo)志著業(yè)界首款包含片上神經(jīng)網(wǎng)絡(luò)的交換芯片，為更智能、更高效的網(wǎng)絡(luò)打開(kāi)了大門。
這款新芯片是博通 Trident 芯片的演變，十多年來(lái)博通一直在網(wǎng)絡(luò)連接和安全方面進(jìn)行迭代。Trident 5-X12 提供 16.0 Tbps帶寬，是上一代 Trident 4-X9 的兩倍。新款 Trident 還比其前代產(chǎn)品更加節(jié)能，每個(gè) 400G 端口的功耗減少了 25%。
該芯片支持 800G 端口，可直接連接 Broadcom 的 Tomahawk 5主干交換機(jī)。這使得 1RU（機(jī)架單元）架頂式 (ToR) 交換機(jī)具有多達(dá) 48 個(gè) 200G 下游端口和 8 個(gè) 800G 上游端口。
Broadcom 核心交換集團(tuán) PLM 負(fù)責(zé)人 Robin Grindley 告訴 SDxCentral，這款新芯片是新 Trident 5 系列的第一個(gè)成員。新芯片的目標(biāo)部署是在云和企業(yè)部署的機(jī)架網(wǎng)絡(luò)設(shè)備頂部。
NetGNT 的 AI 加速智能
Trident 5-X12 的核心是 NetGNT 神經(jīng)網(wǎng)絡(luò)引擎。NetGNT 與標(biāo)準(zhǔn)數(shù)據(jù)包處理管道并行運(yùn)行，實(shí)時(shí)分析流量模式。
例如，NetGNT 旨在檢測(cè)即將發(fā)生的網(wǎng)絡(luò)擁塞并在性能下降之前調(diào)用擁塞控制機(jī)制。這種硬件加速智能可提高效率，而不影響吞吐量或延遲。
NetGNT 支持的流量分析不同于 Broadcom 之前啟用的傳統(tǒng)分析類型。
“在較高的層面上，神經(jīng)網(wǎng)絡(luò)擅長(zhǎng)尋找跨時(shí)間和數(shù)據(jù)包的模式，”格林德利說(shuō)。“傳統(tǒng)的數(shù)據(jù)包處理會(huì)在每個(gè)數(shù)據(jù)包的基礎(chǔ)上尋找固定的標(biāo)準(zhǔn)。”
NetGNT 技術(shù)不是靜態(tài)的，可以訓(xùn)練和更新。Grindely 表示，網(wǎng)絡(luò)數(shù)據(jù)包跟蹤需要收集，通常由組織中的 NOC（網(wǎng)絡(luò)運(yùn)營(yíng)中心）收集。數(shù)據(jù)包跟蹤用于受監(jiān)督的訓(xùn)練。他補(bǔ)充說(shuō)，一旦推理權(quán)重可用，NetGNT 就會(huì)加載，并且可以隨時(shí)加載新的權(quán)重。
軟件可編程優(yōu)化是 Trident 5 的關(guān)鍵
Broadcom 將 Trident 5-X12 設(shè)計(jì)為可使用其 NPL 語(yǔ)言進(jìn)行完全軟件編程。這樣做的目的是允許客戶通過(guò)簡(jiǎn)單的軟件升級(jí)來(lái)定制具有新特性、協(xié)議和功能的芯片。
該芯片還具有擴(kuò)展的遙測(cè)功能。芯片生成的深度流量統(tǒng)計(jì)和見(jiàn)解可以幫助微調(diào) NetGNT 和算法，以優(yōu)化網(wǎng)絡(luò)性能。雖然 Trident 5 和 NetGNT 是新技術(shù)，但博通表示，它已將 Trident 5-X12 定位為輕松與現(xiàn)有交換機(jī)集成Broadcom 的軟件以及支持基于開(kāi)源的Enterprise SONiC 網(wǎng)絡(luò)操作系統(tǒng)。
Broadcom 推出業(yè)界首款帶片上神經(jīng)網(wǎng)絡(luò)的交換機(jī)
Broadcom Inc.今天宣布推出一款名為Trident 5-X12 的軟件可編程芯片，該芯片集成了一個(gè)名為 NetGNT（Networking General-purpose Neural-network Traffic-analyzer）的新型片上神經(jīng)網(wǎng)絡(luò)推理引擎。值得一提的是，這是全球首款相關(guān)芯片。
NetGNT 并行工作以增強(qiáng)標(biāo)準(zhǔn)數(shù)據(jù)包處理管道。標(biāo)準(zhǔn)管道是單數(shù)據(jù)包/單路徑，這意味著它在通過(guò)芯片端口和緩沖區(qū)采用特定路徑時(shí)查看一個(gè)數(shù)據(jù)包。相比之下，NetGNT 是一個(gè)機(jī)器學(xué)習(xí)推理引擎，可以經(jīng)過(guò)訓(xùn)練來(lái)尋找跨越整個(gè)芯片的不同類型的流量模式。
例如，NetGNT 可以查找 AI/ML 工作負(fù)載中常見(jiàn)的稱為“incast”的流量模式，其中許多數(shù)據(jù)包流幾乎同時(shí)匯聚到同一端口并進(jìn)行緩沖，從而導(dǎo)致?lián)砣?。NetGNT 可以在這種模式開(kāi)始時(shí)實(shí)時(shí)識(shí)別它，并調(diào)用擁塞控制技術(shù)來(lái)避免網(wǎng)絡(luò)性能下降。由于 NetGNT 在硬件中以全線速運(yùn)行，因此不會(huì)對(duì)吞吐量或延遲產(chǎn)生影響。
“我們不斷挑戰(zhàn)極限，向市場(chǎng)推出 NetGNT 等全新技術(shù)。我們還仔細(xì)傾聽(tīng)客戶的意見(jiàn)，他們明確表示一種尺寸并不適合所有情況。他們依靠我們提供針對(duì)不同應(yīng)用定制的廣泛芯片組合。”Broadcom 高級(jí)副總裁兼核心交換事業(yè)部總經(jīng)理 Ram Velaga 說(shuō)道。“Trident 5-X12 是市場(chǎng)上最節(jié)能的 ToR（架頂式），同時(shí)還添加了我們的客戶對(duì) Broadcom 等創(chuàng)新者所期望的尖端新功能。”
Trident 5-X12 可通過(guò)軟件編程、現(xiàn)場(chǎng)升級(jí)，并提供 16.0 太比特/秒的帶寬，是市場(chǎng)領(lǐng)先的 Trident 4-X9 的兩倍。它還增加了對(duì) 800G 端口的支持，允許直接連接到 Broadcom 領(lǐng)先的 Tomahawk 5，該 5 用作最新計(jì)算和 AI/ML 數(shù)據(jù)中心的主干/結(jié)構(gòu)。該芯片具有獨(dú)特的定位，可實(shí)現(xiàn)支持 48x200G 下行鏈路端口和 8x800G 上行鏈路端口的 1RU 數(shù)據(jù)中心 ToR。
Trident 5-X12 的其他主要優(yōu)勢(shì)包括：
每個(gè) 400G 端口的功耗比當(dāng)前市場(chǎng)領(lǐng)先的 Trident 4-X9 低 25%
使用 Broadcom 業(yè)界領(lǐng)先的 100G-PAM4 SerDes 添加對(duì) 800G 端口的支持，從而實(shí)現(xiàn)高達(dá) 4m DAC 和線性光學(xué)
支持過(guò)渡到使用 400G NIC 的下一代 CPU 和 GPU 服務(wù)器
添加 NetGNT 以啟用新功能并提高網(wǎng)絡(luò)效率和性能
添加增強(qiáng)的遙測(cè)功能，可以更深入地實(shí)時(shí)了解網(wǎng)絡(luò)運(yùn)營(yíng)，然后可用于訓(xùn)練 NetGNT
增加轉(zhuǎn)發(fā)/策略規(guī)模以支持不斷擴(kuò)大的網(wǎng)絡(luò)規(guī)模
保持傳統(tǒng) API 與當(dāng)前 Broadcom 交換機(jī)芯片的兼容性
使用 NPL（網(wǎng)絡(luò)編程語(yǔ)言）完全可編程，允許現(xiàn)場(chǎng)升級(jí)以添加新的遙測(cè)、安全和流量工程等功能
NPL 與當(dāng)前的 Trident 4 系列兼容，該系列已被大量客戶用來(lái)開(kāi)發(fā)自己的定制開(kāi)關(guān)應(yīng)用
支持企業(yè)級(jí)SONiC 和 SAI 促進(jìn)快速、無(wú)縫地集成到數(shù)據(jù)中心運(yùn)營(yíng)框架中
原文鏈接：
https://finance.yahoo.com/news/broadcom-introduces-industry-first-switch-140000547.html
京公網(wǎng)安備11010802046783號(hào)
