面向AI數(shù)據(jù)流處理的邊緣GPU集群通信系統(tǒng)

摘要： 在邊緣計算場景中，GPU集群需要應(yīng)對終端設(shè)備所產(chǎn)生的數(shù)量龐大的AI計算任務(wù).AI計算任務(wù)在邊緣GPU集群內(nèi)的響應(yīng)耗時不僅包括計算時間，還包括數(shù)據(jù)傳輸和排隊等待延時.因此，任務(wù)數(shù)據(jù)傳輸和AI數(shù)據(jù)流調(diào)度也是影響GPU集群數(shù)據(jù)處理性能的關(guān)鍵因素.傳統(tǒng)網(wǎng)絡(luò)協(xié)議棧的低效率和專用高速網(wǎng)絡(luò)設(shè)備的高成本，并不適用于邊緣場景中大規(guī)模AI數(shù)據(jù)流的實時處理.本文基于DPDK技術(shù)提出多核多網(wǎng)卡的并行通...