函數(shù)進行重新計算,圖多這樣能避免額外的計算消耗。同時,圖多運用技術(shù) ,把重新計算不太劃算的激活值 ,先轉(zhuǎn)移到那邊,等需要反向計算時再提前取回來,讓內(nèi)存得到更高效的利用。團隊還在研究新的顯存節(jié)省方法,準備把多種優(yōu)化策略組合起來 ,根據(jù)不同的設(shè)備配置