存儲器在AI發(fā)展中的重要性

選擇存儲器并將它們構(gòu)建到系統(tǒng)中變得更加困難。

　　邊緣計算性能的提升給存儲器的設(shè)計，類型的選擇和配置都帶來挑戰(zhàn)，這也導(dǎo)致在不同的應(yīng)用市場中需要進行更復(fù)雜的權(quán)衡。

　　芯片架構(gòu)正在與新市場一起發(fā)展，但數(shù)據(jù)在芯片、設(shè)備之間以及系統(tǒng)之間如何移動并不總是很清楚。汽車和AI應(yīng)用的數(shù)據(jù)正變得越來越多和復(fù)雜，但芯片架構(gòu)在處理時有時不清楚如何優(yōu)先處理數(shù)據(jù)。這讓芯片設(shè)計人員面臨抉擇，是選擇共用內(nèi)存降低成本，還是增加不同類型內(nèi)存提高性能和降低功耗。

　　所有這些都是以安全為前提，并且不同的市場設(shè)計的要求也不一樣。比如，汽車中的各種類型的圖像傳感器（如激光雷達和攝像頭）的大量數(shù)據(jù)需要在本地處理。AI芯片則希望性能能夠提升100倍。

　　解決內(nèi)存問題有一些方法，其中一種是片上存儲器，也就是將存儲器分散地集成在運算單元旁，*大程度減少數(shù)據(jù)搬移，這種方法的目標(biāo)是通過減少負(fù)載和存儲的數(shù)量來突破內(nèi)存瓶頸，也能降低功耗。

　　“存算一體（In－memory computing）可能是模擬的、數(shù)字的，或兩者都有。” Cadence Digital＆Signoff Group的高級首席產(chǎn)品經(jīng)理Dave Pursley說，“雖然在內(nèi)存中進行計算的想法可能是日益增長的趨勢，但在這種計算中實際發(fā)生的情況似乎大不相同?！?

SRAM和DRAM仍是主流

　　盡管市場出現(xiàn)了新的變化，但片上SRAM和片外DRAM仍是主流。已經(jīng)有*預(yù)測DRAM多年后將“死亡”，但它仍然是*經(jīng)濟和可靠的選擇。DRAM具有高密度、架構(gòu)簡單、低延遲和高性能的特性，兼具耐用和低功耗的特性。

　　DRAM密度的增速正在放緩，但HBM2等新架構(gòu)允許通過堆疊模塊的方式而不是使用DIMM來垂直增加密度，這種方法還讓DRAM更靠近處理單元。

　　另外，SRAM價格昂貴且密度有限，但其高速性能多年來已被驗證。片上存儲器的挑戰(zhàn)是采用分布還是共用的方式，在某些情況下，為保證安全性需要增加冗余。

　　“所有這些要求都會影響存儲器的類型和數(shù)量的選擇，還涉及片上和片外存儲器之間的權(quán)衡，以及訪問每個存儲器互連的復(fù)雜性?！盇rm高級物聯(lián)網(wǎng)架構(gòu)師Ryan Lim表示。

低功耗存儲器是關(guān)鍵

　　存儲器的一個關(guān)鍵問題是功耗，其中存儲器類型和配置等多種因素都會影響功耗。例如，在7nm的存儲器中進行數(shù)據(jù)的存取可能消耗更多功耗，這是因為線路中的RC延遲。當(dāng)然，這也會產(chǎn)生熱量，有可能會破壞輸入輸出存儲器的信號的完整性。

　　不過，較慢的片外數(shù)據(jù)使用高帶寬內(nèi)存可以節(jié)省功耗，并且可以與高速GDDR6一樣快。如何做出這些決定取決有多種因素，包括設(shè)備的平均售價和選擇的存儲器類型。

　　還有針對手持移動設(shè)備的極低功耗的存儲器，包括越來越多使用電池的邊緣設(shè)備。

　　“這些存儲器具有極高的效能，可在一定程度上提升電池供電設(shè)備的功耗和數(shù)據(jù)速率?！?Rambus杰出的院士Steven Woo說?！八鼈円部梢栽诙喾N模式下工作，當(dāng)處于待機狀態(tài)時，可以消耗很少的能量滿足手機和平板電腦等產(chǎn)品的需求，并在需要進行處理時快速切換到更高性能／更高功率的模式。 ”

　　低功耗存儲器還支持多種封裝方式，允許它們與手機處理器堆疊在一起，滿足智能手機的輕薄需求，也能集成在PCB上支持平板電腦和其他消費類設(shè)備高容量內(nèi)存配置的需求。

　　毫無疑問，開發(fā)低功耗存儲器是一項挑戰(zhàn)?！爱?dāng)設(shè)計低功耗存儲器時，它們支持的速率范圍很廣，相對低功耗存儲器而言，這些數(shù)據(jù)速率往往是相當(dāng)高的?！盬oo說?！斑@通常是由一兩個主要應(yīng)用市場驅(qū)動，所以它必須面向一個市場很大的行業(yè)，擁有足夠大市場的行業(yè)才能催生新的存儲器。從歷史上看，手機市場是成功的例子。如果與不同的手機制造商交談，他們都希望獲得性能和電源效率更高的存儲器，因為他們希望能夠延長電池壽命。對于其他想要使用低功耗存儲器的公司，他們會很慶幸其他人正在幫他們實現(xiàn)?！?

　　通常，這些合格的存儲器可能在幾種不同的數(shù)據(jù)速率下運行，但速率很接近?！斑@些存儲器可能有一個是每秒4．2千兆比特的速率，另一個是3．2千兆比特。”他解釋道，“這可以讓內(nèi)存制造商在生產(chǎn)所有這些存儲器時，進行所謂的分級。當(dāng)某些部件沒有全速運行時會發(fā)生這種情況，但制造商依舊會出售這些內(nèi)存，因為有些客戶需要以更便宜的價格購買性能較低的存儲器。Binning（數(shù)據(jù)合并）允許這種情況。這些產(chǎn)品的性能在一定的范圍內(nèi)，都屬于合格品?！?