SK海力士展示生成式AI加速卡AiMX原型：基于GDDR6-AiM構(gòu)建

去年SK海力士宣布，已開發(fā)出具備計算功能的下一代內(nèi)存半導(dǎo)體技術(shù)，首款基于該技術(shù)的產(chǎn)品為GDDR6AiM（AcceleratorinMemory/內(nèi)存加速器），將計算功能添加到速率為16 Gbps的GDDR6上。

近日在AI Hardware & Edge AI Summit 2023上，SK海力士展示了基于內(nèi)存計算功能技術(shù)打造的AiMX加速卡原型產(chǎn)品，里面搭載了GDDR6AiM，專門用于生成式人工智能（AI），比如ChatGPT。SK海力士還在配備了AiMX加速卡的服務(wù)器系統(tǒng)上演示了Meta的opt13b模型，與采用普通的GPU系統(tǒng)相比，數(shù)據(jù)處理時間縮短了10倍以上，而功耗僅為五分之一。

SK海力士表示，AiMX是一種比傳統(tǒng)GPU更低成本、更低功耗、性能更高的解決方案，未來將繼續(xù)開發(fā)引領(lǐng)人工智能時代的存儲技術(shù)。作為一種能夠處理大量數(shù)據(jù)的低功耗高速存儲器解決方案，SK海力士認(rèn)為AiMX將在數(shù)據(jù)密集型生成式人工智能系統(tǒng)的發(fā)展中發(fā)揮關(guān)鍵作用。由于生成式人工智能的性能會隨著對更多數(shù)據(jù)的訓(xùn)練而提高，更加凸顯了對應(yīng)用于該系統(tǒng)的高性能產(chǎn)品的需求。

除了SK海力士以外，三星也有著相同的看法，在內(nèi)存上集成的AI處理器，使其可以執(zhí)行CPU、GPU、ASIC或FPGA的操作，未來還會將這項稱為PIM (processinginmemory) 的技術(shù)擴(kuò)展到DDR4、DDR5、LPDDR5X、GDDR6和HBM3內(nèi)存上。三星在今年的Hot Chips 2023上還公布了HBMPIM和LPDDRPIM的最新研究成果，在AMD Instinct MI100上配備了HBMPIM內(nèi)存，并將其應(yīng)用于生成式人工智能。