摩爾定律遇到物理極限，但GPU技術(shù)繼續(xù)快速演變

摩爾定律預(yù)測(cè)大約每?jī)赡昃w管密度加倍，現(xiàn)在正接近其物理極限。然而，GPU技術(shù)依然在快速演變，架構(gòu)和專用處理單元的創(chuàng)新推動(dòng)了持續(xù)的性能提升。多芯片模塊、3D芯片堆疊和高級(jí)緩存層次結(jié)構(gòu)正在突破單片集成電路的限制。2024年上半年見(jiàn)證了一波技術(shù)進(jìn)步，包括Nvidia推出的Blackwell GPU架構(gòu)、芯粒技術(shù)的廣泛采用以及熱電池和高帶寬內(nèi)存的重大進(jìn)展。本文將探討2024年上半年GPU和半導(dǎo)體技術(shù)的最新趨勢(shì)和突破。

Aurora超算實(shí)現(xiàn)百億億次性能，全球排名第二

2024年5月13日，阿貢國(guó)家實(shí)驗(yàn)室在德國(guó)漢堡舉行的ISC高性能計(jì)算會(huì)議上宣布，Aurora超級(jí)計(jì)算機(jī)突破了百億億次計(jì)算能力的門(mén)檻，成為全球第二臺(tái)百億億次計(jì)算機(jī)，并在超級(jí)計(jì)算機(jī)TOP500排名中位列第二。Aurora的規(guī)模和架構(gòu)擁有63,744個(gè)GPU，可能在氣候變化、醫(yī)療治療和材料科學(xué)等領(lǐng)域的科學(xué)研究中帶來(lái)潛在的突破。

芯粒技術(shù)在半導(dǎo)體行業(yè)引起轟動(dòng)

2024年，芯粒技術(shù)（即由多個(gè)小型半導(dǎo)體晶片組成的單一集成電路）吸引了AMD、Intel、NVIDIA和三星等主要玩家的關(guān)注。這項(xiàng)技術(shù)也是2024年設(shè)計(jì)自動(dòng)化大會(huì)（DAC）上的明星。MIT Technology Review在圣克拉拉將芯粒列為2024年十大突破技術(shù)之一。對(duì)芯粒的興趣不僅限于美國(guó)，中國(guó)公司和政府機(jī)構(gòu)以及日本的公司（如Tenstorrent）也在大力投資芯粒研發(fā)。

熱電池在工業(yè)能源存儲(chǔ)和脫碳應(yīng)用中獲得進(jìn)展

熱能儲(chǔ)存系統(tǒng)（也稱為熱電池）在工業(yè)能源管理和脫碳努力中展現(xiàn)出潛力。這類系統(tǒng)以熱量形式儲(chǔ)存能量，并能在長(zhǎng)時(shí)間內(nèi)捕獲和保持大量熱能。Rondo Energy、Antora Energy和Electrified Thermal Solutions等公司正在開(kāi)發(fā)此類系統(tǒng)，利用熔鹽、混凝土、工程磚或碳?jí)K等材料存儲(chǔ)能量。

例如，Rondo Energy使用由普通材料制成的磚塊在高溫下儲(chǔ)存熱量，其熱電池可連續(xù)提供高達(dá)1500攝氏度的高溫?zé)崃?。這項(xiàng)技術(shù)已在加州Calgren Renewable Fuels安裝的2兆瓦熱電池中使用，有助于減少生物燃料生產(chǎn)的碳強(qiáng)度。

Antora Energy則采用固體碳?jí)K存儲(chǔ)熱量，其熱電池可以將可再生電力轉(zhuǎn)化為熱能，然后通過(guò)熱光電池將熱能再轉(zhuǎn)化為電力。這種雙重功能允許直接的工業(yè)熱應(yīng)用和電力生成。

最后，Electrified Thermal Solutions專注于使用導(dǎo)電磚儲(chǔ)存熱能，利用熱能儲(chǔ)存系統(tǒng)的高效率、低成本和與可再生能源集成的能力。

佐治亞理工大學(xué)研究人員創(chuàng)造出首個(gè)功能性石墨烯半導(dǎo)體

幾十年來(lái)，研究人員一直看好石墨烯的前景，但在半導(dǎo)體應(yīng)用中一直難以實(shí)現(xiàn)。然而，2024年1月，來(lái)自美國(guó)佐治亞州亞特蘭大和中國(guó)天津的科學(xué)家團(tuán)隊(duì)宣布，他們創(chuàng)造了世界上首個(gè)完全由石墨烯制成的功能性半導(dǎo)體。該材料的電子遷移率是硅的10倍。研究人員通過(guò)克服阻礙石墨烯發(fā)展的“帶隙”障礙，實(shí)現(xiàn)了這一突破。這一成果可能為更快、更高效的設(shè)備鋪平道路，從而推動(dòng)更小、更快的電子設(shè)備到量子計(jì)算等領(lǐng)域的發(fā)展。

Nvidia推出下一代Blackwell GPU架構(gòu)

2024年3月，Nvidia在其GTC大會(huì)上推出了Blackwell架構(gòu)。新架構(gòu)將為B200 GPU和GB200 Grace Blackwell Superchip等產(chǎn)品提供動(dòng)力，性能較其前代產(chǎn)品Hopper大幅提升。Nvidia瞄準(zhǔn)了在集群級(jí)別上4倍的訓(xùn)練性能提升，對(duì)于特定推理工作負(fù)載，特別是大語(yǔ)言模型，Nvidia聲稱在特定條件下性能提升可達(dá)30倍。標(biāo)準(zhǔn)格式下計(jì)算能力提升2.5倍，使用新FP4格式時(shí)則可能達(dá)到5倍。新架構(gòu)的一個(gè)代表產(chǎn)品是B200 GPU，擁有2080億個(gè)晶體管，采用TSMC的4NP工藝制造。另一個(gè)例子是GB200 Grace Blackwell Superchip，它將兩個(gè)B200張量核心GPU與Nvidia Grace CPU結(jié)合，為AI工作負(fù)載提供顯著的性能提升。例如，在一個(gè)具有1750億參數(shù)的GPT-3 LLM基準(zhǔn)測(cè)試中，GB200的性能據(jù)報(bào)道比H100 GPU高出7倍。

主要云服務(wù)提供商和科技公司，包括AWS、微軟、谷歌和甲骨文，計(jì)劃采用基于Blackwell的系統(tǒng)。

HBM3E開(kāi)啟新內(nèi)存帶寬時(shí)代

高帶寬內(nèi)存（HBM）是一種為3D堆疊同步動(dòng)態(tài)隨機(jī)存取內(nèi)存（SDRAM）設(shè)計(jì)的計(jì)算機(jī)內(nèi)存接口，三星、AMD和SK Hynix于2013年宣布了這一技術(shù)。2024年，高帶寬內(nèi)存市場(chǎng)見(jiàn)證了顯著的改進(jìn)，特別是在高帶寬內(nèi)存3E（HBM3E）方面。新一代高性能內(nèi)存旨在縮小GPU快速進(jìn)步的處理能力與日益增長(zhǎng)的內(nèi)存帶寬需求之間的差距。具體進(jìn)展包括SK Hynix在2024年3月開(kāi)始量產(chǎn)的一款36GB內(nèi)存產(chǎn)品，其數(shù)據(jù)處理速度可達(dá)每秒1.15TB。公司計(jì)劃在2024年第三季度量產(chǎn)12層HBM3E芯片。SK Hynix還開(kāi)發(fā)了一款16層48GB HBM3E產(chǎn)品，單堆疊速度可達(dá)1280 GB/s。與此同時(shí)，三星電子也宣布了其品牌為“Shinebolt”的HBM3E內(nèi)存。

微軟宣布33億美元投資威斯康星州AI數(shù)據(jù)中心，重振擱置的富士康項(xiàng)目

2024年5月8日，微軟宣布將在威斯康星州投資33億美元建設(shè)AI數(shù)據(jù)中心，項(xiàng)目選址為廢棄的富士康項(xiàng)目地。投資將涵蓋云計(jì)算和AI基礎(chǔ)設(shè)施的開(kāi)發(fā)、制造業(yè)AI協(xié)同創(chuàng)新實(shí)驗(yàn)室的創(chuàng)建以及為超過(guò)10萬(wàn)名威斯康星州居民提供AI技能培訓(xùn)。投資戰(zhàn)略包含四個(gè)主要部分：第一是在Mount Pleasant建設(shè)新數(shù)據(jù)中心校園；第二是在威斯康星大學(xué)密爾沃基分校建立AI協(xié)同創(chuàng)新實(shí)驗(yàn)室；后兩部分包括與當(dāng)?shù)亟M織合作進(jìn)行AI技能培訓(xùn)以及投資社區(qū)教育和青年就業(yè)計(jì)劃。微軟預(yù)計(jì)該項(xiàng)目將在2025年前創(chuàng)造2300個(gè)工會(huì)建筑工作崗位。