2024 IEEE IEDM 國際電子設備會議目前正在美國加州舊金山舉行。據(jù)分析師 Ian Cutress 的 X 平臺動態(tài)，英偉達在本次學術會議上分享了有關未來 AI 加速器的構想。
英偉達認為未來整個 AI 加速器復合體將位于大面積先進封裝基板之上，采用垂直供電，集成硅光子 I/O 器件，GPU 采用多模塊設計，3D 垂直堆疊 DRAM 內(nèi)存，并在模塊內(nèi)直接整合冷板。
注：Ian Cutress 還提到了硅光子中介層，但相關內(nèi)容不在其分享的圖片中。
在英偉達給出的模型中，每個 AI 加速器復合體包含 4 個 GPU 模塊，每個 GPU 模塊與 6 個小型 DRAM 內(nèi)存模塊垂直連接并與 3 組硅光子 I/O 器件配對。
硅光子 I/O 可實現(xiàn)超越現(xiàn)有電氣 I/O 的帶寬與能效表現(xiàn)，是目前先進工藝的重要發(fā)展方向；3D 垂直堆疊的 DRAM 內(nèi)存較目前的 2.5D HBM 方案擁有更低信號傳輸距離，有益于 I/O 引腳的增加和每引腳速率的提升；垂直集成更多器件導致發(fā)熱提升，模塊整合冷板可提升解熱能力。
Ian Cutress 認為這一設想中的 AI 加速器復合體要等到 2028~2030 年乃至更晚才會成為現(xiàn)實：
一方面，由于英偉達 AI GPU 訂單龐大，對硅光子器件產(chǎn)能的需求也會很高，只有當英偉達能保障每月 100 萬以上硅光子連接時才會轉(zhuǎn)向光學 I/O；
另一方面，垂直芯片堆疊所帶來的熱效應需要以更先進的材料來解決，屆時可能會出現(xiàn)芯片內(nèi)冷卻方案。 
