REDEFINE INNOVATION

今年開始，AI領域發生了一個很大的變化，那就是從原本的ChatBot對話式AI，演變到AI Agent的應用。 在本質上，AI Agent的應用會對AI晶片硬體的需求有很大的不同，因此，大家目前都在備戰明年AI Agent需求相關的硬體。 而Marvell也正在為了這個最新的發展佈局他們的產品。到底AI晶片硬體的下一個關鍵發展是什麼？Marvell又將如何佈局？ 這一篇，就從下一代的Agentic System開始介紹，然後延伸到Marvell在AI晶片上面的佈局。

在今年的Hot Chips 2026上，Cerebras、Meta、Microsoft、NVIDIA (Groq)、SambaNova、Google (TPU)、OpenAI都公佈了自己的最新AI晶片。這篇，就讓我們來對這幾顆晶片做一個總整理和簡單的比較。 其實，從這幾顆晶片的設計，不僅可以看出現在晶片設計的趨勢，更重要的是可以看出各家公司佈局的策略。

如果要替今年 SEMICON Taiwan Memory Executive Summit 找一個最有份量的註腳，可能不是來自任何一家記憶體廠，而是 Google。 Google 在演講中直接指出，隨著 AI 應用的發展，Memory 已成為其 Compute Server BOM 的Leading Cost Driver；更大的問題是，當昂貴的運算精品因為記憶體資源不足而閒置時，浪費的是數千億美元等級的運算資本支出。 而對於記憶體瓶頸，Google 給出的解法是在今年同時推出分別針對 Training 與 Inference 最佳化的 TPU v8t 與 TPU v8i，分別各自處理截然不同的 Workload，而這兩款晶片設計的最大不同就是記憶體的配置。

這幾年來最大的典範轉移，大概就是從摩爾定律單純的電晶體數量增加，到System Scaling了。 電晶體密度的增加，雖然仍然以每2.5年2倍左右的速度增長。但是，遠遠不足以滿足AI運算對算力的需求。 因此，這幾年最大的改變，就是在電晶體密度增加之上，各個層級都在產生新的創新 (封裝 / 晶片互連 / AI Rack / AI Data Center)，來去最大化系統的算力。 而在這種情況下，影響系統算力最大的因素，已經不再是Moore’s Law，而是Amdahl’s Law。因為，就系統算力來說，光是增加晶片的算力，而不解決晶片系統的瓶頸的話，對於系統效能的提升會非常有限。 因此，系統優化變得十分重要。

今年的SEMICON Taiwan 2026，估計是有史以來最盛大的一屆，估計全球有超過10萬人參加，不僅象徵了現在半導體產業的熱度，這麼多人來台灣參展，也象徵了台灣在整個供應鏈中的重要性。 今年最誇張的情況是，原本預計2030年才會達到的1 Trillion USD的市場，不僅提前在今年2026年到達，還直接從去年0.8 Trillion USD，直接快要翻倍到1.5 Trillion USD。這種發展在半導體產業是前所未見的。這樣的發展，不僅是驅動營收的成長，也會驅動前所未有的半導體技術發展速度。