我們談到 AI 基礎建設時,最常聽到的是 GPU、先進製程與資料中心。

大家很容易以為,只要不斷買進速度更快的晶片,AI 就能持續進步。但當一座資料中心同時使用成千上萬顆 AI 晶片,真正拖慢系統的地方,可能已經不只是晶片本身算得夠不夠快。

另一個愈來愈重要的問題是:一顆晶片完成運算後,資料要怎麼快速送到其他晶片?

美國政府準備提供晶圓代工業者 GlobalFoundries 3 億美元,發展矽光子與共同封裝光學技術,希望讓 AI 資料中心利用光傳送晶片之間的資料,提高頻寬並降低耗電。

每顆晶片都很快,整座資料中心仍然可能塞車

想像一間擁有幾百位頂尖廚師的超大型廚房。

每一位廚師切菜、烹調和擺盤的速度都非常快,但食材與完成的餐點仍然只能靠服務人員,在狹窄的走道上一盤一盤搬運。

廚師愈多,走道就愈擁擠。最後真正拖慢出餐速度的,已經不是廚師的能力,而是材料搬不過去。

大型 AI 資料中心也面臨相似問題。單顆晶片可以快速完成大量計算,但模型訓練與推論通常需要許多晶片共同處理同一項工作,晶片之間必須不斷交換資料。

  • 晶片負責計算:處理模型參數與大量數學運算。
  • 連接系統負責搬運:把運算結果送到記憶體或其他晶片。
  • 資料量持續增加:模型愈大,需要交換的內容也愈多。
  • 等待開始出現:晶片可能已經算完,卻必須等資料抵達才能繼續。

如果晶片的運算速度持續提高,但晶片之間的通道沒有同步升級,昂貴的 AI 處理器就可能把部分時間花在等待上。

矽光子不是讓晶片更聰明,而是讓資料改搭高速列車

傳統晶片連接主要使用電訊號傳輸資料。距離、頻寬與資料量增加時,傳送過程也會帶來耗電、訊號損失與散熱壓力。

矽光子則把部分資料轉成光訊號,在晶片、伺服器或運算設備之間移動。光可以承載大量資料,也能降低高速傳輸所需的能源。

共同封裝光學更進一步,把光學連接元件放到 AI 處理器附近,縮短電訊號必須移動的距離,再把長距離、高流量的資料交給光傳送。

  • 更高頻寬:讓更多資料能同時通過。
  • 更低耗電:減少大量高速電訊號傳輸所需的能源。
  • 更少等待:讓多顆 AI 晶片更有效率地協同工作。
  • 降低散熱壓力:減少資料傳輸產生的部分熱量。
  • 支援更大系統:讓未來更多晶片可以連接成同一個運算平台。

GlobalFoundries 表示,相關技術目標包括把資料傳輸速度提高到每秒 400Gb,能源效率最高達現有方案的五倍。

AI 下一場競爭,可能不只是誰擁有最強的晶片,而是誰能用更少的電,讓數千顆晶片彼此高速溝通。

這筆投資也不只是技術問題。矽光子、光學元件與先進封裝能力,正在成為 AI 供應鏈的重要一環。誰能掌握晶圓製造、光學元件、封裝與測試,誰就更有能力控制下一代 AI 資料中心的成本與建設速度。

過去,AI 產業最常比較的是晶片每秒可以完成多少次運算。接下來,市場可能會愈來愈重視另一個數字:完成這些運算時,資料究竟要移動多遠、等待多久,又消耗多少電力。

當 AI 晶片愈來愈強,真正的瓶頸可能不再是計算,而是晶片之間如何搬運資料。

推薦閱讀