免費科普

AI 的電費,有一半花在把資料從一顆晶片搬到隔壁那顆

一顆 AI 加速器晶片運算時,只有一部分能量真的用在計算上。另一部分花在把資料從一個地方搬到另一個地方。

而且距離越遠、越耗電:晶片內部搬一次很便宜,晶片對晶片貴一些,機櫃對機櫃更貴。

當模型大到單一晶片裝不下、必須切開分散到幾千顆晶片上時,「搬資料」就從次要成本變成主要成本。

這就是為什麼 AI 資料中心的下一個戰場不在算力,在互連。


這是什麼

先講三個詞

矽光子——在矽晶片上做光學元件,讓光的產生、調變、傳輸、接收都能用半導體製程量產。

光互連——用光而不是電訊號,在晶片與晶片之間傳資料。

共封裝光學(CPO)——把光學引擎直接封裝在運算晶片旁邊,而不是放在機板邊緣的插拔模組上。距離越短,功耗越低。

生活場景:把倉庫搬到工廠隔壁

想像一座工廠,原料放在十公里外的倉庫。

工廠效率再高,都會被卡在運輸上——卡車來回要時間、要油錢,而且你增加產能的時候,卡車數量得跟著增加,最後路會塞。

優化生產線沒有用,因為瓶頸不在生產線。

三種解法:

  1. 買更快的卡車(提升電訊號的傳輸速率)→ 有極限,而且越快越耗油
  2. 改用輸送帶(換一種傳輸機制)→ 這是光互連
  3. 把倉庫搬到工廠隔壁(縮短距離)→ 這是共封裝光學

現在的產業正在同時做 2 和 3。

機制拆解:光為什麼比較省

電訊號在銅線上傳輸,有三個物理上的麻煩:

問題說明
電阻損耗銅線有電阻,訊號一路衰減,越長越嚴重
頻率越高損耗越大想提高頻寬 → 提高頻率 → 損耗急遽上升
串音密集排列的銅線之間會互相干擾

光在光波導裡沒有這三個問題(或小得多):衰減極低、頻寬極大,而且可以用不同波長同時傳多路訊號。光之間不會互相干擾。

代價是:你得把電變成光,再把光變回電。 這個轉換本身要耗電、要佔面積、要成本。

所以整件事變成一個距離的算術:

距離短 → 電比較划算(轉換成本佔比太高) 距離長 → 光比較划算(轉換成本被攤薄)

而 AI 系統的規模一直在把「距離」往上推。

每一次模型變大、需要更多晶片協同,那個「光划算」的臨界距離就往內縮一次——從機房之間,縮到機櫃之間,縮到機板之間,現在縮到晶片旁邊。

這就是 CPO 的由來,也是矽光子近年突然變熱的原因。

電互連與光互連的成本交叉點,隨規模往內移。一張沒有刻度的示意圖。橫軸由左至右是晶片內、晶片間、機板、機櫃、機房。電的成本線從低處開始、隨距離急遽上升;光的成本線起點較高但幾乎持平,兩線在中段交叉。交叉點左移的箭頭表示:系統規模每擴大一次,光划算的距離門檻就往內縮一格。兩軸皆無刻度,只表示方向。

兩軸都沒有刻度,這張圖只表示方向。真正的交叉點取決於當代的轉換功耗與製程,是一個會移動的數字, 不是一條固定的線。
工廠真實機制
生產線運算晶片
十公里外的倉庫遠端的記憶體/其他晶片
卡車運輸電訊號在銅線上傳輸
卡車越快越耗油頻率越高,電損耗越大
路會塞串音與佈線密度限制
改用輸送帶光互連:低損耗、高頻寬
蓋輸送帶要投資電光/光電轉換的成本與功耗
把倉庫搬到工廠隔壁共封裝光學(CPO)

一句話總結

光互連不是「比較先進」,是「距離拉長之後比較便宜」——而 AI 每擴大一次規模,就把那個臨界距離往內推一格。


為什麼這件事講了二十年還沒普及

矽光子不是新概念。它被研究了二十多年。卡在哪裡?

卡在一件很基本的事:矽不會發光。

矽是間接能隙半導體——這是一個材料物理的性質,意思是它把電能轉成光的效率極差。

所以矽光子晶片的雷射光源必須從外部來。 你得把磷化銦之類的另一族材料接到矽上,這叫異質整合。

這是矽光子最難、也最貴的一步。

而 CPO 還有第二個難處,而且它不在概念上,在封裝工程:

  • 運算晶片很燙,而雷射怕熱
  • 光纖與晶片的對準精度要求極高,是良率瓶頸
  • 封在一起之後,壞了怎麼修?

這就是為什麼 CPO 的放量時程一再延後。困難不在「要不要做」,在「怎麼做得出來又修得好」。


比喻到此為止

工廠與倉庫的比喻在兩個地方失效:

一、輸送帶只能運一種東西,光可以用不同波長同時運很多路。 波長多工是光互連最大的優勢之一,而運輸的比喻完全承載不了——它是光獨有的能力。

二、把倉庫搬到隔壁沒有技術難度,把光學引擎封裝到運算晶片旁邊有。 熱、對準精度、良率、可維修性——CPO 真正的困難不在概念,在封裝工程。比喻會讓人低估它。


還沒定案的事

時程一再延後。 這個題材的預期與現實落差,過去幾年已經演過好幾輪。「明年放量」這句話在這個領域被說了很多次。

光源的異質整合仍是成本與良率的核心障礙。 這是二十年的老問題,不是明年會解決的事。

產業聚落的養成需要十年以上,而且經常失敗。 目前美國有一個區域級的光子產業計畫正在推進(普林斯頓、Rowan、Rutgers 與 Nokia Bell Labs 共同主導,入圍國家科學基金會的決選)——但各國政府砸錢建「某某谷」的歷史紀錄,成功率很低。


延伸閱讀

這篇講的是為什麼光互連會變成必要,以及它卡在哪裡。

如果你想知道那個區域產業計畫的規模與六大工作面向、為什麼「只有一項是研究、其他五項都是生態系基礎建設」這件事透露了什麼、以及我們寫下了哪五條判定條件——那些在研究筆記〈AI 的電費,有一半花在把資料從一顆晶片搬到隔壁那顆〉裡。


來源

  • Princeton Innovation(2025-09-19),Princeton-led photonics coalition named finalist in National Science Foundation competition — 連結
  • Princeton University(2023-05-11),Princeton selected to lead NSF-funded regional consortium for photonics research and workforce development — 連結
  • Rowan University(2025-09),Princeton, Rowan, Rutgers and Nokia Bell Labs-led photonics team named among top 15 finalists — 連結

本文為科學技術之教育性資訊,不構成任何投資建議。