AI 的電費,有一半花在把資料從一顆晶片搬到隔壁那顆
一顆 AI 加速器晶片運算時,只有一部分能量真的用在計算上。另一部分花在把資料從一個地方搬到另一個地方。
而且距離越遠、越耗電:晶片內部搬一次很便宜,晶片對晶片貴一些,機櫃對機櫃更貴。
當模型大到單一晶片裝不下、必須切開分散到幾千顆晶片上時,「搬資料」就從次要成本變成主要成本。
這就是為什麼 AI 資料中心的下一個戰場不在算力,在互連。
這是什麼
先講三個詞
矽光子——在矽晶片上做光學元件,讓光的產生、調變、傳輸、接收都能用半導體製程量產。
光互連——用光而不是電訊號,在晶片與晶片之間傳資料。
共封裝光學(CPO)——把光學引擎直接封裝在運算晶片旁邊,而不是放在機板邊緣的插拔模組上。距離越短,功耗越低。
生活場景:把倉庫搬到工廠隔壁
想像一座工廠,原料放在十公里外的倉庫。
工廠效率再高,都會被卡在運輸上——卡車來回要時間、要油錢,而且你增加產能的時候,卡車數量得跟著增加,最後路會塞。
優化生產線沒有用,因為瓶頸不在生產線。
三種解法:
- 買更快的卡車(提升電訊號的傳輸速率)→ 有極限,而且越快越耗油
- 改用輸送帶(換一種傳輸機制)→ 這是光互連
- 把倉庫搬到工廠隔壁(縮短距離)→ 這是共封裝光學
現在的產業正在同時做 2 和 3。
機制拆解:光為什麼比較省
電訊號在銅線上傳輸,有三個物理上的麻煩:
| 問題 | 說明 | |---|---| | 電阻損耗 | 銅線有電阻,訊號一路衰減,越長越嚴重 | | 頻率越高損耗越大 | 想提高頻寬 → 提高頻率 → 損耗急遽上升 | | 串音 | 密集排列的銅線之間會互相干擾 |
光在光波導裡沒有這三個問題(或小得多):衰減極低、頻寬極大,而且可以用不同波長同時傳多路訊號。光之間不會互相干擾。
代價是:你得把電變成光,再把光變回電。 這個轉換本身要耗電、要佔面積、要成本。
所以整件事變成一個距離的算術:
距離短 → 電比較划算(轉換成本佔比太高) 距離長 → 光比較划算(轉換成本被攤薄)
而 AI 系統的規模一直在把「距離」往上推。
每一次模型變大、需要更多晶片協同,那個「光划算」的臨界距離就往內縮一次——從機房之間,縮到機櫃之間,縮到機板之間,現在縮到晶片旁邊。
這就是 CPO 的由來,也是矽光子近年突然變熱的原因。
| 工廠 | 真實機制 | |---|---| | 生產線 | 運算晶片 | | 十公里外的倉庫 | 遠端的記憶體/其他晶片 | | 卡車運輸 | 電訊號在銅線上傳輸 | | 卡車越快越耗油 | 頻率越高,電損耗越大 | | 路會塞 | 串音與佈線密度限制 | | 改用輸送帶 | 光互連:低損耗、高頻寬 | | 蓋輸送帶要投資 | 電光/光電轉換的成本與功耗 | | 把倉庫搬到工廠隔壁 | 共封裝光學(CPO) |
一句話總結
光互連不是「比較先進」,是「距離拉長之後比較便宜」——而 AI 每擴大一次規模,就把那個臨界距離往內推一格。
為什麼這件事講了二十年還沒普及
矽光子不是新概念。它被研究了二十多年。卡在哪裡?
卡在一件很基本的事:矽不會發光。
矽是間接能隙半導體——這是一個材料物理的性質,意思是它把電能轉成光的效率極差。
所以矽光子晶片的雷射光源必須從外部來。 你得把磷化銦之類的另一族材料接到矽上,這叫異質整合。
這是矽光子最難、也最貴的一步。
而 CPO 還有第二個難處,而且它不在概念上,在封裝工程:
- 運算晶片很燙,而雷射怕熱
- 光纖與晶片的對準精度要求極高,是良率瓶頸
- 封在一起之後,壞了怎麼修?
這就是為什麼 CPO 的放量時程一再延後。困難不在「要不要做」,在「怎麼做得出來又修得好」。
比喻到此為止
工廠與倉庫的比喻在兩個地方失效:
一、輸送帶只能運一種東西,光可以用不同波長同時運很多路。 波長多工是光互連最大的優勢之一,而運輸的比喻完全承載不了——它是光獨有的能力。
二、把倉庫搬到隔壁沒有技術難度,把光學引擎封裝到運算晶片旁邊有。 熱、對準精度、良率、可維修性——CPO 真正的困難不在概念,在封裝工程。比喻會讓人低估它。
還沒定案的事
時程一再延後。 這個題材的預期與現實落差,過去幾年已經演過好幾輪。「明年放量」這句話在這個領域被說了很多次。
光源的異質整合仍是成本與良率的核心障礙。 這是二十年的老問題,不是明年會解決的事。
產業聚落的養成需要十年以上,而且經常失敗。 目前美國有一個區域級的光子產業計畫正在推進(普林斯頓、Rowan、Rutgers 與 Nokia Bell Labs 共同主導,入圍國家科學基金會的決選)——但各國政府砸錢建「某某谷」的歷史紀錄,成功率很低。
延伸閱讀
這篇講的是為什麼光互連會變成必要,以及它卡在哪裡。
如果你想知道那個區域產業計畫的規模與六大工作面向、為什麼「只有一項是研究、其他五項都是生態系基礎建設」這件事透露了什麼、以及我們寫下了哪五條判定條件——那些在研究筆記〈AI 的電費,有一半花在把資料從一顆晶片搬到隔壁那顆〉裡。
來源
- Princeton Innovation(2025-09-19),Princeton-led photonics coalition named finalist in National Science Foundation competition — 連結
- Princeton University(2023-05-11),Princeton selected to lead NSF-funded regional consortium for photonics research and workforce development — 連結
- Rowan University(2025-09),Princeton, Rowan, Rutgers and Nokia Bell Labs-led photonics team named among top 15 finalists — 連結
本文為科學技術之教育性資訊,不構成任何投資建議。