從單一節點到 Cortex:在全球以 100K TPS 提供區塊鏈資料服務

要在 100K+ TPS 下以最低延遲提供區塊鏈資料——可靠、全球化，且具備完全一致性——需要什麼條件？

這就是我們在 2023 年初面對的挑戰，當時我們正在規劃如何支援下一波規模化的區塊鏈應用，尤其是那些正在導入數百萬新使用者的應用，例如 World App 和 Robinhood。

我們的旅程始於 2017 年，當時只有一個 Ethereum 節點。從那時起，我們已經支援過無數應用程式，經歷了牛市、熊市以及其間的各種情況。這些營運經驗最終促成了 Cortex 的誕生，這是全球第一個智慧型區塊鏈引擎。

如今，Cortex 驅動我們整個開發者平台：RPC APIs、Data APIs、Gasless Transactions 與 Rollups。這是每個 Alchemy 產品的重大躍進。不需要遷移，也不需要學習新工具。只是建立在多年實戰經驗之上、更聰明、更快速的基礎設施。

通往 Cortex 之路

早期，我們的創辦人 Nikil 和 Joe 在為避險基金打造區塊鏈研究工具時，遇到了自行執行 Ethereum 節點的痛點。單一節點原本運作良好，直到 2017 年 ICO 熱潮爆發、需求暴增。水平擴展有助於提升吞吐量，但也帶來了一個巨大的挑戰：資料一致性——確保每個使用者看到相同的規範區塊鏈狀態，無論是哪個節點處理他們的請求。

為了解決這個問題，我們在 2018 年建立了 Vox Nodi，一個確保節點間區塊鏈狀態完全一致的一致性層。到了 2021 年，由 Vox Nodi 驅動的 Node APIs 已經在支援 OpenSea、0x 和 Polymarket 等團隊應對大量流量高峰。

接著是多鏈時代的到來。從 2022 年起，我們從少數幾個 EVM 鏈擴展到超過 100 個，並推出對 Solana 的支援。同時，我們較新的產品，例如 NFT API、Token API、Transfers API、Smart Wallets 以及 Rollups as a Service，成為了我們內部最有效的壓力測試。它們建立在相同的基礎之上，並產生比任何客戶都大的工作負載，這幫助我們提前預見擴展問題，並在客戶遇到之前強化我們的系統。

但即使有了這些進展，我們大部分的基礎設施仍位於美國。歐洲和亞洲的團隊因此面臨較高的延遲。為了支援真正全球化、多鏈的生態系統，我們需要一次全面的重新架構：一個全新的引擎。

Cortex：速度 + 可靠性，達到全球規模

到了 2023 年，開發者提出了兩個不可妥協的要求：

• 全球延遲低於 50 毫秒
• 堅不可摧的可靠性，無論流量高峰或底層區塊鏈問題如何

要同時達成這兩者——且不做任何妥協——需要從第一性原理重新思考我們整個技術堆疊。這就是 Cortex 的由來。

自推出以來，我們持續優化請求路徑。最近，我們推出了迄今為止最大規模的升級之一：Alchemy Edge Proxy，我們自建的 DDoS 防護與路由層。它取代了我們在關鍵服務路徑上最後一個第三方依賴，進一步降低延遲，同時提升可靠性。

速度：讓每個請求都更快

請求通過 Cortex 的每一個步驟都經過速度調校。

全球節點佈局確保請求總是被導向最近的區域，而即時複製則確保每個區域的資料都保持最新。由於 Vox Nodi 作為我們的一致性層，擴展到多區域需要一些巧妙的調整，最終讓我們能夠在全球提供快速且一致的體驗。

以 Alchemy Edge Proxy 取代第三方邊緣服務帶來了巨大的影響。將邊緣服務自建，讓路由能夠更貼近使用者、減少額外開銷。影響立竿見影：RPC 呼叫的 P95 延遲下降了 7.5 倍，從 150 毫秒降到 20 毫秒。

如需目前公開的效能數據，請參閱 Alchemy 的 RPC 延遲基準測試，涵蓋各家供應商、鏈與地區。

在每個資料中心內部，我們的核心運算與網路層接手處理，將相依服務集中放置，並強制執行地域感知路由。這代表請求不會在機器之間不必要地跳轉，省去了浪費的路由跳點。Istio 也強化了我們內部的安全態勢，預設啟用 mTLS，並提供進階的流量管理功能，如重試、斷路器與漸進式推出，這些都同時提升了速度與韌性。

一旦請求到達節點，單機效能就成為瓶頸所在。透過在裸機伺服器上運行，Cortex 避免了虛擬化的額外開銷，並能更精準地控制成本與延遲。我們與 Reth 節點客戶端團隊的密切合作，為我們帶來了上游修正與客戶端層級的優化，大幅提升了吞吐量。

Cortex 也加速了資料變得可用的最初時刻。在網路層，我們使用預測性節點選擇與法定人數建構，盡可能早期偵測新區塊。實際上，這意味著我們的使用者能更快看到最新區塊與狀態更新，這對於索引、交易與即時應用等對延遲敏感的工作負載，在下游會產生複合效益。

最後，Cortex 會根據網路類型、客戶端類型、延遲特性、SLA 以及歷史模式，智慧地路由請求。路由透過 GitOps 風格的工作流程管理，並在數秒內全球生效。我們的代理伺服器也會即時採用這些相同的動態設定來調整行為。舉例來說，在將流量遷移到基於 Reth 的客戶端時，JSON RPC 錯誤碼的差異透過代理模組即時改寫回應來平滑處理——同時我們也在上游貢獻了永久性修正。

在每一個層級——區域、資料中心、節點——Cortex 都經過精心設計以降低延遲。這就是它如何在全球提供低於 50 毫秒回應的方式。

可靠性：每一層都有防護機制

但光有速度還不夠。可靠性同樣至關重要，而 Cortex 在技術堆疊的每一層都周密地建置了防護機制。

在邊緣層，Alchemy Edge Proxy 移除了我們在關鍵服務路徑上的第三方依賴。透過將這一層自建，我們獲得了更嚴密的可靠性保證，並徹底消除了一整類供應商層級的服務中斷風險。事實上，在 11 月 18 日 Cloudflare 全球服務中斷期間，Alchemy 的服務基本上未受影響——這正是 Cortex 設計來承受的可靠性場景。

在節點服務層級，我們的代理伺服器採用微核心架構。每個功能都是可插拔的模組，能夠在執行階段啟用、停用或重新設定，無需重新部署整個代理伺服器。這種設計讓我們能夠靈活修補錯誤、統一客戶端行為（例如 Reth 與 Geth 之間的差異），並在不中斷服務的情況下推出新功能。我們搭配洗牌式分片（shuffle sharding）與備援節點池，讓故障能夠被隔離並控制在局部範圍內。

在每個區域內，當某個節點出現故障時，Cortex 會自動將流量重新導向至健康的節點。版本化更新確保開發者即使在嚴重的故障轉移情況下，也不會遇到過時的讀取資料。

在全球層級，Cortex 採用多層次的故障轉移系統。如果主要區域發生效能降級，請求會被導向次要區域。如果次要區域也失效，我們會退回到舊版堆疊。在最罕見的情況下，我們還維護著一套獨立的緊急備援堆疊。除此之外，即時全球複製確保每個區域在這些轉換過程中都保持一致。每個請求在開發者看到錯誤之前，都經過多條備援路徑。

最後，Cortex 導入了更智慧的系統來預測並防範服務中斷。我們的 AI 驅動艦隊管理系統會監控節點更新、分析其重要性，並在需要時自動化測試與升級節點。而情境感知路由則能動態因應網路壅塞、節點效能降級或有問題的客戶端版本，確保在條件變動時請求仍能持續成功。

這就是為什麼我們的可靠性在業界處於領先地位，並具備企業級水準。

Cortex 在真實世界中的應用

Cortex 驅動著 71% 的頂尖加密貨幣應用，是 Alchemy 開發者平台的基礎。

它每年處理 超過 1 兆美元的鏈上交易，並支援 JPMorgan、Visa、Robinhood、Polymarket 與 Circle 等全球領導企業。

以下是幾個例子：

• Polymarket 在 2024 年美國大選期間使用 Cortex，透過直接區域路由達成約 100 毫秒的全球延遲，且零停機時間。
• World Chain 擴展至超過 3000 萬使用者、每週新增約 59.8 萬個帳戶，同時維持低於 50 毫秒的延遲。
• Usual 在遷移至 Cortex 後，回報效能大幅提升、載入時間即時完成，這歸功於快 2 倍的基礎設施。
• JPMorgan 的 JPM Coin 使用由 Cortex 驅動的 Alchemy Wallet Infrastructure。
• Robinhood、Stripe、Coinbase 與 Visa 皆依賴 Cortex 來達成關鍵任務效能。

結語

那麼，要在全球以 100K+ TPS 提供區塊鏈資料，同時維持完全一致性，需要什麼？

答案是 Cortex——第一個在不做任何妥協的情況下，於規模化環境中兼具速度與可靠性的系統。Cortex 建立在七年的迭代、經驗與規模化之上，如今驅動著 Alchemy 平台的每一個部分。

準備好體驗 Cortex 了嗎？

• 註冊 Alchemy
• 與我們的團隊聯繫

你打造未來，基礎設施交給我們處理。