Load Balancer 負載平衡器是什麼？流量的分散指揮官

一萬個人同時打開你的 AI 機器人，一台伺服器接不下來。可是換一台更大的機器，成本又不見得划算，而且那台掛了還是全掛。

業界的答案是多台一起扛，前面站一個負載平衡器負責分流。這篇講清楚它在做什麼。

定義

Load Balancer（LB，負載平衡器）的工作是把大量的使用者請求，均勻分配到多台後端伺服器，確保系統高可用、高效能。

它有五個核心任務：接收所有外部流量、健康檢查後端狀態、把流量分配到最合適的伺服器、自動遊開異常的節點、提升整體效能與擴充性。

白話比喻

想像賣場只開一個結帳櫃檯，人潮一來就排到門外。開十個櫃檯卻沒人引導，大家還是會全部擠在第一個。

負載平衡器就是那位站在入口的引導員。他看得到每個櫃檯現在多忙，把下一位客人帶到最空的那一台，而且發現某個櫃檯故障時會立刻不再往那裡帶人。

常見的分配演算法

選哪一種要看情境。長連線服務通常適合最少連線，需要維持狀態的服務則常用來源雜湊。

健康檢查是它最被低估的價值

負載平衡器會定期檢查每一台後端是否健康，例如每五秒問一次。不健康的伺服器會自動被移出分配名單。

這代表某一台掛掉時，使用者不會撞到錯誤頁，流量會自動走向其他還活著的機器。維運人員可以慢慢修，服務不中斷。

它也是彈性擴充的基礎。要加機器就加，加完自動納入分配；要減也一樣，過程中對使用者是透明的。

實際用例

AI 聊天機器人與 API 服務是最典型的場景，模型推論很吃資源，單台很容易被打滿。電商下單系統、即時影像辨識、遊戲後端也都靠它撐流量。

監控上要盯四個數字：請求量、延遲、健康檢查狀態、後端伺服器負載，再加上錯誤率。這五個一起看，才知道是分流不均還是後端真的不夠。