Agent 與工作流
Guardrails AI 防護欄是什麼？擋在輸入與輸出外圍的那層網
Guardrails（防護欄、安全護欄）是圍繞在 AI 系統輸入（Input）與輸出（Output）外圍的一整套安全機制，用來偵測、過濾與阻擋不當內容與風險行為。它分成輸入防護與輸出防護兩道：前者攔截高風險或惡意輸入、防止越獄與提示注入；後者攔截不當或有害輸出、降低幻覺與錯誤資訊、確保合規與格式正確。
Guardrails AI 防護欄是什麼？擋在輸入與輸出外圍的那層網
把 AI 接上客服或知識庫之後，第一個要面對的問題不是準不準，而是它會不會講出不該講的話。
防護欄就是那層濾網，讓 AI 在可控的範圍內發揮最大價值。
你將學到什麼
一句話定義
圍在 AI 輸入與輸出外圍，用來偵測與阻擋風險的一整套安全機制。
白話比喻
像高速公路的護欄，不限制你開多快，但擋住你衝出去。
兩道防線
輸入防護擋惡意與越獄，輸出防護擋有害內容與錯誤資訊。
跟誰容易搞混
系統提示詞是「告訴它該怎麼做」，防護欄是「攔住它做錯」。
定義
Guardrails（防護欄、安全護欄）是圍繞在 AI 系統輸入與輸出外圍的一整套安全機制，用來偵測、過濾與阻擋不當內容與風險行為。
運作位置很好記：使用者輸入先過輸入防護，通過後才送進模型；模型的回應要先過輸出防護，通過後才回給使用者。整個過程還要記錄與監控，方便稽核與持續優化。
白話比喻
它就像高速公路的護欄。護欄不會限制你的速度，也不會幫你開車，但你偏離的時候它會把你擋回來。
所以防護欄的目的不是讓 AI 變保守，而是讓創新能在安全的軌道上前進。
輸入防護跟輸出防護
| 輸入防護 Input Guard | 輸出防護 Output Guard |
|---|---|
| 攔截高風險或惡意輸入 | 攔截不當或有害輸出 |
| 防止越獄與提示注入 | 降低幻覺與錯誤資訊 |
| 保護隱私與機密 | 確保合規與格式正確 |
| 改寫或引導至安全範圍 | 敏感資訊遮蔽或替換 |
| 避免不必要的成本消耗 | 確保回應品質與可信度 |
實際用例
客服聊天機器人用它避免不當回應、提升信任；企業知識助理用它保護機密、確保合規；內容創作平台用它過濾有害內容並維護社群安全。
常見技術包含分類器、規則引擎、提示防護、個資偵測與遮蔽、事實查核、輸出解析與約束、模型評估，以及外部的專業內容安全服務。相對的攻擊面可看 Jailbreak 越獄。
常見誤解很多人把防護欄跟 System Prompt 系統提示詞 混為一談。系統提示詞是寫給模型看的指引，屬於「請你這樣做」；防護欄是獨立的檢查層，屬於「不管你怎麼做，這些不准過」。高風險的決策不要只靠這兩層，該留人審的地方就留 Human-in-the-loop。
本文源起本文內容出自酒Ann 的「AI 實戰陪跑班」課程教材，由酒Ann 編寫成彙編條目。想系統性搞懂 AI 名詞，歡迎追蹤 酒Ann 的 Facebook。
延伸學習
常見問答
防護欄擋的是哪些東西？
常見有六類：內容安全（仇恨、暴力、色情、自殘）、隱私保護（個資、機密、敏感資料）、越獄防護（提示注入、角色扮演繞過）、事實性檢查（減少幻覺與錯誤資訊）、合規性檢查（法規、內部政策、行業標準）、輸出格式（確保結構、長度、語言符合要求），另外還可以限制工具與行為，避免不當的工具呼叫。
有了系統提示詞還需要防護欄嗎？
需要。系統提示詞是指引，模型可能被誘導繞過；防護欄是外圍的獨立檢查層，不管模型輸出什麼，它都會再過一次。兩者分工不同，最佳實踐是多層防禦，用多種技術組合層層把關，而不是把安全全押在一段提示詞上。
防護欄會不會誤擋正常內容？
會，這是它最主要的挑戰之一，也就是誤判。過度嚴格會擋掉正常需求、傷害使用體驗，太寬鬆又形同虛設。實務建議是由寬到嚴，先觀察一段時間再收緊，同時收集使用者回饋持續優化規則，並且在擋下來的時候清楚告知原因，維持透明與可解釋。