跑實驗不是為了成效,是為了早點看到爆炸
「使用者太少,跑 A/B test 沒有統計意義」是常見的不跑理由。但他照樣建議跑——因為目的根本不是統計顯著性。
使用者群小的時候確實沒有統計檢定力(statistical power),跑不出正規的 A/B testing。即使如此,仍然建議做 A/B test 或 canary deployment,理由是:
透過 feature gating 把流量一點一點導進新功能,你就能很快看到 bug、crash、警報。
實驗在這裡的角色是偵測器,不是量尺。 它量的不是「這個功能好不好」,而是「這個功能有沒有在爆」。
為什麼在 AI 時代更需要它
因為你物理上不可能把所有產出的 code 都細讀。所以整套策略的目標是蓋出一個 agentic safeguard:大量測試、大量驗證、大量 agent 在工作,同時保住把爛決定收回來的能力。
前置:Feature gate 最簡單就是一個 boolean flag(沒有 gating 就沒有「一點一點放」這個選項)