以keep為例 如何設計實驗?

完美的增長實驗從來不是靈光乍現 , 一蹴而就 , 它背后往往有著合理的方法論和可落地的實驗設計步驟 , 以嚴謹科學的姿態 , 檢驗一次增長的可能 。
聰明的增長人 , 在一個閃著靈光的黑夜里 , 預想著通過這一次微小而巧妙的調整 , 數據發生了意料之中的顯著變化 , 無數次迭代后 , 交上了令人側目的增長成果 。
然而 , 現實卻是 , 看一眼玻璃窗上自己的倒影 , 感嘆下越來越稀薄的發量 , 抿一口咖啡 , 苦惱著下面的難題:
  • 實驗想法“靠天吃飯” , 來源不穩定 , 沒有依據;
  • 又要靠直覺來決定先做什么;
  • 實驗做完發現數據收集的不夠 , 無法分析 , 需要返工 , 迎來了大量吐槽;
  • 實驗成功 , 但是沒能最大化實驗結果 。
那么 , 理想的狀態應該是什么呢?
按照優秀增長人的表現來看 , 理想的狀態應該是這樣的:
  • 有成型的方法和思路去持續產生高質量的實驗想法
  • 通過實驗想法科學排列優先級 , 永遠專注于效果最大化的事情
  • 能夠準確定義出實驗指標 , 考慮到所有重要因素 , 從而得出可信結果
  • 有詳細的實驗設計和開發文檔 , 和清晰的實驗流程 , 從而保證質量和效率
  • 不僅了解實驗的成敗 , 還能分析背后的原因 , 放大洞察和影響
聽起來非常美好 , 那么該如何實操呢?
具體來說 , 我們可以根據以下步驟完成一次完美的增長黑客實驗設計:
  • 針對實驗目標 , 產生實驗假設
  • 按照ICE模型對實驗想法進行優先級排序
  • 設計、完成增長實驗并撰寫報告:包括實驗的目標、假設、打分、指標、受眾、設計、結果、洞察、計劃
以一個很火爆的健身App——keep為例 , 我們詳細看一下每一步的具體產出和思考的方法
01 針對實驗目標 , 產生實驗假設1. 實驗目標當前的工作重點是 , 提升用戶對其他用戶的“關注”率 , 即讓更多的用戶“關注”他們喜歡的達人 , 從而一方面提升內容質量體驗 , 一方面給分享內容的用戶以激勵 , 長期促進平臺用戶的活躍程度和互動 。
確定實驗目標的方法:一般實驗目標來自于上級領導 , 也可以是自己根據北極星目標進行拆解得到的 , 可以圍繞自己的KPI提出 。
2. 實驗假設提出實驗假設的方法:圍繞實驗目標 , 梳理用戶使用路徑 , 分析相關的數據 , 結合最佳實踐 , 發現可能的增長點 , 提出具體的實驗假設 。
02 對實驗想法進行優先級排序(按照ICE模型打分)
以keep為例 如何設計實驗?

文章插圖
ICE各項指標打分的依據如下:

以keep為例 如何設計實驗?

文章插圖
根據三個實驗的綜合得分 , 可以確定評分最高的第三個實驗“關注按鈕醒目” , 是值得優先進行的實驗 。
確定實驗想法、實驗假設后 , 需要選取實驗指標、確定實驗的受眾、實驗需要的樣本數量、實驗變量如何作用于樣本 , 并將實驗設計寫成文檔 , 提給工程師(實驗設計文檔 , 也就是下面實驗報告中的實驗目標、實驗假設、實驗打分、實驗指標、實驗受眾和實驗設計幾部分) 。
在一段時間后 , 收集到了足夠多的數據 , 就可以進行檢驗 , 得到實驗結果 , 驗證或者推翻原有的假設 , 并根據實驗結果制定下一步的計劃(即完成下面實驗報告的實驗結果、實驗洞察、后續動作部分) 。
03 增長實驗報告1. 實驗目標提升用戶對其他用戶的“關注”率
2. 實驗假設在用戶帖子頁面 , 如果用戶在某個文章或動態上停留5秒以上 , “關注”按鈕變亮變大 , 提示用戶可以關注此博主 , 可以提高關注率 。 預期這一改動可以將帖子頁關注按鈕的點擊率從當前的5%提升到6% 。
3. 實驗打分4. 實驗指標
以keep為例 如何設計實驗?

文章插圖
5. 實驗受眾全部用戶 。
因為關注功能是面向所有用戶的功能 , 不是為某一特定用戶群開發的 , 同時也希望所有的用戶都積極關注其他用戶 , 提高內容體驗 , 同時給生產內容的用戶激勵 。
6. 實驗設計(1)版本及流量設計

以keep為例 如何設計實驗?

文章插圖
版本設置的原因:該實驗是優化實驗 , 我們只需要驗證一個假設 , 所以只需要設計一個實驗組 。 流量在對照組和實驗組間均勻分流 , 保證兩組的唯一區別是實驗改動 , 這樣才能進行后續的推斷統計 。

推薦閱讀