幾週前,我開了一個 issue,談到我們即將邁向 Exercism V3 的旅程。有人在留言中表示,希望這次的轉換能比 V1 到 V2 更順利,並質疑我們所做的許多改變是否值得這番折騰。這兩點都提得很好,也顯示我們顯然沒有說明 V2 的改變確實帶來的影響,以及我們為什麼認為這些改變值得。因此,我想寫一篇簡短的貼文,說明我們在數據中看到的變化,以及我們朝 V3 推進時所鎖定的指標。
(關於這些數字,有三點說明。首先,以下指標大致依照網站的流程排序,而非依重要性排序。其次,我在 V2 上線前後各取 17 個月的區間來做比較。當我說「V1」時,指的是 V1 最後 17 個月。要做到完全精確是不可能的,因為 V1 在上線前的 17 個月裡有過許多小改動,而 V2 自上線以來也有大幅改進。我們也有一些離群的異常日,例如 V1 期間 GitHub 曾推薦我們,那陣子流量有大約一天暴增了 30 倍。我沒有特別處理這些,只是固定取前後各一段區間,認為這是最公平的衡量方式。最後,每一點我其實都可以選用許多不同的指標。我挑的是我認為最能整體呈現這些數字所說的故事,而且我在歷史資料與現行資料上都容易計算出來的指標)。
V1 -> V2 的指標
註冊的訪客(品牌)
我們的目標之一,是讓 Exercism 對那些可能被原本(紅色 + 惡魔)品牌形象嚇跑的人來說更友善。對許多人來說,這似乎是個微不足道的改變,因為他們沒有被這個品牌形象嚇跑,所以覺得這些努力似乎是浪費時間。然而,我們認為 V1 的 Exercism 並沒有散發出「友善、包容的社群」氛圍,而修正這一點對我們很重要。
在這些區間裡,有多少人註冊了 Exercism?這又佔新訪客的百分比是多少?
- V1:62,618(17% 的新訪客註冊)
- V2:188,844(48% 的新訪客註冊)
第一個改變非常顯著。我們 V2 到達頁的轉換率達 48%,而 V1 只有 17%。這幾乎完全來自品牌,以及我們對自己做什麼、我們是誰說得更清楚。所以我深信,投入 Exercism 品牌重塑的努力是值得的。
有一點要提醒:V2 可能會鼓勵一些其實還沒準備好使用目前 Exercism 的人註冊。V2 並不是為完全的初學者設計的,但 V2 的到達頁對完全初學者友善得多,所以我們大概吸引了不少還沒準備好使用 Exercism 的使用者。要考量這一點,一個方法是不要只看註冊的訪客數,而是看有多少訪客註冊了_而且_成功提交了一份解答。為此,我們看到:
- V1:26,194(7% 的新訪客註冊並提交)
- V2:52,533(13.9% 的新訪客註冊並提交)
所以由此可見,品牌形象讓我們真正的「轉換率」大約翻了一倍,這讓品牌重塑的努力絕對值得。另外也值得注意,當我們朝著對初學者友善的方向前進(V3.x)時,這個顧慮就會完全消失。
解答獲得回饋(引導)
我們想改善的第二件事,是每份解答能獲得的引導量。在 V1,這有點像碰運氣:你可能會得到評論,也可能不會,完全取決於有沒有人注意到你提交的東西。V2 正式引導的一大重點,就是讓這件事更公平、更一致、更可靠。
我在這裡用的指標,是收到評論的解答百分比。
- V1:所有解答的 3.5%
- V2:已申請引導的解答中佔 64%(所有解答的 26%)
在我看來,這是個驚人的數字,也是 V2 帶我們走向正確方向的重要指標。在 V2,你的解答獲得回饋的機率是 V1 的 18 倍。我們在 V2 的引導上做錯了很多地方(見下一節!),但我對我們的導師感到非常驕傲與感激,因為 Exercism 提供了一個地方:只要你想被引導,你多半就能得到。
黏著度
最後,我們想提升「黏著度」,也就是網站的使用量。如果人們喜歡 Exercism、覺得它有用,就會用得更多。這有兩個面向:一個人回到網站的次數,以及一個人上傳的解答數量。
回訪使用者:
- V1:每人 4.79 次工作階段
- V2:每人 5.42 次工作階段
上傳量:
- V1:每人 8.0 份解答
- V2:每人 8.2 份解答
兩者都大致持平。這是我原本希望在 V2 看到大幅成長的一個領域,但並沒有。引導的等待時間,以及沒有引導就無法繼續前進的阻擋機制,都讓 V2 的體驗非常緩慢。對想快速學完一門語言的人來說,龐大的導師佇列讓他們很難用合理的速度學習。這裡的體驗會非常取決於軌道。對等待時間超過一天的軌道來說,流失率相當明顯。至於等待時間更長的軌道(例如 Rust、Python),流失率更是可觀。
V3 的改變主要是為了解決這個問題:讓 Exercism 成為一個能快速學習或練習一門語言的地方,同時也能與導師進行有幫助的非同步對話,而不會讓你的進度被卡住。
邁向 V3
對 V3,我希望能看到這三項指標持續上升。我的目標是:人們聽聞 Exercism 後會註冊,能順利提交解答並深入軌道而不感到挫折,而且當他們想要引導時就能得到。
我希望上述的統計數字能證明我們正朝正確的方向前進,也證明大家投入 V2 的努力是值得的。要讓我們走到 V3,社群還需要付出很多努力,但我有信心,當我們在 24 個月後回顧 Exercism 時,會看到類似的成長,而且接下來每個階段的工作都會證明是值得的。Exercism 就是我們的社群。謝謝大家所做的一切。