Uploaded avatar of iHiD

V2 值得付出这么多努力吗?

@iHiD
接近7年前

几周前,我提了一个 issue,谈我们即将开启的 Exercism V3 之旅。有人在发表了一条评论里说,希望这次过渡能比从 V1 到 V2 更顺利,并质疑我们做的许多改动是否值得这么折腾。这两点都提得很好,也说明我们显然没有讲清楚 V2 的改动确实带来了哪些影响,以及我们为什么认为这些改动是值得的。所以我想,不如写一篇短文,梳理一下我们从数据中看到的变化,以及我们在推进 V3 时想要达成的各项指标。

(关于这些数字,有三点说明。第一,下面的指标大致按网站的流程顺序排列,而不是按重要性排列。第二,比较时我取 V2 上线前后各 17 个月作为窗口。当我说“V1”时,指的是 V1 的最后 17 个月。要完全准确地做到这一点并不可能,因为 V1 在上线前的 17 个月里有过很多小改动,而 V2 自上线以来也有大量改进。我们还遇到过异常的日子,比如 V1 期间 GitHub 推荐了我们,大约一天里流量涨了 30 倍。我没有特别处理这些,只是坚持取前后固定的窗口,认为这是最公平的衡量方式。最后,每个点我本来都可以用很多不同的指标。我选的这些,是我认为最能整体呈现这些数字所讲述的故事,并且跨历史数据和当前数据都比较容易算出来的指标。)

V1 到 V2 的指标

注册的访客(品牌)

我们的目标之一,是让 Exercism 对那些可能被最初的品牌形象(红色 + 恶魔)劝退的人显得更友好。在很多人看来,这只是个小改动,因为他们并没有被那个品牌形象劝退,所以觉得这功夫白费了。但我们认为,V1 的 Exercism 并没有散发出“友好、包容的社区”的气质,而把它纠正过来对我们很重要。

在这些时间段里,有多少人注册了 Exercism?这个数字占新访客的百分比是多少?

  • V1:62,618(新访客中有 17% 注册)
  • V2:188,844(新访客中有 48% 注册)

这第一个改动影响很大。V2 的落地页转化率是 48%,而 V1 只有 17%。这基本完全归功于品牌,以及我们把自己做什么、我们是谁讲得更清楚。所以我坚信,为重新打造 Exercism 品牌所付出的努力是值得的。

有一点需要说明:V2 可能会吸引那些其实还没准备好使用目前这个 Exercism 的人注册。V2 并不是为完全零基础的人设计的,但 V2 的落地页对完全零基础的人友好得多,所以我们大概招来了不少还没准备好用 Exercism 的用户。要考虑到这一点,一个办法是不只看注册的访客数量,而是看有多少访客注册后_并且_成功提交了一份解答。这里我们看到:

  • V1:26,194(新访客中有 7% 注册并提交)
  • V2:52,533(新访客中有 13.9% 注册并提交)

由此可以说,品牌塑造让我们的真实“转化率”差不多翻了一倍,这也说明重新打造品牌这件事绝对值得。还值得一提的是,等我们进一步做到对零基础用户友好(V3.x)之后,这个注意事项就会彻底消失。

提交的解答获得反馈(指导)

我们想改善的第二件事,是每份提交的解答能获得多少指导。在 V1 里,这有点像抽奖:你可能会收到评论,也可能收不到,完全取决于有没有人注意到你提交的内容。V2 正式的指导体系有很大一部分,就是为了让这件事更公平、更一致、更可靠。

我在这里用的指标,是提交的解答中收到评论的比例。

  • V1:占全部提交的解答的 3.5%
  • V2:在申请了指导的提交的解答中占 64%(占全部提交的解答的 26%)

在我看来,这是最惊人的一个数字,也是 V2 带我们走上正确方向的重要标志。如今在 V2 里,你提交的解答收到反馈的可能性是 V1 的 18 倍。V2 的指导体系里有很多地方我们做错了(见下一节!),但我为我们的导师感到无比自豪和感激:Exercism 提供了这样一个地方,只要你想要指导,多半就能得到。

用户黏性

最后,我们想提升“用户黏性”,也就是网站的使用量。如果人们喜欢 Exercism、觉得它有用,就会用得更多。这有两个方面:一是用户回访网站的次数,二是用户上传了多少份提交的解答。

回访用户:

  • V1:人均 4.79 次会话
  • V2:人均 5.42 次会话

上传量:

  • V1:人均 8.0 份提交的解答
  • V2:人均 8.2 份提交的解答

这两项基本都保持平稳。这是一个我原本期望在 V2 看到大幅增长的方面,但并没有。指导的等待时间,以及不获得指导就阻止你继续推进的机制,让 V2 的体验非常缓慢。对于想快速学完一门语言的人来说,庞大的导师队列让他们很难保持一个还算合理的进度。这里的体验很大程度上取决于轨道。对于等待时间超过一天的轨道,流失率相当明显;对于等待时间更长的(例如 Rust、Python),流失率则非常大。

V3 的改动很大程度上就是为了解决这个问题:把 Exercism 变成一个能让你快速学习或练习一门语言的地方,同时你还能和导师进行有帮助的异步交流,而不会因此卡住进度。

迈向 V3

对于 V3,我希望看到这三项指标都继续上升。我的目标是:人们听说 Exercism 后会注册;他们能顺利提交解答,深入探索各个轨道而不感到沮丧;当他们想要指导时,就能得到指导。

我希望上面的数据能表明,我们正朝正确的方向前进,大家为 V2 付出的努力是值得的。要把我们带到 V3,还需要社区付出大量努力,但我相信,24 个月后我们回顾 Exercism 时,会看到类似的增长,也会证明接下来各个阶段的工作都是值得的。Exercism 就是我们的社区。谢谢大家所做的一切。

2019年12月27日 · 觉得有用吗?