凌云时刻 · 故事
导读：在线教育市场竞争激烈，爱学习如何脱颖而出？
作者 | 山猎来源 | 阿里巴巴中间件
前言
iiMedia Research（艾媒咨询）数据显示，在线教育市场规模保持逐年增长的态势，2019 年在线教育市场规模已突破 4000 亿元。在疫情的助推下，在线教育加速渗透，市场空间有望进一步打开，预计 2020 年中国在线教育市场规模将达到 4538 亿元。
爱学习教育集团的前身为高思教育，成立于 2009 年，以中小学课外培训起家，曾经的定位是 K12 培训机构；2014 年，爱学习教育集团发力 B 端市场，目前在 2B 领域获得了全国各地办学机构的广泛认可，由 K12 培训机构升级为 K12 教育供给平台。
2019 年 4 月份，爱学习教育集团完成由华平投资领投的 1.4 亿美元 D 轮融资。2014年以前，作为一家“教育产品研发”企业，爱学习教育集团为 3~18 岁年龄层的孩子提供个性化的教育产品方案及所有与教育相关的服务，旗下拥有“思泉语文”、“高思数学”、“高思 VIP 一对一”、“中学理科”等互联网教育产品：“乐乐课堂”、“爱学习”、“爱上古诗”“爱尖子”、“爱提分”等多个全国著名的学习子品牌，这些产品目前已经被大量的中小学辅导机构及公立学校引进，普遍提升了孩子的学习体验和学习效果。
2014 年，在不断发展进化当中，爱学习教育集团（当时还叫“高思教育”）毅然决然的转型 2B 领域。据了解，到 2029 年，爱学习教育集团希望服务全球 1 亿学生和 500 万老师，助力 50 万所学校，以引领行业的内容和科技给学生带来美好的学习体验。
在线教育市场竞争激烈，爱学习是如何脱颖而出？
丰富的互动场景稳定性如何实现？
近些年，在线教育行业飞速发展，为整个社会的知识传播提供了前所未有的便利性。通过多种形式的在线教育平台，学员与教师即使相隔万里也可以开展教学活动，真正打破了时间和空间的限制。基于流媒体传输技术兴起的在线课堂，可以让师生拥有同处一个教室面对面授课听课的真实体验，受到了广大用户的欢迎。
流媒体传输技术是建设在线课堂类应用需要使用到的核心技术，但要打造一款真正优秀的在线课堂应用，仅仅依靠流媒体传输是不够的，只有融入丰富的课堂互动场景才能提升用户体验，让学员的学习效率倍增。这些互动场景包括提问、发言、跟读、点赞、教材导航、白板内容实时展示等，尽可能的提升这些互动场景的操作流畅度，是一款在线课堂类应用竞争力的体现，也是众多在线教育平台技术团队的共同追求。爱学习教育的研发团队，就通过不断迭代的技术手段，将在线课堂互动场景的用户体验提升到了极致。
线上用户量的飞速增长对爱学习研发团队来说是一个巨大挑战，借助于云计算弹性伸缩能力，视频直播可以直接使用云服务以满足高并发需求，但真正的难题是如何支撑互动场景的稳定运行。成熟的分布式微服务架构通过节点水平扩容可以轻松的应对 HTTP 请求量的突增，但标准的 HTTP 通讯只能解决由客户端到服务端的单向请求，如下图所示：
在线课堂互动场景涉及不同用户之间的互相通讯，以及服务器向客户端的主动消息推送，需要建立类似这样的通讯模型：
拿课堂发言的场景为例，一位学生提交发言的文字内容后，同一个课堂的其他用户都能够看到这位学生的发言。为了确保发言的内容不违规，最好的方式是服务端先对内容审核一下，过滤掉其中的敏感信息后，再推送给课堂的其他用户，类似这样的流程：
因此，在线课堂互动的本质是服务端和客户端之间的双向消息通讯，建立一个健壮、可扩展、高性能、高成本的双向消息通讯机制，这是实现线课堂互动场景的技术根基。标准的 HTTP 协议没有办法实现服务端主动向客户端推送消息的业务场景，因此传统的 Web 架构无法满足在线课堂互动需求。对于这个难题，业界也存在多种解决方案，最简单的方式是对 HTTP 进行少许改造，让客户端周期性对服务端进行询问，以拿回属于自己的消息，这就是基于 HTTP 的轮询（Polling）方案：
这个方案能一定程度上实现服务端主动向客户端推送消息，但性能极差，不但实时性满足不了要求，在没有消息的情况下还会产生大量空轮询。此外还有一种基于 HTTP 的长轮询（long polling）方案，是对普通轮询方案的改进，能解决空轮询问题，但优化程度非常有限，没有办法满足互动场景对于实时性的要求。
在基于 HTTP 协议的方案中，能原生实现服务端与客户端双向通讯的是 WebSocket 方案，通过建立 WebSocket 连接，服务端能实时地将消息推送给客户端，这也是一些基于网页的轻量级 IM 所普遍采用的方案。爱学习的研发团队也曾考虑过通过 WebSocket 方案实现课堂互动场景，但经过短暂的预研后，他们发现这个方案存在很大的局限性。在课堂互动场景中，有两个非常明显的特点：
（1）单个消息往往会同时发送给客户端。前面提到的发言场景就是一个很典型的例子，用户在课堂上的发言会被这个课堂的所有其他用户看到。
（2）在线的用户量大，高峰期数万个课堂同时开课。WebSocket 方案需要让服务端和每一个客户端建立连接，如果需要推送同一笔消息给多个客户端，需要在服务端自行实现这个逻辑。
当用户量急剧上升的时候，这个架构对于服务端会造成巨大的压力，很难支持海量用户同时在线，因此爱学习的研发团队决定弃用 WebSocket 方案，尝试其他的方式来解决。
基于 TCP 或 UDP 自行实现应用层通讯协议也是爱学习进行过深入预研的方案，这种方式灵活度非常高，可以通过定制化的协议对消息的传输实现任意扩展，但要从头到尾设计一套应用层通讯协议，是一项极其复杂的工作，需要处理多个难题，如：
连接异常如何处理？
客户端断线如何重连？
消息在传输过程中丢失如何重发？
身份验证和权限管理如何实现？
如何保证服务端节点如何实现水平扩容？
这些都是开发要考虑的因素，爱学习的研发团队虽然有能力将这些细节都照顾周全，设计一套适合于自身业务场景的通讯协议，但需要投入的时间成本是非常大的，面临的风险也非常高。在业务快速发展的大背景下，研发团队需要和时间赛跑，重新寻找可以快速支撑海量用户同时在线的课堂互动方案。
通过不断技术预研所积累下来的经验，爱学习的研发团队得出了最终的结论：在技术架构上要能做到如下几点，才能满足他们在线课堂互动的需求：
（1）能支撑海量客户端同时在线；（2）稳定，高可用；（3）性能不满足要求时，服务端能水平扩展；（4）通过一个中间模块进行消息分发，减少消息复制的成本；（5）简单易用，可以快速上线。
这其中，能满足（4）和（5）的最佳方案基于 MQTT 协议来实现。MQTT 是一个基于客户端—服务器的消息发布/订阅传输协议，为低带宽和不稳定的网络环境中的设备提供可靠的网络服务。
阿里云微消息队列 MQTT
搭建在线课堂互动平台的实践思路
MQTT 协议具有设计思想开放、简单、轻量、易用的特点，能提供一对多的消息发布，从而解除应用程序之间的耦合，也提供了消息必达性的保障，是非常适合用于移动客户端消息推送的。
但 MQTT 毕竟只是一个协议，需要有成熟稳定的产品来支撑，才能用于大规模的商用场景。开源界提供的几套 MQTT 实现方案，都没有经过严谨的测试和商用考验，客户端数量达到 1000 个以后性能急剧下降，根本无法支持万级客户端同时在线。
围绕课堂互动场景，爱学习研发团队和阿里云技术专家进行了深入交流，通过数轮的评估测试后，终于决定使用阿里云微消息队列 MQTT 来搭建他们的在线课堂互动平台。相比开源方案，阿里云微消息队列 MQTT 在阿里巴巴内部经过了多年的验证和演进，能够支撑千万级设备在线连接，百万级消息并发，以及毫秒级消息推送。其采用分布式理念进行设计，无单点瓶颈，各组件之间均可以无限水平扩展，确保容量可弹性伸缩，并对用户透明。
在这个架构中，位于互联网上的客户端设备通过标准的 MQTT 协议接入阿里云微消息队列 MQTT。MQTT 协议的 SDK 几乎覆盖了所有主流的开发语言，而且能非常好的适应移动客户端网络不稳定的情况。位于云上的服务器集群通过 RocketMQ 协议接入消息队列 RocketMQ，并通过 RocketMQ 与 MQTT 之间的协议转换实现服务端与客户端之间的双向互通。
为什么要引入新的组件消息队列 RocketMQ？
（1）相比客户端实例，服务端实例在规模上要小几个数量级，但单实例的消息吞吐量又比客户端要大几个数量级。在一个典型的在线课堂场景中，有数万甚至几十万级的客户端设备同时接入，而每个客户端每秒钟的消息收发量不会超过 10 条；服务端的情况就恰恰相反，100 个实例的规模集群已经是非常大规模的集群了，而每个服务端实例 1 秒内可能要处理上万笔消息。服务端和客户端之间天然的区别这就决定了他们需要使用不同特性的通讯协议进行接入，以实现性能和效率的最大化。
（2）当服务端的处理能力存在不足时，消息需要在队列上进行暂存。而 RocketMQ 的引入为 MQTT 提供了消息的存储。
（3）服务端集群的多个实例之间隐含着对等和任务分摊的关系，通过RocketMQ的集群消费模式恰好就能够提供原生的负载均衡机制。
回到课堂发言的场景，发言内容提交以后，通过负载均机制，服务端集群中的某一个实例拿到发言内容，在审核完成后，只需要将消息投递给 MQTT 云服务，就能分发给同一个课堂的其他用户了。这样对于服务端实例而言，只需要和 MQTT 云服务建立一个连接，就能同时为上万个用户提供服务。
业务高峰期，当服务端实例出现了性能瓶颈的时候，只需要增加服务端实例的数量，就能水平线性的提升。而MQTT云服务本身的性能提升则更加简单，只需要在规则上进行升配就可以实现，可以做到对应用完全无感知。
爱学习的研发团队基于这套架构，半个月的时间就搭建了一套完整的课堂互动系统。开发团队不需要在应用层关心弱网络环境、断线重连、异常处理、海量并发、系统高可用等复杂的技术问题，极大程度上降低了开发成本，提升了用户体验。
为了支持“天空之城”计划带来的用户量急剧上升，爱学习教育对这套系统进行了多次扩容，成功抗住了数次流量洪峰，确保了业务的稳定运行。（补充：为响应教育部“停课不停学”的呼吁，帮助更多本地 K12 机构及时转型线上，爱学习教育集团推出“天空之城”计划，开放优质内容和在线直播能力。已有 9000 多家机构选择通过爱学习在线平台进行线上授课，爱学习正在帮助越来越多的机构顺利转型，共筑“天空之城”。）
“天空之城”计划受全社会的高度认可的同时，爱学习的研发团队也对系统架构进行持续的迭代，并将 MQTT 技术用在更多的云端双向互通场景，以应付未来更多的挑战。正如爱学习教育集团联合创始人、集团总裁李川所言：“我们喜欢做价值更大的事儿，未来还有更美好的期待。”
END
往期精彩文章回顾
阿里CTO鲁肃：技术的想象力不应设限，未来所有应用的核心都离不开数据和智能
将公共云延伸至本地，阿里云推出本地化部署服务云盒Cloud Box
未来的云计算基础设施长什么样？
阿里巴巴集团 CTO 约你聊聊这些事
2020年容器应用的新思考
您有一份来自阿里云达摩院的邀请函待查收！亮相云栖：这些被Gartner点名的2020年安全风向
云上见！操作系统开源社区重磅发布！
聚焦安全，德施曼极致的工匠精神
阿里云 cGPU 容器技术白皮书
长按扫描二维码关注凌云时刻
每日收获前沿技术与科技洞见
