#start to count this

他们不是会把任何东西都划分你我嘛、
今天一个一个分饺子的时候
やまと把最后俩扒拉到我盘里了
意外感动
后半段一直看他和他女友眼色行事

battle 没有做到让自己满意所以很不好
我自闭了
和音哥哥表情也很不对感觉要哭了似的
有点明白改错30为啥穿着去年soos今年却不见踪影

最可爱的小朋友的壁纸竟然是和ヒロ中老师的合照,羡慕

魔鬼饮料

MC进度更新:
洛邑站地铁站一号线段地下项目完工
(因为考虑到初期整体规模的原因 所以新增进一号线)后期会进行其他线路的地下敷设工程
与地下项目一同进行的是地面部分的框架搭建工程
确定地面部分的绿地的整体走向和地块划分
确保与现实生活中洛阳地铁一号线牡丹广场站
如出一辙 工程持续推进 to be continue...✌
如图1-8皆为整体工程的概况
以及车站内公共厕所的大致模版

美团外卖构架解析

中国外卖市场迎来巨变,外卖从无人问津开始,到现在已经培育成互联网巨头必争之地。作为为数不多能够达到日千万订单级别的业务,其后端服务是怎么支撑的?

美团外卖后端架构迭代各阶段

美团外卖发展到今天差不多有 4 年多的时间,按照外卖业务发展的几个特征,可以相应地把外卖技术分成三个主要阶段:

第一阶段:业务初探期

大约截止到 2015 年初,持续差不多一年左右的时间。这个阶段的主要特征就是美团对于外卖的业务还处于市场摸索期,研发人员相对也比较少,差不多 10 来个同学,产品上需要快速迭代、试错。

所以这个阶段的系统架构比较简单,就是典型的单系统 Web 应用服务,主要是需要满足产品需求上的快速上线,验证业务模型的市场可行性。

第二阶段:业务爆发期

外卖业务在 2015 年初开始了爆发式增长。基于当前外卖的业务特性,90% 以上的交易都是在午高峰和晚高峰这个期间完成的,对业务系统来说高峰期负载重,压力大。这个阶段,我们主要是从最早期的基于单系统的 Web 应用架构,向分布式服务架构的迁移改造。期间主要优化工作如下:

一、做架构的拆分,应对高并发、保证高性能

对系统的拆分,主要体现在系统服务层、以及数据存储层上。

通过对线上业务流程的分解,将外卖系统分成数据浏览体系、用户订单交易体系、商户接单配送体系、用户信息 UGC 服务等,同时也针对大的业务服务体系内的流量分布、以及功能差异性,再做进一步的拆解。比如浏览体系中会有门店服务、商品服务、搜索推荐服务等等。

针对并发的读写数据压力,我们也针对性地搭建了相应的分布式缓存服务、针对特定数据库表,例如订单表,也进行了基于订单 ID、门店 ID、用户 ID 等多个维度的拆库、拆表操作。

二、构建系统化运维体系,保障服务高可用

分布式系统拆分,提升了外卖服务的并发处理能力,同时也给线上运维带来了负担。需要对线上近百个服务应用、几千台机器资源进行运维管理,才能保证整个业务链路服务的稳定体验。这个期间,我们在业务系统的可运维方面,做了大量的工作。例如:

00001. 通过完整业务链路的梳理,形成关联各服务接口的 SLA,保障核心链路的稳定 ;

00002. 通过定期的全链路压测,验证各子系统的处理极限,合理规划系统容量;

00003. 通过链路故障模拟演练,验证各服务系统在功能层面、系统层面的故障降级处理能力

第三阶段:业务扩展期

这个期间是伴随着业务爆发期逐步开始的。外卖的业务中,除了传统的餐饮品类外,还逐步提供了鲜花、生鲜、果蔬、商超、以及跑腿服务等业务的扩展。这里简单总结下:

业务扩展期阶段外卖业务和产品,我们期望以最小的代价,支持不同品类的差异性服务,能够在当前的系统中快速上线。对技术来说,就需要将系统由业务的功能化向业务的平台化方向发展。

我们通过对通用电商逻辑的抽取,形成公共服务平台,将差异性的品类业务特性,通过系统插件或者流程配置的方式,集成到公共服务平台上,以达到整个链路的整合复用。例如:

00001. 将订单交易流程通过类似工作流引擎的方式,针对不同的品类,配置不同的流程模板,使其能够灵活的运行在整个外卖的核心交易体系之中;

00002. 商家促销活动平台,支持从门店、商品、区域等等不同品类进行各种活动配置,满足不同品类的营销需求。
美团外卖后端新项目

当前美团外卖业务依然处于持续增长期,年前我们的日订单刚突破了 1800 多万。伴随着业务的发展,基于业务背后的技术系统也日趋复杂。无论是对于机器资源规模,还是系统服务之间的调度关联,都对线上服务的运维带来很大的挑战。

为保证外卖线上服务规模的可扩展和可运维,近期我们正在开展两大项目:一个是外卖的 Set 化部署项目、另一个是智能化业务运维系统建设。

外卖 Set 化部署项目

这个项目的目标是为了解决外卖当前大数据、高并发场景下的机房集群资源规模限制问题。我们希望将用户与商家的大规模请求流量,按照特定的规则,拆分到不同 Set 内,同时在 Set 内做到整个用户交易流程的闭环。这样我们并可以通过可控容量大小的 Set 划分,达到分散系统压力,快速支持扩容的能力。

Set 化不是一项新技术,当前业界也有部分公司已经在线上实施了,我们计划 2018 年下半年进入部署状态。这块涉及到的基础服务改造,应用服务改造非常多,我想等我们上线后,可以总结下经验,再来给大家详细分享下。

外卖智能化业务运维建设项目

在美团外卖的稳定性建设过程中,我们希望通过一套智能化运维系统,帮助快速、准确地识别各链路子系统服务异常,发现问题根因,并自动执行对应的异常解决预案,从而避免或减少线上事故影响。

当前业界关于 AIOps 这块的探索也有很多,我们也在同步的跟进摸索中,目前主要还处于基础性建设期间,包括核心链路的故障演练系统、全链路压测系统、告警分析诊断系统,服务自保护系统等等。

高并发应对策略

这里简单介绍下我们的高峰低谷策略、动态调度设计、目前的瓶颈,以及我们的优先级策略。
高峰低谷策略

针对当前外卖的周期性峰值波动特性,我们的主要采取如下几个策略:

系统基础运行能力的适度冗余

外卖系统在系统架构的设计上,无论是在服务层面系统部署,还是数据层面的存储资源都会做适当的冗余。比如我们大部分的核心系统服务,会保持线上高峰时 1.5 倍左右的冗余,以保证高峰期间的业务异常流量情况下的系统可用。

系统资源的动态调配

美团外卖的服务系统都是部署在美团私有云上的,最近一年来,我们也在很多的服务上使用了美团内部的弹性计算容器,以应对外卖系统的突增压力时,可以做到近实时的系统快速扩容。同时在低峰期也可以释放资源,提升机器资源利用率。

系统在极限压力下的自我保护

除了从基本的资源部署上来保证以外,在外卖的系统设计中,也会采取大量的自保护策略,其中包括各系统服务的限流、降级、熔断等自我保护策略,以保证系统在异常流量压力下核心链路的可用性。

动态调度设计

外卖业务链路较长,其中关联角色有三方:用户、商家、骑手,简单的业务流程是:用户下单 ->商家接单 / 发配送 ->骑手接单配送。

外卖服务是一个强履约服务,需要尽最大可能,保障用户下单之后,以最快的时间内送达商品,保障用户的体验。外卖当前主要基于餐饮的商品,属于非标品服务,同时也是基于人员配送的即时物流服务,所以一定时间内的服务规模是有限的。一旦商家商品供给能力不足、或者配送资源不足的时候,都需要通过系统来调节。

例如,当运力充足但商家订单过多,出餐瓶颈出现的时候,为保证用户的体验,我们会从产品上提示用户商家忙,继续下单需要能够让用户有延迟送达的预期;同时针对订单较多,出餐较慢的商家,也会在门店列表排序上给予一定的关联因子降级。

对于运力不足的情况下,也会通过适当的实时策略调整,来保证现有运力的供给平衡,比如在高峰期之外降低配送费,高峰期间提升配送费来调节需求的平衡分布。在极端天气,爆单的情况下,可以通过动态调整特定区域商家的配送范围,来保证用户体验。

总之在外卖的整个交易链路中,用户、商家、配送等系统之间的实时数据是互通的,各业务系统通过关注不同的实时数据变化,采用不同的策略应对,从而调节整个业务的运作模式,保证外卖链路三方的平衡。
当前瓶颈

随着业务规模的进一步扩展,当前外卖分布式架构体系中,系统各层的水平扩展性是我们可能会面临的瓶颈。 具体来说,我们面临的问题包括如下两点:

服务层单个集群大小受限

服务层虽然是无状态服务,理论上可以无限增加,但是单个集群规模越大,运维成本就会越高,比如基础服务治理对于服务状态的维护、更新、同步等。

数据存储单个集群大小受限

单个集群的从库个数是受限的,从库越多,主库消耗越大,导致从库个数是受限的。

所以总的来说,系统集群规模是存在上限的,导致实时线上服务的系统处理能力受限。近期我们启动了外卖服务 Set 化升级,结合外卖的强地域特征,将流量按照地域拆分开,每部分流量由单独集群提供服务,从将整个大的分布式集群拆分为多个小集群,从而可以通过从业务逻辑层的设置,来达到控制集群规模大小的目的。

在当前我们的非 Set 化架构体系中,受限于上面提到的两点,大约可以满足两倍于当前业务的数据量,可以支撑近一年左右的业务增长。随着我们的 Set 化项目 2018 年完成部署,理论上通过增加新的 Set 集群,进一步扩展系统能力,可很好地支持未来 3~5 年的业务增长。

优先级策略

作为一个线上即时交易服务系统,在线上资源不足,或者故障发生时,我们首先会优先保护和订单交易相关的核心业务链路。这条链路从用户能感知到的服务就是:商家列表的浏览、商家内的商品展示、用户提单支付、商品骑手配送。

这就需要我们梳理最小化的核心服务链路,除此之外的其他链路分支所关联的所有服务,都可以在故障时刻被降级。比如针对商家列表的排序、推荐、广告服务、评论服务、搜索服务等等。

而实现最小化交易链路保证的前提是:各系统具备能够降级非核心服务接口依赖的能力。外卖服务经过这几年的不断业务梳理与积累,逐步开发实现了各业务链路的限流开关、功能服务开关、依赖服务降级开关百余个。这些开关通过我们的事故紧急预案,被分类组织到我们的业务运维系统中,一旦对应的事故发生,我们可以快速的通过系统,来完成批量的服务降级处理,从而避免事故的发生、或减少事故造成的损失。

外卖高峰期的入口请求 QPS 达到 20W 左右,这其中包含了部分恶意攻击或抓取流量。针对恶意爬虫抓取这块,我们会与公司内部的反爬团队一起做这块的防范工作。而针对突发的攻击性流量,除了公司上层流量入口层的控制以外,外卖自身的服务也会根据用户或地域维度做一定的限流策略,避免恶意攻击造成对正常流量的影响。

架构优化

扩容还是性能优化

为达到目标系统的容量,一般有扩容和性能优化两种手段,这两种手段会根据服务当前的具体情况配合使用。大的原则是:长期保持系统的优化、紧急状况扩容或按照长期业务趋势规划扩容。

关于扩容能力

外卖的业务技术系统,构建在美团内部分布式基础中间件之上(例如分布式缓存、消息队列、服务治理中间件等),这些通用的分布式组件,为上层应用的水平扩容,提供了基础能力保证。

对外卖业务系统,我们也进行了对应的系统拆分 (例如交易服务、营销服务、评论服务、商品门店服务等),拆分中保证各服务均采用无状态设计,可以快速支持水平扩容。另外类似营销这样存在突发流量的服务,也接入到美团弹性计算容器中,可以支持根据流量变化,来进行自动化的扩缩容。

关于性能优化

针对外卖高并发场景,合并分散的调用接口,降低各服务系统间访问频次,防止一次调用链中对依赖服务的请求次数放大;提升数据获取性能,优化存储结构设计(分库、分表、建索引),采用适当的存储方式(DB、分布式缓存、文件索引、本地内存等);将部分请求处理异步化,非实时处理离线化等。

对于如何避免过度依赖扩容,大的方面还是从系统的性能优化入手,当机器资源达到服务瓶颈的时候,需要深入分析具体瓶颈点在哪里,是存储、CPU、带宽还是其他的原因。然后针对具体的点,再考虑是否必须扩容。在外卖定期进行的全链路压测场景中,我们会根据压测的数据,结合各服务的 SLA 要求,来评估各服务的处理能力,再结合未来业务的增长趋势,做较长期的容量扩容规划。
系统架构拆分原则

架构的拆分需要匹配业务规模的发展程度,并具备一定的超前性。过早的拆分会造成不必要的资源浪费,而过晚的拆分,则又会累积现有系统的风险,增加拆分业务的梳理难度。

在外卖的技术发展过程中,由于外卖早期的业务爆发太快,相对技术资源储备不足,拆分的时机是落后于业务发展的,所以早期也出现过很多的线上事故。后来我们通过快速的系统架构拆分与调整,逐步完善起外卖的后端体系架构,减少了线上事故的发生。总结起来,我们针对系统架构的拆分遵循以下三个原则:

流量拆分原则

外卖服务流量按类型,我们可以简单的分为 To C 流量和 To B 流量,也就是面向外卖用户和面向商家、运营的流量。针对不同流量的服务系统会拆分,典型的比如:针对商家或 BD 运营的门店管理、商品管理、营销活动配置管理等,就会和线上的门店、商品、营销等服务分开。除了服务系统上,存储 DB 上也会拆分,中间我们会采用一些实时的数据同步机制,保证数据的一致性。

【涵予科技,专注用户体验,深耕行业方案,以设计与技术驱动企业价值的增长,用服务实现您的商业目标】


发布     👍 0 举报 写留言 🖊   
✋热门推荐
  • #工作三年后身边的人变化真的大#我们终于来到以前憧憬的年纪,却发现已经有人订婚、有人结婚、有人出国、有人生活顺利、有人坚持梦想、有人碌碌无为..就像是一个分水岭
  • NO.5 生肖狗上半年,属狗人的收入状态不是很稳定,经常为钱的事情烦恼,但好在下半年困扰你的问题会慢慢烟消云散。相信自己的能力,敢于去闯去拼,这个时候正是展翅高
  • 所以涂山璟有始终悲悯之心,纵使万般折磨受虐,他仍饱有温情,我们都没有啊……这个浮夸喧嚣的世界,也没几人能看得清,想的明,甚至根本就一点不会。我能很真切的感受到邓
  • 岁‮颖的‬宝 招‮月商‬入孩子一般‮年的‬纪 纯纯一个小白没‮学有‬历 没有‮庭家‬背景就‮我靠‬教她‮方的‬法 在粉矿‮断不‬沉淀利‮图用‬文‮风的‬口 在‮
  • 2,有些人的鼻梁可能确实会出现塌陷现象,那是因为假体长时间压迫软骨,三个月后人体会逐渐恢复;隆鼻假体取出后,仍会有几天肿胀,皮肤会随着肿胀的消退而逐渐回缩,假体
  • 我年轻的时候,也不孝敬你奶奶,你爷爷走得早,你奶奶跟我们生活在一起,我当时便是稍有不顺我意就责骂你奶奶啊,以致后来你奶奶一看到我就吓得大气不敢喘……那时我还得意
  • Chuyện Ăn Uống BÁNH HẠT BỔ DƯỠNG – Vegetarian. Mình giới thiệu món bánh hạt điể
  • 知不足而奋进 望远山而前行我们总是一边在害怕犹豫一边又不甘于平凡害怕前路的未知路况 所以我们总是止不不前 从而唯唯诺诺浮沉又彷徨 从而造就了反复拉扯的自尊心 使
  • 今天的分享就到这里了,希望我的分享能帮助更多的孩子!我有一个90天脾胃助长计划,如果家里孩子有:脾虚积食、个子矮不长肉,身高不达标,睡觉不踏实,便秘,盗汗等表现
  • 随着光纤激光器技术的进一步发展,在光纤光栅激光器中还会有新的用途,这将影响光纤光栅的生产技术。从大功率光纤激光器的发展趋势来看,还要求泵浦耦合装置在将泵浦光耦合
  •   顺便插个话,去医美机构,不管注射哪种玻尿酸,最好要求现场扫码拆验,确保正品才有保障。  从硬度来看,润百颜>海薇  从粘性来看,海薇>润百颜  从弹性来看,
  • #spaceweather天文酷图##天文酷图# 【今天的太阳在 哈尔法2016:02:29 17:44:38  】Jim Fakatselis 于 2016
  • 种植蔬菜时要先知道每一种蔬菜需要占据的位置,大家都知道,一棵菠菜,或是生菜需要的地方有多大,但是可能不知道,番茄需要较大的空间,左右各需要有一尺半到两尺的空间。
  • . 1、领导当着更大领导的面,将责任推给你 嘴笨话术:这事是领导让我做的 绿茶话术:确实是我的问题,我高估了自己的能 力,这事主要靠领导掌舵,指明方向 公式:
  • 听你刚出场就说自己碱中毒还要坚持演出完我就心里沉沉的 很怕你状态特别不好 你一开口我就热泪盈眶了 可你还是坚持到最后 坚持演完了 你就是我的动力 你说你需要我们
  • 成长这一路就是懂得闭嘴努力, 知道低调谦逊, 学会强大自己, 在每一个值 得珍惜的日子里, 拼命去成为自己想成为的人。故而,为了让范闲经历曲折坎坷与心智磨炼,滕
  • 双子座渴望新鲜,追求刺激,当他们厌倦了爱情时,他们会想要放弃他们现在的另一半,但他对每一次的恋爱都是真诚的。当然,这可爱温柔的一面,只有很亲近的人才能感受到,比
  • 还在路边买了他们的糖包子——无花果,10块钱5个,用一种不知名的大叶子包起来带走,很甜。去馕馆买了3个不同口味的小号馕,18块,后来也知道了这是最不划算的一次买
  • 天蝎座女生比较强势,她们喜欢掌控身边的一切,哪怕是很小的事情,她们也要自己亲历亲为才放心,对身边的人,天蝎女生是很上心且细致周到的,没有天蝎做不到的事情,大到职
  • (图4)#澳门品牌故事##大湾区品牌设计比赛##品牌设计#广州旅行美食美景围绕‼️答应我住这里‼️「广州旅行住哪里」经常有朋友问我,到底来广州住在哪里❓如果大家