高并发、高可用系统设计原则

Java基础

浏览数:111

2019-8-21

AD:资源代下载服务

高并发原则

  • 无状态:应用无状态,配置文件有状态
  • 拆分:系统维度、功能维度、读写维度、AOP维度、模块维度
  • 服务化:进程内服务->单机远程服务->集群手动注册服务->自动注册和发现服务->服务分组/隔离/路由->服务治理(限流/黑名单)
  • 消息队列:实现服务解耦、异步处理、流量削峰/缓冲(需要注意:处理生产消息失败、消息重复接收处理、生产重试;作为大流量缓冲,牺牲强一致性,保证最终一致性;需要数据校对)
  • 数据异构:异构数据形成闭环,数据存储到合适的存储引擎;聚合数据,使前端通过少量调用拿到所需数据;依赖系统出问题,还能正常工作
  • 缓存:1、浏览器缓存(时效性不强的数据)2、APP客户端缓存(大促前提前下发素材到客户端)3、CDN缓存(把资源推送到离用户最近的CDN节点)4、接入层缓存(没有CDN缓存可以考虑使用Nginx搭建一层接入层)5、应用层缓存(在应用所在机器上部署一组Redis,直接本机读取数据,多机之间主从同步数据)6、分布式缓存(数据量太多,单机存储不了,用分片机制分散流量到多台要,或用分布式缓存实现,常见的分片规则:一致性哈希算法)
  • 并发化

高可用原则

  • 降级:开关集中化管理,推送机制把开关推送到各个应用;可降级的多级读服务;开关前置化;业务降级,高并发流量来袭,保障核心业务,保证数据最终一致性即可,可同步改异步,优先处理高优先级数据
  • 限流:恶意请求只到Cache层;对于穿透到后端的流量考虑Nginx的limit模块;对恶意IP可用Nginx deny屏蔽
  • 切流量:可用Nginx切换故障的应用层
  • 可回滚:版本化(事务回滚、代码库回滚、部署版本回滚、数据版本回滚、静态资源版本回滚)

业务设计原则

  • 防重设计:防重key、防重表、记录重复日志后续处理
  • 幂等设计:业务系统重复消息消费幂等处理;第三方支付异步回调幂等处理
  • 流程可定义
  • 状态与状态机:状态设计有状态轨迹·,方便追溯;并发状态修改问题;状态变更有序问题;状态变更消息先到后到问题
  • 系统后台操作可反馈
  • 系统后台审批化
  • 文档和注释
  • 备份:代码库、多版本、人员备份

作者:ImClive