当我们的业务数据量不大的时候,单个数据库单个表完全可以支撑现有的业务,一个MySQL主从同步读写分离也可以应对更大的数据量。
但是随着数据越来越多,主从同步无法带走,需要把数据库分成数据库和表,但是数据库分成表后,需要一个唯一的ID来标识一条数据,数据库的自增ID显然不能满足需求;特殊物品,如订单和优惠券,也需要一个唯一的ID来识别。这个时候,一个能够生成全球唯一ID的系统就非常必要了。那么这个全局唯一的ID称为分布式ID。
UUID数据库自增ID数据库多主模式号段模式Redis雪花算法(雪花)滴滴产品(TinyID)百度(Uidgenerator)叶子那么它们都是怎么实现的呢?它们的优缺点是什么?让我们往下看
以上图片来自网络。如有侵权,请删除。
publicstaticvoidmain(String[]args){ String uid=uuid . randomuuid()。toString()。replaceAll('-'' ');system . out . println(uuid);UUID的生成简单到一行代码,输出结果是c 2 b 8 c 2 b 9 e 46 c 47 e 3 b 30 DCA 3 b 0d 447718。但是,UUID并不适合实际的业务需求。像UUID这样的字符串,作为订单号,根本没有任何意义,你看不到任何与订单相关的有用信息;对于数据库来说,不仅太长而且是字符串,存储性能差的查询也比较耗时,不建议作为分布式ID使用。
优点:
世代足够简单,本地世代没有网络消费,有独特的缺点:.
无序字符串,不具备自增趋势特征,没有具体的业务意义,太长(16字节,128位,36位),存储和查询消耗了大量MySQL性能。MySQL官方明确建议主键尽量短。作为数据库的主键,UUID的无序会导致数据位置的频繁变化,严重影响性能。
create database ` seq _ id `;CREATETABLESEQID。SEQUENCE _ ID(idbigint(20)unsignedNOTNULLauto _ increment,valuechar(10)NOTNULLdefault ' 'PRIMARYKEY(id),)ENGINE=MyISAMinsertintoSEQUENCE_ID(value)值(' VALUES ');当我们需要一个ID时,我们在表中插入一条记录并返回主键ID,但是这种方法有一个致命的缺点。MySQL本身就是流量剧增时的系统瓶颈,用它来实现分布式服务有风险,不推荐!
优点:
实现简单,ID单调自增,数值型查询速度快,缺点:.
DB单点有宕机的风险,所以撑不过高并发场景
那么就会出现另一个问题。两个MySQL实例的ID都是从1,http://w开始递增的
set @ @ auto _ increment _ offset=1;-起始值set @ @ auto _ increment _ increment=2;-步长MySQL_2
配置:set@@auto_increment_offset=2;--起始值set@@auto_increment_increment=2;--步长
这样两个MySQL实例的自增ID分别就是:
1、3、5、7、9
2、4、6、8、10
那如果集群后的性能还是扛不住高并发咋办?就要进行MySQL扩容增加节点,这是一个比较麻烦的事。
从上图可以看出,水平扩展的数据库集群,有利于解决数据库单点压力的问题,同时为了ID生成特性,将自增步长按照机器数量来设置。
增加第三台MySQL实例需要人工修改一、二两台MySQL实例的起始值和步长,把第三台机器的ID起始生成位置设定在比现有最大自增ID的位置远一些,但必须在一、二两台MySQL实例ID还没有增长到第三台MySQL实例的起始ID值的时候,否则自增ID就要出现重复了,必要时可能还需要停机修改。
优点:
解决DB单点问题缺点:
不利于后续扩容,而且实际上单个数据库自身压力还是大,依旧无法满足高并发场景。号段模式是当下分布式ID生成器的主流实现方式之一,号段模式可以理解为从数据库批量的获取自增ID,每次从数据库取出一个号段范围,例如(1,1000]代表1000个ID,具体的业务服务将本号段,生成1~1000的自增ID并加载到内存。表结构如下:
CREATETABLEid_generator(idint(10)NOTNULL,max_idbigint(20)NOTNULLCOMMENT'当前最大id',stepint(20)NOTNULLCOMMENT'号段的布长',biz_typeint(20)NOTNULLCOMMENT'业务类型',versionint(20)NOTNULLCOMMENT'版本号',PRIMARYKEY(`id`))
biz_type:代表不同业务类型
max_id:当前最大的可用id
step:代表号段的长度
version:是一个乐观锁,每次都更新version,保证并发时数据的正确性
等这批号段ID用完,再次向数据库申请新号段,对max_id字段做一次update操作,updatemax_id=max_id+step,update成功则说明新号段获取成功,新的号段范围是(max_id,max_id+step]。
updateid_generatorsetmax_id=#{max_id+step},version=version+1whereversion=#{version}andbiz_type=XXX
由于多业务端可能同时操作,所以采用版本号version乐观锁方式更新,这种分布式ID生成方式不强依赖于数据库,不会频繁的访问数据库,对数据库的压力小很多。
Redis也同样可以实现,原理就是利用redis的incr命令实现ID的原子性自增。
127.0.0.1:6379>setseq_id1//初始化自增ID为1OK127.0.0.1:6379>incrseq_id//增加1,并返回递增后的数值(integer)2
用redis实现需要注意一点,要考虑到redis持久化的问题。redis有两种持久化方式RDB和AOF
RDB会定时打一个快照进行持久化,假如连续自增但redis没及时持久化,而这会Redis挂掉了,重启Redis后会出现ID重复的情况。AOF会对每条写命令进行持久化,即使Redis挂掉了也不会出现ID重复的情况,但由于incr命令的特殊性,会导致Redis重启恢复的数据时间过长。雪花算法(Snowflake)是twitter公司内部分布式项目采用的ID生成算法,开源后广受国内大厂的好评,在该算法影响下各大公司相继开发出各具特色的分布式生成器。
以上图片源自网络,如有侵权联系删除
Snowflake生成的是Long类型的ID,一个Long类型占8个字节,每个字节占8比特,也就是说一个Long类型占64个比特。
SnowflakeID组成结构:正数位(占1比特)+时间戳(占41比特)+机器ID(占5比特)+数据中心(占5比特)+自增值(占12比特),总共64比特组成的一个Long类型。
第一个bit位(1bit):Java中long的最高位是符号位代表正负,正数是0,负数是1,一般生成ID都为正数,所以默认为0。时间戳部分(41bit):毫秒级的时间,不建议存当前时间戳,而是用(当前时间戳-固定开始时间戳)的差值,可以使产生的ID从更小的值开始;41位的时间戳可以使用69年,(1L<<41)/(1000L606024365)=69年工作机器id(10bit):也被叫做workId,这个可以灵活配置,机房或者机器号组合都可以。序列号部分(12bit),自增值支持同一毫秒内同一个节点可以生成4096个ID根据这个算法的逻辑,只需要将这个算法用Java语言实现出来,封装为一个工具方法,那么各个业务应用可以直接使用该工具方法来获取分布式ID,只需保证每个业务应用有自己的工作机器id即可,而不需要单独去搭建一个获取分布式ID的应用。
Java版本的Snowflake算法实现:
/***Twitter的SnowFlake算法,使用SnowFlake算法生成一个整数,然后转化为62进制变成一个短地址URL**https://github.com/beyondfengyu/SnowFlake*/publicclassSnowFlakeShortUrl{/***起始的时间戳*/privatefinalstaticlongSTART_TIMESTAMP=1480166465631L;/***每一部分占用的位数*/privatefinalstaticlongSEQUENCE_BIT=12;//序列号占用的位数privatefinalstaticlongMACHINE_BIT=5;//机器标识占用的位数privatefinalstaticlongDATA_CENTER_BIT=5;//数据中心占用的位数/***每一部分的最大值*/privatefinalstaticlongMAX_SEQUENCE=-1L^(-1L<MAX_DATA_CENTER_NUM||dataCenterId<0){thrownewIllegalArgumentException("DtaCenterIdcan'tbegreaterthanMAX_DATA_CENTER_NUMorlessthan0!");}if(machineId>MAX_MACHINE_NUM||machineId<0){thrownewIllegalArgumentException("MachineIdcan'tbegreaterthanMAX_MACHINE_NUMorlessthan0!");}this.dataCenterId=dataCenterId;this.machineId=machineId;}/***产生下一个ID**@return*/publicsynchronizedlongnextId(){longcurrTimeStamp=getNewTimeStamp();if(currTimeStamp
uid-generator是由百度技术部开发,项目GitHub地址https://github.com/baidu/uid-...
uid-generator是基于Snowflake算法实现的,与原始的snowflake算法不同在于,uid-generator支持自定义时间戳、工作机器ID和序列号等各部分的位数,而且uid-generator中采用用户自定义workId的生成策略。
uid-generator需要与数据库配合使用,需要新增一个WORKER_NODE表。当应用启动时会向数据库表中去插入一条数据,插入成功后返回的自增ID就是该机器的workId数据由host,port组成。
对于uid-generatorID组成结构:
workId,占用了22个bit位,时间占用了28个bit位,序列化占用了13个bit位,需要注意的是,和原始的snowflake不太一样,时间的单位是秒,而不是毫秒,workId也不一样,而且同一应用每次重启就会消费一个workId。
参考文献
https://github.com/baidu/uid-...
Leaf由美团开发,github地址:https://github.com/Meituan-Di...
Leaf同时支持号段模式和snowflake算法模式,可以切换使用。
先导入源码https://github.com/Meituan-Di...,在建一张表leaf_alloc
DROPTABLEIFEXISTS`leaf_alloc`;CREATETABLE`leaf_alloc`(`biz_tag`varchar(128)NOTNULLDEFAULT''COMMENT'业务key',`max_id`bigint(20)NOTNULLDEFAULT'1'COMMENT'当前已经分配了的最大id',`step`int(11)NOTNULLCOMMENT'初始步长,也是动态调整的最小步长',`description`varchar(256)DEFAULTNULLCOMMENT'业务key的描述',`update_time`timestampNOTNULLDEFAULTCURRENT_TIMESTAMPONUPDATECURRENT_TIMESTAMPCOMMENT'数据库维护的更新时间',PRIMARYKEY(`biz_tag`))ENGINE=InnoDB;
然后在项目中开启号段模式,配置对应的数据库信息,并关闭snowflake模式
leaf.name=com.sankuai.leaf.opensource.testleaf.segment.enable=trueleaf.jdbc.url=jdbc:mysql://localhost:3306/leaf_test?useUnicode=true&characterEncoding=utf8&characterSetResults=utf8leaf.jdbc.username=rootleaf.jdbc.password=rootleaf.snowflake.enable=false#leaf.snowflake.zk.address=#leaf.snowflake.port=
启动leaf-server模块的LeafServerApplication项目就跑起来了
号段模式获取分布式自增ID的测试url:http://localhost:8080/api/segment/get/leaf-segment-test
监控号段模式:http://localhost:8080/cache
Leaf的snowflake模式依赖于ZooKeeper,不同于原始snowflake算法也主要是在workId的生成上,Leaf中workId是基于ZooKeeper的顺序Id来生成的,每个应用在使用Leaf-snowflake时,启动时都会都在Zookeeper中生成一个顺序Id,相当于一台机器对应一个顺序节点,也就是一个workId。
leaf.snowflake.enable=trueleaf.snowflake.zk.address=127.0.0.1leaf.snowflake.port=2181
snowflake模式获取分布式自增ID的测试url:http://localhost:8080/api/snowflake/get/test
Tinyid由滴滴开发,Github地址:https://github.com/didi/tinyid。
Tinyid是基于号段模式原理实现的与Leaf如出一辙,每个服务获取一个号段(1000,2000]、(2000,3000]、(3000,4000]
Tinyid提供http和tinyid-client两种方式接入
(1)导入Tinyid源码:
gitclonehttps://github.com/didi/tinyi...
(2)创建数据表:
CREATETABLE`tiny_id_info`(`id`bigint(20)unsignedNOTNULLAUTO_INCREMENTCOMMENT'自增主键',`biz_type`varchar(63)NOTNULLDEFAULT''COMMENT'业务类型,唯一',`begin_id`bigint(20)NOTNULLDEFAULT'0'COMMENT'开始id,仅记录初始值,无其他含义。初始化时begin_id和max_id应相同',`max_id`bigint(20)NOTNULLDEFAULT'0'COMMENT'当前最大id',`step`int(11)DEFAULT'0'COMMENT'步长',`delta`int(11)NOTNULLDEFAULT'1'COMMENT'每次id增量',`remainder`int(11)NOTNULLDEFAULT'0'COMMENT'余数',`create_time`timestampNOTNULLDEFAULT'2010-01-0100:00:00'COMMENT'创建时间',`update_time`timestampNOTNULLDEFAULT'2010-01-0100:00:00'COMMENT'更新时间',`version`bigint(20)NOTNULLDEFAULT'0'COMMENT'版本号',PRIMARYKEY(`id`),UNIQUEKEY`uniq_biz_type`(`biz_type`))ENGINE=InnoDBAUTO_INCREMENT=1DEFAULTCHARSET=utf8COMMENT'id信息表';CREATETABLE`tiny_id_token`(`id`int(11)unsignedNOTNULLAUTO_INCREMENTCOMMENT'自增id',`token`varchar(255)NOTNULLDEFAULT''COMMENT'token',`biz_type`varchar(63)NOTNULLDEFAULT''COMMENT'此token可访问的业务类型标识',`remark`varchar(255)NOTNULLDEFAULT''COMMENT'备注',`create_time`timestampNOTNULLDEFAULT'2010-01-0100:00:00'COMMENT'创建时间',`update_time`timestampNOTNULLDEFAULT'2010-01-0100:00:00'COMMENT'更新时间',PRIMARYKEY(`id`))ENGINE=InnoDBAUTO_INCREMENT=1DEFAULTCHARSET=utf8COMMENT'token信息表';INSERTINTO`tiny_id_info`(`id`,`biz_type`,`begin_id`,`max_id`,`step`,`delta`,`remainder`,`create_time`,`update_time`,`version`)VALUES(1,'test',1,1,100000,1,0,'2018-07-2123:52:58','2018-07-2223:19:27',1);INSERTINTO`tiny_id_info`(`id`,`biz_type`,`begin_id`,`max_id`,`step`,`delta`,`remainder`,`create_time`,`update_time`,`version`)VALUES(2,'test_odd',1,1,100000,2,1,'2018-07-2123:52:58','2018-07-2300:39:24',3);INSERTINTO`tiny_id_token`(`id`,`token`,`biz_type`,`remark`,`create_time`,`update_time`)VALUES(1,'0f673adf80504e2eaa552f5d791b644c','test','1','2017-12-1416:36:46','2017-12-1416:36:48');INSERTINTO`tiny_id_token`(`id`,`token`,`biz_type`,`remark`,`create_time`,`update_time`)VALUES(2,'0f673adf80504e2eaa552f5d791b644c','test_odd','1','2017-12-1416:36:46','2017-12-1416:36:48');
(3)配置数据库:
datasource.tinyid.names=primarydatasource.tinyid.primary.driver-class-name=com.mysql.jdbc.Driverdatasource.tinyid.primary.url=jdbc:mysql://ip:port/databaseName?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8datasource.tinyid.primary.username=rootdatasource.tinyid.primary.password=123456
(4)启动tinyid-server后测试
获取分布式自增ID:http://localhost:9999/tinyid/id/nextIdSimple?bizType=test&token=0f673adf80504e2eaa552f5d791b644c'返回结果:3批量获取分布式自增ID:http://localhost:9999/tinyid/id/nextIdSimple?bizType=test&token=0f673adf80504e2eaa552f5d791b644c&batchSize=10'返回结果:4,5,6,7,8,9,10,11,12,13
重复Http方式的(2)(3)操作
引入依赖
com.xiaoju.uemc.tinyid tinyid-client ${tinyid.version}
配置文件
tinyid.server=localhost:9999tinyid.token=0f673adf80504e2eaa552f5d791b644c
test、tinyid.token是在数据库表中预先插入的数据,test是具体业务类型,tinyid.token表示可访问的业务类型
//获取单个分布式自增IDLongid=TinyId.nextId("test");//按需批量分布式自增IDListids=TinyId.nextId("test",10);
本文只是简单介绍一下每种分布式ID生成器,旨在给大家一个详细学习的方向,每种生成方式都有它自己的优缺点,具体如何使用还要看具体的业务需求。