温州做公众号和做网站的地方,个人备案网站,大型网站建设公司有哪些,湖南城乡建设网站需求说明在过去单机系统中#xff0c;生成唯一ID比较简单#xff0c;可以使用MySQL的自增主键或者Oracle中的sequence, 在现在的大型高并发分布式系统中#xff0c;以上策略就会有问题了#xff0c;因为不同的数据库会部署到不同的机器上#xff0c;一般都是多主实例…需求说明在过去单机系统中生成唯一ID比较简单可以使用MySQL的自增主键或者Oracle中的sequence, 在现在的大型高并发分布式系统中以上策略就会有问题了因为不同的数据库会部署到不同的机器上一般都是多主实例而且再加上高并发的话就会有重复ID的情况了。至于为什么会有重复就不多说了技术人员都懂的。本文讲述的案例不仅仅局限于数据库中的ID主键生产也可以适用于其他分布式环境中的唯一标示比如全局唯一事务ID日志追踪时的唯一标示等。先列出笔者最喜欢的一种全局唯一ID的生成方式注意没有完美的方案只有适合自己的方案还请读者根据具体的业务进行取舍而且可以放到客户端进行ID 的生成没有单点故障性能也有一定保证而且不需要独立的服务器。全数字全局唯一标识(来自于mongodb)其实现在有很多种生成策略也各有优缺点使用场景不同。这里说的是一种全数字的全局唯一ID为什么我比较喜欢呢首先它是全数字保存和计算都比较简单(想一下MySQL数据库中对数字和字符串的处理效率)而且从这个ID中可以得到一些额外的信息不想一些UUID、sha等字符串对我们几乎没有太大帮助。好了下面就说一下具体实现过程。ObjectId使用12字节的存储空间每个字节存两位16进制数字是一个24位的字符串。其生成方式如下12位生成规则[0,1,2,3] [4,5,6] [7,8] [9,10,11]时间戳 |机器码 |PID |计数器前四个字节时间戳是从标准纪元开始的时间戳单位为秒有如下特性时间戳与后边5个字节一块保证秒级别的唯一性保证插入顺序大致按时间排序隐含了文档创建时间时间戳的实际值并不重要不需要对服务器之间的时间进行同步(因为加上机器ID和进程ID已保证此值唯一唯一性是ObjectId的最终诉求)。上面牵扯到两个分布式系统中的概念分布式系统中全局时钟同步很难基本不可能实现也没必要时序一致性(顺序性)无法保证。这不属于本文范畴感兴趣读者请自行搜索。机器ID是服务器主机标识通常是机器主机名的hash散列值。同一台机器上可以运行多个mongod实例因此也需要加入进程标识符PID。前9个字节保证了同一秒钟不同机器不同进程产生的ObjectId的唯一性。后三个字节是一个自动增加的计数器(一个mongod进程需要一个全局的计数器)保证同一秒的ObjectId是唯一的。同一秒钟最多允许每个进程拥有(256^3 16777216)个不同的ObjectId。总结一下时间戳保证秒级唯一机器ID保证设计时考虑分布式避免时钟同步PID保证同一台服务器运行多个mongod实例时的唯一性最后的计数器保证同一秒内的唯一性(选用几个字节既要考虑存储的经济性也要考虑并发性能的上限)。改为全数字上面mongodb中保存的是16进制如果不想用16进制的话可以修改为10进制保存只不过占用空间会大一些。后面的计数器留几位具体就看你们的业务量了设计的时候要预留出以后的业务增长量。单进程内的计数器可以使用atomicInteger。UUIDUUID生成的是length32的16进制格式的字符串如果回退为byte数组共16个byte元素即UUID是一个128bit长的数字一般用16进制表示。算法的核心思想是结合机器的网卡、当地时间、一个随即数来生成UUID。从理论上讲如果一台机器每秒产生10000000个GUID则可以保证(概率意义上)3240年不重复优点(1)本地生成ID不需要进行远程调用时延低(2)扩展性好基本可以认为没有性能上限缺点(1)无法保证趋势递增(2)uuid过长往往用字符串表示作为主键建立索引查询效率低常见优化方案为“转化为两个uint64整数存储”或者“折半存储”(折半后不能保证唯一性)注以下这几种需要独立的服务器来自Flicker的解决方案(依赖数据库)因为MySQL本身支持auto_increment操作很自然地我们会想到借助这个特性来实现这个功能。Flicker在解决全局ID生成方案里就采用了MySQL自增长ID的机制(auto_increment replace into MyISAM)。一个生成64位ID方案具体就是这样的先创建单独的数据库(eg:ticket)然后创建一个表CREATE TABLE Tickets64 (id bigint(20) unsigned NOT NULL auto_increment,stub char(1) NOT NULL default ,PRIMARY KEY (id),UNIQUE KEY stub (stub)) ENGINEMyISAM123456123456当我们插入记录后执行SELECT * from Tickets64查询结果就是这样的-------------------------| id | stub |-------------------------| 72157623227190423 | a |-------------------------在我们的应用端需要做下面这两个操作在一个事务会话里提交REPLACEINTOTickets64 (stub)VALUES(a);SELECTLAST_INSERT_ID();1212这样我们就能拿到不断增长且不重复的ID了。到上面为止我们只是在单台数据库上生成ID从高可用角度考虑接下来就要解决单点故障问题Flicker启用了两台数据库服务器来生成ID通过区分auto_increment的起始值和步长来生成奇偶数的ID。TicketServer1:auto-increment-increment 2auto-increment-offset 1TicketServer2:auto-increment-increment 2auto-increment-offset 212345671234567最后在客户端只需要通过轮询方式取ID就可以了。优点充分借助数据库的自增ID机制提供高可靠性生成的ID有序。缺点占用两个独立的MySQL实例有些浪费资源成本较高。在服务器变更的时候要修改步长比较麻烦。基于redis的分布式ID生成器首先要知道Redis的EVALEVALSHA命令原理利用redis的lua脚本执行功能在每个节点上通过lua脚本生成唯一ID。生成的ID是64位的使用41 bit来存放时间精确到毫秒可以使用41年。使用12 bit来存放逻辑分片ID最大分片ID是4095使用10 bit来存放自增长ID意味着每个节点每毫秒最多可以生成1024个ID比如GTM时间 Fri Mar 13 10:00:00 CST 2015 它的距1970年的毫秒数是 1426212000000假定分片ID是53自增长序列是4则生成的ID是5981966696448054276 1426212000000 22 53 10 41redis提供了TIME命令可以取得redis服务器上的秒数和微秒数。因些lua脚本返回的是一个四元组。second, microSecond, partition, seq客户端要自己处理生成最终ID。((second * 1000 microSecond / 1000) (12 10)) (shardId 10) seq;
