博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spring-data-redis中JedisCluster不支持pipelined问题解决
阅读量:5882 次
发布时间:2019-06-19

本文共 3031 字,大约阅读时间需要 10 分钟。

引言

了解Jedis的童鞋可能清楚,Jedis中JedisCluster是不支持pipeline操作的,如果使用了redis集群,在spring-boot-starter-data-redis中又正好用到的pipeline,那么会接收到Pipeline is currently not supported for JedisClusterConnection.这样的报错。错误来自于org.springframework.data.redis.connection.jedis.JedisClusterConnection

/*     * (non-Javadoc)     * @see org.springframework.data.redis.connection.RedisConnection#openPipeline()     */    @Override    public void openPipeline() {        throw new UnsupportedOperationException("Pipeline is currently not supported for JedisClusterConnection.");    }

org.springframework.boot.autoconfigure.data.redis.RedisAutoConfiguration会帮我们自动配置,无论你redis使用的是standalone、sentinel、cluster配置。这个源码很容易理解,读者可自行阅读,不理解的可以一起讨论。

Lettuce中的pipeline

spring boot 2.0开始,配置spring-boot-starter-data-redis将不依赖Jedis,而是依赖Lettuce,在Lettuce中,redis cluster使用pipeline不会有问题。

知识储备

再往下看可能需要读者具备如下的能力:

  1. redis cluster hash slot
  2. JedisCluster & Jedis的关系
  3. pipeline和*mset等命令的区别

哈希槽(hash slot)

redis cluster一共有16384个桶(hash slot),用来装数据,建立集群的时候每个集群节点会负责一些slot的数据存储,比如我负责0-1000,你负责1001-2000,他负责2001-3000……

数据存储时,每个key在存入redis cluster前,会利用CRC16计算出一个值,这个值就是对应redis cluster的hash slot,就知道这个key会被放到哪个服务器上了。

参考文档:

JedisCluster & Jedis的关系

JedisCluster本质上是使用Jedis来和redis集群进行打交道的,具体过程是:

  1. 获取该key的slot值:JedisClusterCRC16.getSlot(key)
  2. JedisClusterConnectionHandler实例中获取到该slot对应的Jedis实例:Jedis connection = connectionHandler.getConnectionFromSlot(JedisClusterCRC16.getSlot(key));
  3. 利用connection操作。

pipeline和*mset等命令的区别

redis提供了mset,hmset之类的命令,或者说集合操作可以使用sadd key 1 2 3 4 5 6 ..... 10000000000这种一口气传一堆数据的命令。

有时候你甚至会发现*mset这种一口气操作一堆数据的速度更快。那么这种使用场景会有什么弊端呢?答案是:阻塞。
操作这一堆数据需要多久,就会阻塞多久。

Redis Cluster下pipeline使用的思考

由于JedisCluster中的所有操作本质上是使用Jedis,而Jedis是支持pipeline操作的,所有,要在redis cluster中使用pipeline是有可能的,只要你操作同一个键即可,准确的说,应该是你操作的键位于同一台服务器,更直白的,你操作的键是同一个Jedis实例。ok,如果你已经晕了,那你需要回看一下“知识储备”。

说说笔者的使用场景吧,我们是把csv文件的一批数据读到内存中,同一批数据是存储到同一个key中的,最后的操作会类似于:

set key member1set key member2set key member3...set key member100000

操作的是同一个key,可以利用JedisCluster获取到该key的Jedis实例,然后利用pipeline操作。

让spring-data-redis也支持pipeline的思路

提供一下代码思路。

RedisConnectionFactory factory = redisTemplate.getConnectionFactory();RedisConnection redisConnection = factory.getConnection();JedisClusterConnection jedisClusterConnection = (JedisClusterConnection) redisConnection;// 获取到原始到JedisCluster连接JedisCluster jedisCluster = jedisClusterConnection.getNativeConnection();// 通过key获取到具体的Jedis实例// 计算hash slot,根据特定的slot可以获取到特定的Jedis实例int slot = JedisClusterCRC16.getSlot(key);/** *  不建议这么使用,官方在2.10版本已经修复此问题
* 2.10版本中,官方会直接提供JedisCluster#getConnectionFromSlot */Field field = ReflectionUtils.findField(BinaryJedisCluster.class, null, JedisClusterConnectionHandler.class);field.setAccessible(true);JedisSlotBasedConnectionHandler jedisClusterConnectionHandler = (JedisSlotBasedConnectionHandler) field.get(jedisCluster);Jedis jedis = jedisClusterConnectionHandler.getConnectionFromSlot(slot);// 接下来就是pipeline操作了Pipeline pipeline = jedis.pipelined();...pipeline.syncAndReturnAll();

以上代码完全可以模仿spring-data-redis中RedisTemplate#executePipelined方法写成一个通用的方法,供使用者调用。

转载地址:http://kjvix.baihongyu.com/

你可能感兴趣的文章
怎么使用阿里云直播服务应用到现在主流直播平台中
查看>>
1000 加密算法
查看>>
exif_imagetype() 函数在linux下的php中不存在
查看>>
Ruby的case语句
查看>>
Linux的链接文件-ln命令
查看>>
maven的tomcat插件如何进行debug调试
查看>>
table表头固定
查看>>
截取字符串中两个字符串中的字符串
查看>>
spring xml properties split with comma for list
查看>>
判断点是否在三角形内
查看>>
Android实战简易教程-第二十三枪(基于Baas的用户注冊验证username是否反复功能!)...
查看>>
在odl中怎样实现rpc
查看>>
leetcode 110 Balanced Binary Tree
查看>>
项目开发总结
查看>>
知行合一
查看>>
jmeter插件之jsonpath提取响应结果和做断言
查看>>
发布支持多线程的PowerShell模块 —— MultiThreadTaskRunner
查看>>
Ubuntu ctrl+alt会导致窗口还原的问题
查看>>
第四十期百度技术沙龙笔记整理
查看>>
推荐系统那点事 —— 基于Spark MLlib的特征选择
查看>>