博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
redis学习笔记之pipeline
阅读量:4947 次
发布时间:2019-06-11

本文共 5047 字,大约阅读时间需要 16 分钟。

redis是一个cs模式的tcp server,使用和http类似的请求响应协议。一个client可以通过一个socket连接发起多个请求命令。每个请求命令发出后client通常 会阻塞并等待redis服务处理,redis处理完后请求命令后会将结果通过响应报文返回给client。基本的通信过程如下

Client: INCR X
Server: 1
Client: INCR X
Server: 2
Client: INCR X
Server: 3
Client: INCR X
Server: 4
基 本上四个命令需要8个tcp报文才能完成。由于通信会有网络延迟,假如从client和server之间的包传输时间需要0.125秒。那么上面的四个命 令8个报文至少会需要1秒才能完成。这样即使redis每秒能处理100个命令,而我们的client也只能一秒钟发出四个命令。这显示没有充分利用 redis的处理能力。除了可以利用mget,mset 之类的单条命令处理多个key的命令外
我们还可以利用pipeline的方式从client打包多条命令一起发出,不需要等待单条命令的响应返回,而redis服务端会处理完多条命令后会将多条命令的处理结果打包到一起返回给客户端。通信过程如下
Client: INCR X
Client: INCR X
Client: INCR X
Client: INCR X
Server: 1
Server: 2
Server: 3
Server: 4
假 设不会因为tcp 报文过长而被拆分。可能两个tcp报文就能完成四条命令,client可以将四个incr命令放到一个tcp报文一起发送,server则可以将四条命令 的处理结果放到一个tcp报文返回。通过pipeline方式当有大批量的操作时候。我们可以节省很多原来浪费在网络延迟的时间。需要注意到是用 pipeline方式打包命令发送,redis必须在处理完所有命令前先缓存起所有命令的处理结果。打包的命令越多,缓存消耗内存也越多。所以并是不是打 包的命令越多越好。具体多少合适需要根据具体情况测试。下面是个jredis客户端使用pipeline的测试
package jredisStudy;
import org.jredis.JRedis;
import org.jredis.connector.ConnectionSpec;
import org.jredis.ri.alphazero.JRedisClient;
import org.jredis.ri.alphazero.JRedisPipelineService;
import org.jredis.ri.alphazero.connection.DefaultConnectionSpec;
public class PipeLineTest {
    public static void main(String[] args) {
          long start = System.currentTimeMillis();
          usePipeline();
          long end = System.currentTimeMillis();
          System.out.println(end-start);
          start =  System.currentTimeMillis();
          withoutPipeline();
          end  = System.currentTimeMillis();
          System.out.println(end-start);
  
    }
    
    private static void withoutPipeline()
    {
         try { 
             JRedis  jredis = new JRedisClient("192.168.56.55",6379);
                for(int i =0 ; i < 100000 ; i++)
                {
                    jredis.incr("test2");
                }
                jredis.quit();
        } catch (Exception e) {
        }
    }
    private static void usePipeline() {
        try {
            ConnectionSpec spec = DefaultConnectionSpec.newSpec("192.168.56.55", 6379, 0, null);
            JRedis jredis = new JRedisPipelineService(spec);
            for(int i =0 ; i < 100000 ; i++)
            {
                jredis.incr("test2");
            }
            jredis.quit();
        } catch (Exception e) {
        }
    }
}
输出
103408 //使用了pipeline
104598 //没有使用
测试结果不是很明显,这应该是跟我的测试环境有关。我是在自己win连接虚拟机的linux。网络延迟比较小。所以pipeline
优势不明显。如果网络延迟小的话,最好还是不用pipeline。除了增加复杂外,带来的性能提升不明显。

 

=================

一般情况下,Redis Client端发出一个请求后,通常会阻塞并等待Redis服务端处理,Redis服务端处理完后请求命令后会将结果通过响应报文返回给Client。

这有点类似于HBase的Scan,通常是Client端获取每一条记录都是一次RPC调用服务端。
在Redis中,有没有类似HBase Scanner Caching的东西呢,一次请求,返回多条记录呢?
有,这就是Pipline。官方介绍 

通过pipeline方式当有大批量的操作时候,我们可以节省很多原来浪费在网络延迟的时间,需要注意到是用pipeline方式打包命令发送,redis必须在处理完所有命令前先缓存起所有命令的处理结果。打包的命令越多,缓存消耗内存也越多。所以并不是打包的命令越多越好。

使用Pipeline在对Redis批量读写的时候,性能上有非常大的提升。

使用Java测试了一下:

  1. package com.lxw1234.redis;
  2.  
  3. import java.util.HashMap;
  4. import java.util.Map;
  5. import java.util.Set;
  6.  
  7. import redis.clients.jedis.Jedis;
  8. import redis.clients.jedis.Pipeline;
  9. import redis.clients.jedis.Response;
  10.  
  11.  
  12. public class Test {
  13. public static void main(String[] args) throws Exception {
  14. Jedis redis = new Jedis("127.0.0.1", 6379, 400000);
  15. Map<String,String> data = new HashMap<String,String>();
  16. redis.select(8);
  17. redis.flushDB();
  18. //hmset
  19. long start = System.currentTimeMillis();
  20. //直接hmset
  21. for (int i=0;i<10000;i++) {
  22. data.clear();
  23. data.put("k_" + i, "v_" + i);
  24. redis.hmset("key_" + i, data);
  25. }
  26. long end = System.currentTimeMillis();
  27. System.out.println("dbsize:[" + redis.dbSize() + "] .. ");
  28. System.out.println("hmset without pipeline used [" + (end - start) / 1000 + "] seconds ..");
  29. redis.select(8);
  30. redis.flushDB();
  31. //使用pipeline hmset
  32. Pipeline p = redis.pipelined();
  33. start = System.currentTimeMillis();
  34. for (int i=0;i<10000;i++) {
  35. data.clear();
  36. data.put("k_" + i, "v_" + i);
  37. p.hmset("key_" + i, data);
  38. }
  39. p.sync();
  40. end = System.currentTimeMillis();
  41. System.out.println("dbsize:[" + redis.dbSize() + "] .. ");
  42. System.out.println("hmset with pipeline used [" + (end - start) / 1000 + "] seconds ..");
  43. //hmget
  44. Set keys = redis.keys("*");
  45. //直接使用Jedis hgetall
  46. start = System.currentTimeMillis();
  47. Map<String,Map<String,String>> result = new HashMap<String,Map<String,String>>();
  48. for(String key : keys) {
  49. result.put(key, redis.hgetAll(key));
  50. }
  51. end = System.currentTimeMillis();
  52. System.out.println("result size:[" + result.size() + "] ..");
  53. System.out.println("hgetAll without pipeline used [" + (end - start) / 1000 + "] seconds ..");
  54. //使用pipeline hgetall
  55. Map<String,Response<Map<String,String>>> responses = new HashMap<String,Response<Map<String,String>>>(keys.size());
  56. result.clear();
  57. start = System.currentTimeMillis();
  58. for(String key : keys) {
  59. responses.put(key, p.hgetAll(key));
  60. }
  61. p.sync();
  62. for(String k : responses.keySet()) {
  63. result.put(k, responses.get(k).get());
  64. }
  65. end = System.currentTimeMillis();
  66. System.out.println("result size:[" + result.size() + "] ..");
  67. System.out.println("hgetAll with pipeline used [" + (end - start) / 1000 + "] seconds ..");
  68. redis.disconnect();
  69. }
  70. }
  71.  
    1. dbsize:[10000] ..
    2. hmset without pipeline used [243] seconds ..
    3. dbsize:[10000] ..
    4. hmset with pipeline used [0] seconds ..
    5. result size:[10000] ..
    6. hgetAll without pipeline used [243] seconds ..
    7. result size:[10000] ..
    8. hgetAll with pipeline used [0] seconds ..

    使用pipeline来批量读写10000条记录,就是小菜一碟,秒完。

转载于:https://www.cnblogs.com/duanxz/p/4702790.html

你可能感兴趣的文章
hdu1398
查看>>
[android] 网络断开的监听
查看>>
156.Binary Tree Upside Down
查看>>
MongoDB在windows下安装配置
查看>>
Upselling promotion stored procedure
查看>>
mysql编码配置
查看>>
KVM地址翻译流程及EPT页表的建立过程
查看>>
sigar
查看>>
iOS7自定义statusbar和navigationbar的若干问题
查看>>
c++ 网络编程(一)TCP/UDP windows/linux 下入门级socket通信 客户端与服务端交互代码...
查看>>
程序员如何提高影响力:手把手教你塑造个人品牌
查看>>
身份证校验原理和PHP实现
查看>>
[Locked] Wiggle Sort
查看>>
deque
查看>>
计算机
查看>>
Ext JS学习第十三天 Ext基础之 Ext.Element
查看>>
python--迭代器与生成器
查看>>
SQL之case when then用法详解
查看>>
STL 排序函数
查看>>
Microsoft Dynamics CRM 2011 面向Internet部署 (IFD) ADFS虚拟机环境搭建的步骤(CRM与ADFS装在同一台服务器上) 摘自网络...
查看>>