• Stars
    star
    799
  • Rank 57,011 (Top 2 %)
  • Language
    C#
  • License
    MIT License
  • Created about 6 years ago
  • Updated 8 months ago

Reviews

There are no reviews yet. Be the first to send feedback to the community and the maintainers!

Repository Details

High performance redis client, support NETCore/. NET4. 0/. NET4. 5. It is specially optimized for big data and message queue. The average daily consumption of online single application is 10 billion. 高性能Redis客户端,支持.NETCore/.NET4.0/.NET4.5,为大数据与消息队列而特别优化,线上单应用日均100亿调用量

# NewLife.Redis - Redis客户端组件

GitHub top language GitHub License Nuget Downloads Nuget Nuget (with prereleases)

[English]

NewLife.Redis 是一个Redis客户端组件,以高性能处理大数据实时计算为目标。
Redis协议基础实现Redis/RedisClient位于X组件,本库为扩展实现,主要增加列表结构、哈希结构、队列等高级功能。

源码: https://github.com/NewLifeX/NewLife.Redis
Nuget:NewLife.Redis
教程:https://newlifex.com/core/redis


特性

  • 在ZTO大数据实时计算广泛应用,200多个Redis实例稳定工作一年多,每天处理近1亿包裹数据,日均调用量80亿次
  • 低延迟,Get/Set操作平均耗时200~600us(含往返网络通信)
  • 大吞吐,自带连接池,最大支持1000并发
  • 高性能,支持二进制序列化

Redis经验分享

  • 在Linux上多实例部署,实例个数等于处理器个数,各实例最大内存直接为本机物理内存,避免单个实例内存撑爆
  • 把海量数据(10亿+)根据key哈希(Crc16/Crc32)存放在多个实例上,读写性能成倍增长
  • 采用二进制序列化,而非常见Json序列化
  • 合理设计每一对Key的Value大小,包括但不限于使用批量获取,原则是让每次网络包控制在1.4k字节附近,减少通信次数
  • Redis客户端的Get/Set操作平均耗时200~600us(含往返网络通信),以此为参考评估网络环境和Redis客户端组件
  • 使用管道Pipeline合并一批命令
  • Redis的主要性能瓶颈是序列化、网络带宽和内存大小,滥用时处理器也会达到瓶颈
  • 其它可查优化技巧 以上经验,源自于300多个实例4T以上空间一年多稳定工作的经验,并按照重要程度排了先后顺序,可根据场景需要酌情采用!

基础 Redis

Redis实现标准协议以及基础字符串操作,完整实现由独立开源项目NewLife.Redis提供。
采取连接池加同步阻塞架构,具有超低延迟(200~600us)以及超高吞吐量的特点。
在物流行业大数据实时计算中广泛应有,经过日均100亿次调用量验证。

// 实例化Redis,默认端口6379可以省略,密码有两种写法
//var rds = new FullRedis("127.0.0.1", null, 7);
var rds = new FullRedis("127.0.0.1:6379", "pass", 7);
//var rds = new FullRedis();
//rds.Init("server=127.0.0.1:6379;password=pass;db=7");
rds.Log = XTrace.Log; // 调试日志。正式使用时注释

基本操作

在基本操作之前,我们先做一些准备工作:

  • 新建控制台项目,并在入口函数开头加上 XTrace.UseConsole(); ,这是为了方便查看调试日志
  • 具体测试代码之前,需要加上前面MemoryCache或Redis的实例化代码
  • 准备一个模型类User
class User
{
    public String Name { get; set; }
    public DateTime CreateTime { get; set; }
}

添删改查:

var rds = new FullRedis("127.0.0.1", null, 7);
var user = new User { Name = "NewLife", CreateTime = DateTime.Now };
rds.Set("user", user, 3600);
var user2 = rds.Get<User>("user");
XTrace.WriteLine("Json: {0}", user2.ToJson());
XTrace.WriteLine("Json: {0}", rds.Get<String>("user"));
if (rds.ContainsKey("user")) XTrace.WriteLine("存在!");
rds.Remove("user");

执行结果:

14:14:25.990  1 N - SELECT 7
14:14:25.992  1 N - => OK
14:14:26.008  1 N - SETEX user 3600 [53]
14:14:26.021  1 N - => OK
14:14:26.042  1 N - GET user
14:14:26.048  1 N - => [53]
14:14:26.064  1 N - GET user
14:14:26.065  1 N - => [53]
14:14:26.066  1 N - Json: {"Name":"NewLife","CreateTime":"2018-09-25 14:14:25"}
14:14:26.067  1 N - EXISTS user
14:14:26.068  1 N - => 1
14:14:26.068  1 N - 存在!
14:14:26.069  1 N - DEL user
14:14:26.070  1 N - => 1

保存复杂对象时,默认采用Json序列化,所以上面可以按字符串把结果取回来,发现正是Json字符串。
Redis的strings,实质上就是带有长度前缀的二进制数据,[53]表示一段53字节长度的二进制数据。

集合操作

GetAll/SetAll 在Redis上是很常用的批量操作,同时获取或设置多个key,一般有10倍以上吞吐量。

批量操作:

var rds = new FullRedis("127.0.0.1", null, 7);
var dic = new Dictionary<String, Object>
{
    ["name"] = "NewLife",
    ["time"] = DateTime.Now,
    ["count"] = 1234
};
rds.SetAll(dic, 120);

var vs = rds.GetAll<String>(dic.Keys);
XTrace.WriteLine(vs.Join(",", e => $"{e.Key}={e.Value}"));

执行结果:

MSET name NewLife time 2018-09-25 15:56:26 count 1234
=> OK
EXPIRE name 120
EXPIRE time 120
EXPIRE count 120
MGET name time count
name=NewLife,time=2018-09-25 15:56:26,count=1234

集合操作里面还有 GetList/GetDictionary/GetQueue/GetSet 四个类型集合,分别代表Redis的列表、哈希、队列、Set集合等。
基础版Redis不支持这四个集合,完整版NewLife.Redis支持,MemoryCache则直接支持。

高级操作

  • Add 添加,当key不存在时添加,已存在时返回false。
  • Replace 替换,替换已有值为新值,返回旧值。
  • Increment 累加,原子操作
  • Decrement 递减,原子操作

高级操作:

var rds = new FullRedis("127.0.0.1", null, 7);
var flag = rds.Add("count", 5678);
XTrace.WriteLine(flag ? "Add成功" : "Add失败");
var ori = rds.Replace("count", 777);
var count = rds.Get<Int32>("count");
XTrace.WriteLine("count由{0}替换为{1}", ori, count);

rds.Increment("count", 11);
var count2 = rds.Decrement("count", 10);
XTrace.WriteLine("count={0}", count2);

执行结果:

SETNX count 5678
=> 0
Add失败
GETSET count 777
=> 1234
GET count
=> 777
count由1234替换为777
INCRBY count 11
=> 788
DECRBY count 10
=> 778
count=778

性能测试

Bench 会分根据线程数分多组进行添删改压力测试。
rand 参数,是否随机产生key/value。
batch 批大小,分批执行读写操作,借助GetAll/SetAll进行优化。

Redis默认设置AutoPipeline=100,无分批时打开管道操作,对添删改优化。

Redis的兄弟姐妹

Redis实现ICache接口,它的孪生兄弟MemoryCache,内存缓存,千万级吞吐率。
各应用强烈建议使用ICache接口编码设计,小数据时使用MemoryCache实现;
数据增大(10万)以后,改用Redis实现,不需要修改业务代码。

新生命项目矩阵

各项目默认支持net7.0/netstandard2.1/netstandard2.0/net4.61,旧版(2022.1225)支持net4.5/net4.0/net2.0

项目 年份 说明
基础组件 支撑其它中间件以及产品项目
NewLife.Core 2002 核心库,日志、配置、缓存、网络、序列化、APM性能追踪
NewLife.XCode 2005 大数据中间件,单表百亿级,MySql/SQLite/SqlServer/Oracle/TDengine/达梦,自动分表
NewLife.Net 2005 网络库,单机千万级吞吐率(2266万tps),单机百万级连接(400万Tcp)
NewLife.Remoting 2011 RPC通信框架,内网高吞吐或物联网硬件设备场景
NewLife.Cube 2010 魔方快速开发平台,集成了用户权限、SSO登录、OAuth服务端等,单表100亿级项目验证
NewLife.Agent 2008 服务管理组件,把应用安装成为操作系统守护进程,Windows服务、Linux的Systemd
NewLife.Zero 2020 Zero零代脚手架,基于NewLife组件生态的项目模板,Web、WebApi、Service
中间件 对接知名中间件平台
NewLife.Redis 2017 Redis客户端,微秒级延迟,百万级吞吐,丰富的消息队列,百亿级数据量项目验证
NewLife.RocketMQ 2018 RocketMQ纯托管客户端,支持Apache RocketMQ和阿里云消息队列,十亿级项目验
NewLife.MQTT 2019 物联网消息协议,MqttClient/MqttServer,客户端支持阿里云物联网
NewLife.IoT 2022 IoT标准库,定义物联网领域的各种通信协议标准规范
NewLife.Modbus 2022 ModbusTcp/ModbusRTU/ModbusASCII,基于IoT标准库实现,支持IoT平台和IoTEdge
NewLife.Siemens 2022 西门子PLC协议,基于IoT标准库实现,支持IoT平台和IoTEdge
NewLife.Map 2022 地图组件库,封装百度地图、高德地图和腾讯地图
NewLife.IP 2022 IP地址库,IP地址转物理地址
产品平台 产品平台级,编译部署即用,个性化自定义
AntJob 2019 蚂蚁调度,分布式大数据计算平台(实时/离线),蚂蚁搬家分片思想,万亿级数据量项目验证
Stardust 2018 星尘,分布式服务平台,节点管理、APM监控中心、配置中心、注册中心、发布中心
NewLife.ERP 2021 企业ERP,产品管理、客户管理、销售管理、供应商管理
CrazyCoder 2006 码神工具,众多开发者工具,网络、串口、加解密、正则表达式、Modbus
XProxy 2005 产品级反向代理,NAT代理、Http代理
HttpMeter 2022 Http压力测试工具
GitCandy 2015 Git源代码管理系统
SmartOS 2014 嵌入式操作系统,完全独立自主,支持ARM Cortex-M芯片架构
SmartA2 2019 嵌入式工业计算机,物联网边缘网关,高性能.NET6主机,应用于工业、农业、交通、医疗
菲凡物联FIoT 2020 物联网整体解决方案,建筑、环保、农业,软硬件及大数据分析一体化,单机十万级点位项目验证
NewLife.UWB 2020 厘米级(10~20cm)高精度室内定位,软硬件一体化,与其它系统联动,大型展厅项目验证

新生命开发团队

XCode

新生命团队(NewLife)成立于2002年,是新时代物联网行业解决方案提供者,致力于提供软硬件应用方案咨询、系统架构规划与开发服务。
团队主导的开源NewLife系列组件已被广泛应用于各行业,Nuget累计下载量高达60余万次。
团队开发的大数据核心组件NewLife.XCode、蚂蚁调度计算平台AntJob、星尘分布式平台Stardust、缓存队列组件NewLife.Redis以及物联网平台NewLife.IoT,均成功应用于电力、高校、互联网、电信、交通、物流、工控、医疗、文博等行业,为客户提供了大量先进、可靠、安全、高质量、易扩展的产品和系统集成服务。

我们将不断通过服务的持续改进,成为客户长期信赖的合作伙伴,通过不断的创新和发展,成为国内优秀的IT服务供应商。

新生命团队始于2002年,部分开源项目具有20年以上漫长历史,源码库保留有2010年以来所有修改记录
网站:https://newlifex.com
开源:https://github.com/newlifex
QQ群:1600800/1600838
微信公众号:
智能大石头

More Repositories

1

X

Core basic components: log (file / network), configuration (XML / JSON / HTTP), cache (memory / redis), network (TCP / UDP / HTTP), RPC framework, serialization (binary / XML / JSON), APM performance tracking. 核心基础组件,日志(文件/网络)、配置(XML/Json/Http)、缓存(内存/Redis)、网络(Tcp/Udp/Http)、RPC框架、序列化(Binary/XML/Json)、APM性能追踪。
C#
1,707
star
2

NewLife.Cube

Web快速开发平台,搭建管理后台,灵活可扩展!内部集成了用户权限管理、模板继承、SSO登录、OAuth服务端、数据导出与分享等多个功能模块,在真实项目中经历过单表100亿数据添删改查的考验。
JavaScript
604
star
3

AntJob

分布式任务调度系统,纯NET打造的重量级大数据实时计算平台,万亿级调度经验积累!面向中小企业大数据分析场景。
C#
390
star
4

NewLife.Net

单机吞吐2266万tps的网络通信框架
C#
296
star
5

Stardust

星尘,轻量级分布式服务框架。配置中心、集群管理、远程自动发布、服务治理。服务自动注册和发现,负载均衡,动态伸缩,故障转移,性能监控。
C#
292
star
6

XCoder

新生命码神工具,代码生成、网络工具、API工具、串口工具、正则工具、图标工具、加解密工具、地图接口。
C#
291
star
7

NewLife.RocketMQ

纯托管轻量级RocketMQ客户端,支持发布消息、消费消息、负载均衡等核心功能!
C#
205
star
8

NewLife.MQTT

最流行的物联网通信协议MQTT,包括客户端、服务端和Web管理平台
C#
126
star
9

XProxy

XProxy是一个代理服务器,内置有NAT、反向代理、直接代理、间接代理等。
C#
108
star
10

XScript

C#脚本引擎
C#
73
star
11

NewLife.Zero

零代,项目脚手架,包括Web应用、WebApi接口、微服务、控制台、定时调度任务、大数据计算、物联网等项目模板
C#
67
star
12

XLink

菲凡物联网云平台,提供物联网硬件设备接入和用户指令转发等核心功能
C#
62
star
13

NewLife.XCode

数据中间件,支持MySQL、SQLite、SqlServer、Oracle、Postgresql、TDengine、达梦,重点在缓存、性能、分表、自动建表。
C#
58
star
14

XDoc

新生命X组件 文档中心
JavaScript
51
star
15

LeafBrowser

叶子浏览器,基于Cef,访问网页时自动抓取结构化xhr数据
C#
50
star
16

BBX

ASP.Net 4.5 论坛源码,支持多数据库
C#
49
star
17

GitCandy

一个基于ASP.NET MVC的git服务端。QQ群:1600800/200319579
JavaScript
43
star
18

SmartOS

物联网嵌入式操作系统,完全基于C++11,协作式调度
C++
42
star
19

NoDb

百万级KV数据库,基于内存映射文件的持久化读写
C#
35
star
20

NewLife.CMX

新生命内容管理系统,基于魔方NewLife.Cube
JavaScript
34
star
21

NewLife.Cache

轻量级缓存服务器,定位于高吞吐(千万级)和低延迟(微秒级)
C#
34
star
22

NewLife.Agent

应用程序注册为系统服务,支持Windows/Linux
C#
32
star
23

comcms

COMCMS_Core 版本
JavaScript
30
star
24

NewLife.MQ

轻量级消息队列,无延迟分发,支持消费组和消息去重,不支持集群部署
C#
24
star
25

X_NET40

新生命X组件.Net4.0版本,数据中间件XCode、日志、网络、RPC、序列化、缓存、Windows服务、码神工具、魔方(Web权限系统)
C#
24
star
26

NewLife.OA

办公自动化,项目管理,任务管理,基于魔方NewLife.Cube
C#
22
star
27

NewLife.IoT

IoT standard library, which defines various communication protocol standards and specifications in the Internet of Things field, without specific implementation. Used for IoT platform construction and unifying various hardware driver protocols. IoT标准库,定义物联网领域的各种通信协议标准规范,不含具体实现。主要用于IoT平台建设,以及统一各种硬件驱动协议。
C#
22
star
28

XTemplate

C#模版引擎,代码生成,Web生成
C#
21
star
29

NewLife.LoRa

超低功耗的物联网通信协议LoRaWAN
C#
20
star
30

NewLife.Ftp

FTP组件,支持fx/mono/netcore
C#
20
star
31

NewLife.ERP

新生命ERP系统平台,全新开始
C#
19
star
32

XAgent

Windows服务代理
C#
19
star
33

NewLife.DNS

新生命DNS代理服务器
C#
18
star
34

NewLife.Modbus

MODBUS协议, ModbusRTU/ModbusTcp/ModbusUdp/ModbusASCII/ModbusRTUOverTcp/ModbusRTUOverUdp
C#
18
star
35

NewLife.MySql

轻量级高性能MySql驱动
C#
15
star
36

FeiXian

天外飞仙!数据库、网络性能测试。
C#
14
star
37

IDACSharp

IDA的C#脚本插件
C#
13
star
38

NewLife.Hive

纯托管读写Hive,通过Thrift实现协议
C#
12
star
39

XControl

WebForm控件库
C#
12
star
40

NewLife.IP

IP地址库,IP地址转物理地址
C#
11
star
41

NewLife.Yuque

语雀SDK,.NET版
HTML
10
star
42

EasyIO

EasyIO简单文件存储,在分布式系统架构中支持集中存储文件。只有几个webapi接口:put/get/geturl/delete/search。sdk只有一个 EasyClient。
C#
10
star
43

NewLife.Siemens

西门子PLC协议
C#
9
star
44

ZeroIoT

轻量级IoT解决方案,IoT网关通过HTTP/MQTT接入IoT平台,提供数据采集和远程控制功能。IoT平台仅包含必要接口,架构简单清晰,面向小型物联网项目。
C#
9
star
45

NewLife.Thrift

通过Thrift实现目标协议
C#
8
star
46

NewLife.Redis.Core

NewLife.Redis的封装,支持.NETCore3/.NET5/6/7/8
C#
8
star
47

CubeDemo

魔方示例站点
C#
8
star
48

NewLife.OPC

OPC协议驱动,用于过程控制和制造业自动化系统
C#
7
star
49

X_NET20

X组件的.Net 2.0版本源码
C#
7
star
50

NewLife.CubeBlazor

魔方Blazor版
C#
7
star
51

NewLife.QuickVue

Vue版魔方前端
Vue
6
star
52

NewLife.CubeVue

魔方Vue版
Vue
6
star
53

NewLife.Remoting

RPC远程过程调用,二进制封装,提供高吞吐低延迟的高性能RPC框架
C#
6
star
54

SmartA2

A2工控机驱动程序、用户示例程序
C#
5
star
55

SmartA4

A4工控机驱动程序、用户示例程序
C#
5
star
56

NewLife.Omron

欧姆龙PLC协议
C#
4
star
57

microCLib

面向单片机,微型C库函数。封装一些常用功能。最少依赖其他库函数。 与RTOS无关。
C
4
star
58

NewLife.Kafka

C#
4
star
59

NewLife.Map

地图组件库,封装百度地图、高德地图和腾讯地图
C#
4
star
60

NewLife.PC

符合IoT标准库的PC驱动,采集CPU、内存、网络等数据,提供语音播报和重启等服务。
C#
3
star
61

HttpMeter

Http压力测试工具套装
C#
3
star
62

newlifex.github.io

文档
HTML
3
star
63

NewLife.NetPing

IoT驱动,通过Ping探测到目标设备的网络情况,并收集延迟数据
C#
3
star
64

StarNet

星网计划,让众多星星节点连结到一起,形成一张统一对外的网络。
C#
3
star
65

NewLife.BACnet

BACnet楼宇自动化
C#
3
star
66

NewLife.Schneider

施耐德PLC
C#
2
star
67

NewLife.Panasonic

松下PLC协议
C#
2
star
68

GitSync

Git代码库同步,保持本地代码库到多个远程库之间的同步
C#
2
star
69

NewLife.Audio

音频编解码库,PCM/ADPCMA/G711A/G722U/WAV/AAC
C#
2
star
70

NewLife.Keyence

基恩士PLC协议
C#
1
star
71

NewLife.CubeAntd

Antd版魔方
TypeScript
1
star
72

LuckyClover

幸运四叶草,无依赖编译为linux-arm/linux-x86/windows,用于自动安装主流.NET运行时。
C++
1
star
73

NewLife.Fuji

富士PLC协议
C#
1
star