搬砖程序员带你飞

消息队列 NSQ 源码学习笔记 (五)

golang nsq messageQueue
字数统计: 1.6k阅读时长: 7 min
2019/09/12 Share

NSQ 的拓扑结构和生产消费端配置

单机模式部署

NSQD 是可以脱离 nsqlookup 做单机部署的。
由于 nsqd 足够轻量，可以把服务部署在消息发布的服务器上，加快 pub 消息的速度，也能兼顾消费端消息的分发

集群模式

NSQD 是一个SPOF的系统，每个服务可以独立部署。当采用集群模式时，建议开启nsqlookup服务，用于管理多个 nsqd 的服务

一般的消息队列都会提供rebalance 的功能，nsqd 是没有的。
不过可以通过nsq_to_nsq 做消息的复制，做服务的主备，当服务挂机后，可以切换到另外的服务器做消费。（中间channel 不会切换，因此可能会重复消费，或者丢一定消息）
nsqd 正常情况下，如果配置合理，消息是不会落地的。如果需要落地，可以使用nsq_to_file, 新建一个channel订阅 相关topic, 把消息落地到硬盘。

在集群模式下，可以部署多个 nsqlookupd 服务, 这些服务之间是互相没有依赖的，nsqd 在做消息广播的时候，会对每一个nsqlookupd的服务遍历一次，更新服务上的信息

生产

官方建议的生产方式，是通过 http 请求直接 pub 消息到nsq. 当然，大部分的nsq的客户端也实现了nsq 的消息发布功能

消费

消息队列的实现，一般都是推模型、拉模型或者推拉结合。在 nsq 中，是使用推模型，因此需要使用客户端来做消息的接收。
由于 nsq 消费的协议足够简单，也可以自行建立一个tcp 连接，做消息和连接的管理。

配置参数详解

nsqlookupd 配置

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
-broadcast-address string            nsqd, client 访问的地址
  	address of this lookupd node, (default to the OS hostname) (default "tempt463.ops.shbt.qihoo.net")
-http-address string                 http 监听
  	<addr>:<port> to listen on for HTTP clients (default "0.0.0.0:4161")
-tcp-address string                  tcp 监听
  	<addr>:<port> to listen on for TCP clients (default "0.0.0.0:4160")

-config string
  	path to config file

-log-level value
  	set log verbosity: debug, info, warn, error, or fatal (default INFO)
-log-prefix string
  	log message prefix (default "[nsqlookupd] ")

-inactive-producer-timeout duration
  	duration of time a producer will remain in the active list since its last ping (default 5m0s)
-tombstone-lifetime duration
  	duration of time a producer will remain tombstoned if registration remains (default 45s)

-version
  	print version string

nsqd 配置

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
-config string
  	path to config file
-data-path string
  	path to store disk-backed messages

-auth-http-address value             授权服务地址
  	<addr>:<port> to query auth server (may be given multiple times)

-lookupd-tcp-address value    nslookupd tcp 地址, 广播使用
  	lookupd TCP address (may be given multiple times)
-broadcast-address string     nslookupd 地址
  	address that will be registered with lookupd (defaults to the OS hostname) (default "tempt463.ops.shbt.qihoo.net")

-tcp-address string
  	<addr>:<port> to listen on for TCP clients (default "0.0.0.0:4150")

// http 服务
-http-address string
  	<addr>:<port> to listen on for HTTP clients (default "0.0.0.0:4151")
-http-client-connect-timeout duration
  	timeout for HTTP connect (default 2s)
-http-client-request-timeout duration
  	timeout for HTTP request (default 5s)

// https 服务
-https-address string
  	<addr>:<port> to listen on for HTTPS clients (default "0.0.0.0:4152")
-tls-cert string
  	path to certificate file
-tls-client-auth-policy string
  	client certificate auth policy ('require' or 'require-verify')
-tls-key string
  	path to key file
-tls-min-version value
  	minimum SSL/TLS version acceptable ('ssl3.0', 'tls1.0', 'tls1.1', or 'tls1.2') (default 769)
-tls-required
  	require TLS for client connections (true, false, tcp-https)
-tls-root-ca-file string
  	path to certificate authority file

// 日志
-log-level value
  	set log verbosity: debug, info, warn, error, or fatal (default INFO)
-log-prefix string
  	log message prefix (default "[nsqd] ")


-msg-timeout duration
  	default duration to wait before auto-requeing a message (default 1m0s)
-max-body-size int               命令消息体大小限制
  	maximum size of a single command body (default 5242880)
-max-msg-size int                单条消息限制
  	maximum size of a single message in bytes (default 1048576)
-max-msg-timeout duration        消息超时时间  touch 命令也不能超过该限制
  	maximum duration before a message will timeout (default 15m0s)
-node-id int                     snowflake 算法中，生成message 的一部分, 为保证消息的唯一性，多个nsqd 需要不同的nodeid
  	unique part for message IDs, (int) in range [0,1024) (default is hash of hostname) (default 781)

-max-rdy-count int               客户端可以批量处理的个数
  	maximum RDY count for a client (default 2500)
-max-req-timeout duration        延时消息，最大可延时时间， 默认不超过1h
  	maximum requeuing timeout for a message (default 1h0m0s)
-mem-queue-size int              内存队列大小
  	number of messages to keep in memory (per topic/channel) (default 10000)

-max-channel-consumers int       每个channel 最多有多少个消费者
  	maximum channel consumer connection count per nsqd instance (default 0, i.e., unlimited)
-max-heartbeat-interval duration 客户端的心跳, 默认间隔最大为1分钟
  	maximum client configurable duration of time between client heartbeats (default 1m0s)
-max-output-buffer-size int      输出最大buffer
  	maximum client configurable size (in bytes) for a client output buffer (default 65536)
-max-output-buffer-timeout duration 最大buffer 超时，如果时间超过，刷新到客户端
  	maximum client configurable duration of time between flushing to a client (default 30s)
-min-output-buffer-timeout duration 最小buffer 超时时间, 尽量减少高频词写客户端
  	minimum client configurable duration of time between flushing to a client (default 25ms)
-output-buffer-timeout duration  默认的客户端刷新时间， 可以通过 IDENTIFY 协议修改
  	default duration of time between flushing data to clients (default 250ms)

stats 相关
-statsd-address string
  	UDP <addr>:<port> of a statsd daemon for pushing stats
-statsd-interval duration
  	duration between pushing to statsd (default 1m0s)
-statsd-mem-stats
  	toggle sending memory and GC stats to statsd (default true)
-statsd-prefix string
  	prefix used for keys sent to statsd (%s for host replacement) (default "nsq.%s")
-statsd-udp-packet-size int
  	the size in bytes of statsd UDP packets (default 508)
-e2e-processing-latency-percentile value
  	message processing time percentiles (as float (0, 1.0]) to track (can be specified multiple times or comma separated '1.0,0.99,0.95', default none)
-e2e-processing-latency-window-time duration
  	calculate end to end latency quantiles for this duration of time (ie: 60s would only show quantile calculations from the past 60 seconds) (default 10m0s)

diskqueue 相关
-max-bytes-per-file int   // 磁盘队列单文件大小 默认 100M
  	number of bytes per diskqueue file before rolling (default 104857600)
-sync-every int           // 默认不超过 2500 个消息将刷一次盘
  	number of messages per diskqueue fsync (default 2500)
-sync-timeout duration    // 默认不超过 2s 将刷一次盘
  	duration of time per diskqueue fsync (default 2s)

消息压缩
-snappy
  	enable snappy feature negotiation (client compression) (default true)
-deflate
  	enable deflate feature negotiation (client compression) (default true)
-max-deflate-level int
  	max deflate compression level a client can negotiate (> values == > nsqd CPU usage) (default 6)

-version
  	print version string

总结

总体来说，nsq 的优势在于足够轻量级，消费速度够快，没有单点问题。但缺点也显而易见：消息是不保序的，并且无法做自动的reblance.

原文作者：lpflpf

原文链接：http://blog.lpflpf.cn/passages/nsqd-study-5/

发表日期：2019-09-12 11:08:31

更新日期：2021-01-11 14:41:06

版权声明：本文采用知识共享署名-非商业性使用 4.0 国际许可协议进行许可

CATALOG
  1. 1. 单机模式部署
  2. 2. 集群模式
  3. 3. 生产
  4. 4. 消费
  5. 5. 配置参数详解
    1. 5.1. nsqlookupd 配置
    2. 5.2. nsqd 配置
  6. 6. 总结
Total : 53
2021
2020
2019
2018
golang circuit-breaker id generator distribuation gin http router database query go build base structure benchmark container database/sql 设计模式 http map net noCopy profile reflect singleflight slice sync trace kafka Mysql Hint net/rpc nsq messageQueue nsqlookupd 消息队列 diskqueue array_merge PHP 开发 ctype函数簇 cycle life Request 处理 PHP Source Analysis singleton serialize / unserialize clone pika cache Python Excel Word win32com interview 服务管理 rate limiter
分布式 golang golang/php Message-Queue mysql php