RabbitMQ消息隊列(四):分發到多Consumer(Publish/Subscribe)
上篇文章中,我們把每個Message都是deliver到某個Consumer。在這篇文章中,我們將會將同一個Message deliver到多個Consumer中。這個模式也被成為 "publish / subscribe"。
這篇文章中,我們將創建一個日誌係統,它包含兩個部分:第一個部分是發出log(Producer),第二個部分接收到並打印(Consumer)。 我們將構建兩個Consumer,第一個將log寫到物理磁盤上;第二個將log輸出的屏幕。
1. Exchanges
關於exchange的概念在《RabbitMQ消息隊列(一): Detailed Introduction 詳細介紹》中有詳細介紹。現在做一下簡單的回顧。
RabbitMQ 的Messaging Model就是Producer並不會直接發送Message到queue。實際上,Producer並不知道它發送的Message是否已經到達queue。
Producer發送的Message實際上是發到了Exchange中。它的功能也很簡單:從Producer接收Message,然後投遞到queue中。Exchange需要知道如何處理Message,是把它放到那個queue中,還是放到多個queue中?這個rule是通過Exchange 的類型定義的。

我們知道有三種類型的Exchange:direct, topic 和fanout。fanout就是廣播模式,會將所有的Message都放到它所知道的queue中。創建一個名字為logs,類型為fanout的Exchange:
channel.exchange_declare(exchange='logs', type='fanout')
Listing exchanges
通過rabbitmqctl可以列出當前所有的Exchange:
$ sudo rabbitmqctl list_exchanges Listing exchanges ... logs fanout amq.direct direct amq.topic topic amq.fanout fanout amq.headers headers ...done.
注意 amq.* exchanges 和the default (unnamed)exchange是RabbitMQ默認創建的。
現在我們可以通過exchange,而不是routing_key來publish Message了:
channel.basic_publish(exchange='logs', routing_key='', body=message)
2. Temporary queues
截至現在,我們用的queue都是有名字的:第一個是hello,第二個是task_queue。使用有名字的queue,使得在Producer和Consumer之前共享queue成為可能。
但是對於我們將要構建的日誌係統,並不需要有名字的queue。我們希望得到所有的log,而不是它們中間的一部分。而且我們隻對當前的log感興趣。為了實現這個目標,我們需要兩件事情:1) 每當Consumer連接時,我們需要一個新的,空的queue。因為我們不對老的log感興趣。幸運的是,如果在聲明queue時不指定名字,那麼RabbitMQ會隨機為我們選擇這個名字。方法:
result = channel.queue_declare()通過result.method.queue 可以取得queue的名字。基本上都是這個樣子:amq.gen-JzTY20BRgKO-HjmUJj0wLg。
2)當Consumer關閉連接時,這個queue要被deleted。可以加個exclusive的參數。方法:
result = channel.queue_declare(exclusive=True)
3. Bindings綁定

方法:
channel.queue_bind(exchange='logs', queue=result.method.queue)現在logs的exchange就將它的Message附加到我們創建的queue了。
Listing bindings
使用命令rabbitmqctl list_bindings。
4. 最終版本
我們最終實現的數據流圖如下:

Producer,在這裏就是產生log的program,基本上和前幾個都差不多。最主要的區別就是publish通過了exchange而不是routing_key。
emit_log.py script:
#!/usr/bin/env python import pika import sys connection = pika.BlockingConnection(pika.ConnectionParameters( host='localhost')) channel = connection.channel() channel.exchange_declare(exchange='logs', type='fanout') message = ' '.join(sys.argv[1:]) or "info: Hello World!" channel.basic_publish(exchange='logs', routing_key='', body=message) print " [x] Sent %r" % (message,) connection.close()
還有一點要注意的是我們聲明了exchange。publish到一個不存在的exchange是被禁止的。如果沒有queue bindings exchange的話,log是被丟棄的。
Consumer:receive_logs.py:
#!/usr/bin/env python import pika connection = pika.BlockingConnection(pika.ConnectionParameters( host='localhost')) channel = connection.channel() channel.exchange_declare(exchange='logs', type='fanout') result = channel.queue_declare(exclusive=True) queue_name = result.method.queue channel.queue_bind(exchange='logs', queue=queue_name) print ' [*] Waiting for logs. To exit press CTRL+C' def callback(ch, method, properties, body): print " [x] %r" % (body,) channel.basic_consume(callback, queue=queue_name, no_ack=True) channel.start_consuming()我們開始不是說需要兩個Consumer嗎?一個負責記錄到文件;一個負責打印到屏幕?
其實用重定向就可以了,當然你想修改callback自己寫文件也行。我們使用重定向的方法:
We're done. If you want to save logs to a file, just open a console and type:
$ python receive_logs.py > logs_from_rabbit.logConsumer2:打印到屏幕:
$ python receive_logs.py接下來,Producer:
$ python emit_log.py使用命令rabbitmqctl list_bindings你可以看我們創建的queue。
一個output:
$ sudo rabbitmqctl list_bindings Listing bindings ... logs exchange amq.gen-JzTY20BRgKO-HjmUJj0wLg queue [] logs exchange amq.gen-vso0PVvyiRIL2WoV3i48Yg queue [] ...done.這個結果還是很好理解的。
參考資料:
1. https://www.rabbitmq.com/tutorials/tutorial-three-python.html
最後更新:2017-04-03 12:55:12