944      阿里云  技术社区[云栖]

严格保序队列__最佳实践_消息服务-阿里云

问题背景

阿里云消息服务提供的队列（queue）主要特点是高可靠、高可用、高并发。每个队列的数据都会被持久化三份到阿里云的飞天分布式平台；其中每个队列至少有2台服务器向外提供服务；同时每台服务器都支持高并发访问。这些分布式特性，也导致了消息服务队列无法像传统单机队列那样保证严格的消息FIFO特点，只能做到基本有序。

我们的队列如果同时有多个消息发送者（sender），由于并发和网络延迟不一等问题，消息的严格顺序本身就是失去了意义，因为在这种情况下，我们根本无法获知消息在多个sender上的实际发送顺序和消息到达服务器端的真实顺序。同样的，当有多个接收者并发接收消息时，其真正的处理顺序也是不可获知的。

因此，我们认为只有一个发送者（一个进程，可以是多个线程）, 一个接收者时，消息顺序才有意义，也只有在这种情况下我们能够感知和记录消息的真实发送顺序和消息的真实接收顺序。

解决方案

基于上述假设，同时为了满足部分用户对于消息消费顺序性的要求，我们设计了下面的方案，确保消息按照用户发送顺序被接收和消费。

主要步骤：

1. 消息在发送端进行染色，加上SeqId（例如：#num#）

2. 消息在接收端进行还原，并根据SeqId 排序后返回给上层，同时对于已经receive的消息会有后台线程保证消息不会被重复消费。

3. 为了避免因为发送者fail，或者接收者fail，导致seqid 丢失。seqid 会被持久存储到本地磁盘文件。(当然也可以存储到其他存储或数据库：例如OSS，OTS，RDS)

程序说明

附件提供了python版的方案实现（依赖MNS Python SDK）。其中，主要提供了OrderedQueueWrapper 类（oredered_queue.py文件），可以将普通的mns queue包装成有序queue。

OrderedQueueWrapper 提供两个方法：SendMessageInOrder()和ReceiveMessageInOrder()。send中对消息进行染色，receive还原消息，并且按顺序返回给接收者。

另外，send_message_in_order.py和receive_message_in_order.py提供了发送者和接收者使用OrderedQueueWrapper的程序示例。

send_message_in_order.py：
    #init orderedQueue
    seqIdConfig = {"localFileName":"/tmp/mns_send_message_seq_id"}   # 指定持久化发送SeqId的磁盘文件。
    seqIdPS = LocalDiskStorage(seqIdConfig)
    orderedQueue = OrderedQueueWrapper(myQueue, sendSeqIdPersistStorage = seqIdPS)
    orderedQueue.SendMessageInOrder(message)
receive_message_in_order.py：
    #init orderedQueue
    seqIdConfig = {"localFileName":"/tmp/mns_receive_message_seq_id"} #指定持久化接收SeqId的磁盘文件
    seqIdPS = LocalDiskStorage(seqIdConfig)
    orderedQueue = OrderedQueueWrapper(myQueue, receiveSeqIdPersistStorage = seqIdPS)
    recv_msg = orderedQueue.ReceiveMessageInOrder(wait_seconds)