Work

Efficient data replication for large-scale systems

Year: 2026
Type: dissertation
Abstract: Sistemas de larga escala replicam dados por muitas máquinas para se manterem disponíveis, mas falhas e partições de rede fazem com que as réplicas divirjam entre si.Trazê-las de novo a um estado de concordância é a tarefa da reconciliação, que precisa de se manter eficiente mesmo quando o número de diferenças entre réplicas é elevado.Esta dissertação estuda como reconciliar réplicas divergentes de forma eficiente e em escala sob consistência eventual, avaliando e fornecendo discussões técnicas sobre as diferentes formas de o conseguir em termos de bytes transmitidos, duração de ronda, tempo de CPU e pico de memória.O primeiro contributo é uma biblioteca modular e extensível de armazenamento chave-valor escrita em Rust, denominada Leopard.Expõe uma abstração de alto nível para construir armazenamentos chave-valor distribuídos através de uma linguagem de domínio específico interna, permitindo a um utilizador instanciar nós e associar-lhes protocolos sem necessitar de compreender o funcionamento interno da biblioteca.Funcionalidades como membership, replicação e reconciliação são adicionadas a um nó através de um vetor de protocolos, em vez de estarem integradas no próprio nó, o que mantém o desenho flexível e torna qualquer novo algoritmo simples de acoplar e comparar com um armazenamento funcional.O segundo contributo é a comparação de três algoritmos de reconciliação, implementados e comparados através desta biblioteca.O primeiro são as árvores de Merkle, o mecanismo usado por sistemas como o Dynamo e o Cassandra.O segundo é a Reconciliação de Conjuntos Sem Taxa (Rateless Set Reconciliation), que transmite um fluxo de símbolos codificados cujo volume cresce com o número de diferenças.O terceiro é um híbrido que executa uma pré-passagem com RBF para reduzir a quantidade de elementos diferentes que são passados ao protocolo RSR.No terceiro e último contributo, o código-base do Cassandra foi modificado para adicionar o protocolo RSR, a par da sua reparação por árvores de Merkle.Isto foi depois usado para avaliar de que forma a substituição do mecanismo de reparação do Cassandra por RSR melhoraria o desempenho do sistema.A partir das avaliações dos algoritmos obtidas no Leopard, nenhum algoritmo isolado foi o melhor em todos os aspetos, e a escolha correta depende de qual o recurso mais limitado e de quão divergentes estão as réplicas.Ao longo de toda a gama de similaridade, o RSR nunca é significativamente pior do que as árvores de Merkle em bytes transmitidos ou duração de ronda, embora consuma mais CPU em todos os níveis de similaridade.No cenário de alta similaridade que um cluster saudável deverá ocupar durante a maior parte do tempo, transmite muito menos bytes e deteta a ausência de divergências muito mais depressa, enquanto no raro regime de elevada divergência que se segue a uma falha os dois são comparáveis, com sobreposição das dispersões medidas.O híbrido rbf_riblt é o algoritmo mais eficiente em bytes em todos os níveis de similaridade abaixo de 100% e o mais eficiente em memória dos três, mas a sua duração de ronda mantém-se aproximadamente constante ao longo da gama divergente e intermédia e só começa a descer a partir de cerca de 85% de similaridade, em vez de descer de forma constante como acontece com o RSR, pelo que é preferível quando a largura de banda, e não a duração de ronda, é a restrição determinante.Na nossa avaliação do Cassandra, substituir a reparação por árvores de Merkle pelo RSR melhorou o desempenho da reconciliação em termos de bytes transmitidos e do tempo que i ii uma ronda de reconciliação demora.Embora os resultados apresentados para a duração da ronda de reconciliação sejam inconclusivos para os níveis de similaridade entre 0%-20%, para além desses níveis o protocolo RSR é o verdadeiro vencedor.Quanto aos bytes transmitidos, o protocolo RSR é sempre o claro vencedor, exceto nos casos em que as réplicas estão completamente divergentes.Palavras-chave:
Language: English
Open Access status: green
OpenAlex ID: W7172073154
Cites: 32
Cited by:
Related to: 10