一、基于数据库的复制技术与应用(论文文献综述)
李强[1](2019)在《基于DB2数据库实时复制系统的研究与实现》文中研究表明随着信息化时代的到来,数据安全、分配是政府部门、企业、个人等都非常关心的一个话题。尤其是涉及到敏感数据,比如国家机密、公司的内部机密等等,这些敏感信息的安全显得更为重要。如果没有定期的数据备份,一旦发生灾难或者意外导致数据受损,那么后果不堪设想。所以数据复制同步技术显得极为重要。IBM的DB2数据库作为市场主流数据库之一,尤其在企业级的应用尤为广泛。基于DB2的复制技术对于企业来说显得非常重要。本文介绍了数据库基本概念并分析研究对比了基于DB2的不同复制方式的优缺点。对DB2数据复制过程中,数据源注册、控制表建立、订阅集设计以及数据的抓取及应用进行了分析归纳,最终实现了基于DB2的实时复制系统。并对常见的故障进行了分析并提供了解决方案。此系统是完全基于日志来实现的数据复制,无需安装除DB2数据库以外的软件。并且可适用范围广,不仅支持DB2数据库,还支持非DB2的关系型数据库同DB2之间的数据复制。最后经测试后,达到了预期的目标。
宓正宇[2](2018)在《基于Goldengate的数据库异地灾备实现》文中进行了进一步梳理随着电信关键业务系统越来越受到重视,IT类需求水涨船高。IT系统应该更可靠、更快速、更易用以及更适应业务的变化发展;另一方面,重要业务平台的用户数据和业务数据的集中存放带来的安全风险也不断加大。重点阐述了Goldengate同步复制技术的概念和实现原理,研究了该技术的特性和优势,通过实际案例的分析,验证了采用Goldengate的数据复制技术的可行性,最终实现数据实时备份,确保核心数据库的安全,同时避免引入过多种类的软件,降低了运营维护的复杂度和成本投入,有利于灾备系统的恢复和实时切换。
刘艳芝[3](2017)在《基于日志数据块的关系数据库数据复制容灾系统的设计与实现》文中研究说明随着各行业对数据的应用程度的重视,企业中的核心业务Oracle数据库对容灾系统的要求越来越高。传统数据库容灾复制技术在数据一致性方面的不足逐渐体现出来,基于日志块的数据库数据复制技术恰好能够解决上述问题。本文以数据库复制容灾系统的开发为研究背景,结合Redo日志定位分析技术、Redo日志抽取技术、并行传输技术、日志块合成技术、日志应用技术、自动化切换技术等完成数据库数据复制容灾系统的设计与实现。本文首先从数据库体系架构和Redo日志解析的角度,阐述了数据库数据复制关键技术。结合Oracle数据库,分析了数据库整体结构、数据库存储结构、数据库实例结构。提出了数据库Redo日志解析方法,给出了 Redo日志的具体内部结构。结合Redo日志解析技术,设计了基于Redo日志数据块的数据复制流程。在设计系统总体架构的基础上,利用组件化设计思想,从数据抽取、数据传输、日志合成、日志应用的角度阐述了组件内部流程以及组件的功能清单。结合数据复制切换场景,设计了计划切换、计划回切、灾难切换、灾难回切的具体流程。结合具体的开发及运行环境,从功能描述、输入输出、调用关系、功能对数据库表的调用关系、流程逻辑、数据结构、类定义、核心代码实现角度,给出了核心功能组件的实现过程,设计实现了基于物理级的数据库复制容灾系统。结合系统的功能点,设计了系统测试用例,给出了系统的功能测试、性能测试过程。验证了本文设计的数据库容灾复制系统的可行性与可靠性。最后,总结了数据库数据复制技术研究成果,展望了下一阶段工作重点。
于闽[4](2017)在《烟草异构数据库复制灾备新方式》文中指出信息化的不断深入发展,需要访问一些分布的、异构的数据,有效的集成这些数据,实现异构数据的共享,可以提高烟草企业的运作效率。为了保证用户可以有效、透明、安全的访问数据,必须寻找一种应对分布、异构数据进行统一操作的方法。以此同时,烟草业务系统的安全运行不仅面临传统物理破坏的威胁,还面临着新兴的虚拟空间的危险(例如黑客攻击、计算机病毒和木马程序等等)。如何建立一套可靠、合理的数据异构容灾体系来保障业务系统的业务连续性和抵御各种外部威胁,已成为烟草企业现阶段迫切需要解决的一个关键问题。
吴剑飞[5](2016)在《高并发网站数据库方案的研究》文中研究表明早期的互联网非常简单内容也很少,静态网页是这个时期互联的主要形式,而且网站的功能除了展示内容以外,另一个作用就是共享内容。解决网站高并发高负载问题通常使用镜像网站的技术。镜像网站技术在当时来说还算是一种不错的解决办法,但是互联网的技术和应用不断发展,互联网技术也在不断的更新。因此这种技术(镜像)已经不能适应新型互联网技术和新型互联网应用的要求。互联网技术的兴起,掀起了新一轮的以网站方式为应用的大潮。与以往的互联网应用不同的是,现在的互联网应用不再仅仅是网站内容的展示和呈现。除此之外,互联网应用更加注重用户与网站之间的交流和交互。互联网应用允许用户通过与网站交互的形式产生和创造内容。这就使得互联网应用具有与桌面应用相似的特点。基于这样的前提,互联网应用呈现出架构复杂、负载量大、数据量超大、并发访问量集中的特点,因此对互联网应用的技术也提出了很高的要求,特别是数据库的性能要求。因数据库在整个应用中的最后端,而且是信息和数据资源的中心,高并发网站大多数压力都体现在数据库之上,传统的数据库应用方式已经无法适应这样的要求。最近出现的互联网金融平台即具有以上的特点,它是以互联网应用的形式提供小微金融服务,而且是面向所有的互联网客户群体,因此这样的应用是要同时服务于大体量客户的。大量客户同时使用互联网金融服务必然导致网站高并发,给网站平台带来了很大的压力,特别是给数据库带来很大的压力。为达到现实应用的需要,必然要对现有的数据库系统进行改造。改造的方案一般从硬件和软件两方面着手。通过增加和提高硬件设备能在一定程度上提高整体系统的性能;通过软件负载均衡方案能够实现硬件和软件的并行扩展,提高整体系统的处理能力。本课题将重点从软件方案的角度研究数据库性能提升方案。基于行业应用的变化,以及本研究的背景,本文设计并实现了一套完整解决方案,解决互联网金融平台高并发环境下数据库压力问题。通过将互联网金融平台的数据库内容进行读写分离,将数据库访问分散到多个数据库上。这就大大减少了单一数据库性能压力的问题。将数据库读写分离后,那么读数据库和写数据库的信息如何保持一致?这必然要引入读数据和写数据库之间的同步机制。数据库间的同步技术非常复杂,到目前为止并没有十分好的简单解决方案。通常情况下是采用事务日志进行数据复制,目前主流的数据库复制技术就是事务日志数据库复制技术。因此本论文又继续深入地研究了数据库复制技术。数据库复制技术通常有多种解决方案,但是本文所研究的是基于事务日志的复制技术。该项技术的采用,将数据库分为主从结构。一个主数据库能够复制到多个从数据库上,从数据库与主数据库保持同步更新,并且也为整个网站提供数据库只读服务。最后,在读写分离、数据库复制技术基础之上,又研究了内存数据库的技术。内存数据库的采用更进一步提升了数据库的整体性能。总之,本文为高并发互金领域网络应用提供了一个可行的数据库系统解决方案。
岳峻松,刘赛,聂庆节,张磊,胡楠,徐雪菲[6](2016)在《一种基于物理级的关系数据库数据复制模型研究》文中提出针对当前逻辑级数据库数据复制技术中存在的问题,本文提出一种基于物理级的数据库数据复制模型。该模型利用一个主备数据库复制组来确立其参照关系,通过对Oracle数据库在文件系统格式下、裸设备下以及对基于数据库特殊卷管理器格式下的Redo日志的解析,在日志变化的第一时间挖掘日志捕获数据变化片段,之后采用弱滚动校验和同步增量方式将数据片段并行同步到备端。备端进行日志片段的重组,修改日志头标志位,合成日志文件并与源端校验通过后注册到灾备库,然后将合成日志以自动或者手动方式写入灾备库,从而实现物理级数据库数据复制。通过测试对比分析,验证了该模型不但可以保证两端数据一致性,而且还可以降低数据复制延时。
罗健[7](2015)在《一种数据库复制数据流框架设计和实现》文中指出在数据库管理(Database Management)领域,实时或者近实时的数据库数据复制(Real Time or Near Real Time Database Replication)始终是企业级数据管理领域的一个重要主题。大数据时代的来临对数据库管理领域的影响是深远和长久的。本论文的研究目标是设计一种高性能数据库复制数据流框架,基于该框架的数据库复制系统能够充分利用现有的软件、硬件的技术进步,从而提供高速的数据库数据复制服务。本论文的主要工作和贡献如下:1.设计和实现了一种基于并发执行的子任务流水线架构,以此实现高性能的数据库复制系统。从系统开发角度,子任务是完成数据复制的分解步骤的过程描述,与具体的运行线程隔离,从运维角度,用户可以通过调节同时执行的子任务的个数来调控数据库复制的性能和计算资源占用的关系。2.研究分析了不同事务之间数据变更的相互依赖关系,将无依赖的变更并发复制到目标数据库中,充分利用了目标数据库自身的并发处理能力,从而提高了数据复制的性能。3.设计了一种可以计算一段时间内所有事务净变更的计算方法,从而减少了需要写入目标数据库的变更操作个数,提高了特定场景下的数据复制的性能。4.设计了一种简单的自动调节事务提交尺寸的算法,提高了数据库的事务吞吐量,并进行了单项性能测试。5.研究了特定数据库编程接口对数据复制性能的影响,包括预编译SQL接口和BULK LOAD接口,并对其性能进行了对比实验验证。6.通过记忆数据库对象的复制状态、机器结构的变更历史,实现了真正的数据库日志重播功能。测试结果表明,本文提出的数据库复制数据流框架,能够提高数据库复制的吞吐性能,与基准系统的性能相比较,在不同的测试实验中均取得2倍至10倍的性能提升。
王方[8](2014)在《基于BeyonDB的数据库复制系统的设计与实现》文中提出随着分布式数据库的发展,作为其基础功能的数据库复制系统受到了业界的重视。数据库复制系统的架构有两种——内嵌在数据库系统中的数据库系统级别的架构和独立于各个数据库系统的中间件架构。前者具有更好的复制效率,后者则具有更好的通用性。国外的各个数据库厂商大都在其数据库产品中实现了数据库复制系统,而国内在此方面的研究大多集中于中间件的架构,效率较低。因此,有必要展开在数据库系统级别实现复制功能的研究工作。本文完成的主要工作如下:(1)介绍了数据库复制系统的国内外研究现状,并分析了数据库复制系统中所涉及到的主要技术,主要包括分布式数据库、数据库复制技术和数据库复制架构等;(2)对基于BeyonDB的数据库复制系统进行了需求分析,在此基础上确定了系统的总体架构,并对关键技术方案进行了设计。整个系统由变更数据捕获组件和数据传输组件构成,在变更数据捕获组件中对现有的控制表做了改进,其核心思想是为每张复制表配置一组控制表;在数据传输组件中采用混合传输模型实现数据库的传输,通过为每一个传输路径配置专有复制服务器来提高数据传输的效率;在对等型复制中,为了保证数据副本的一致性,采用适应于数据库复制系统的冲突数据处理策略,即采用按时间戳或按优先级的方式来解决数据的冲突;(3)在国产空间数据库管理系统BeyonDB中实现了复制原型系统,并对高效数据库复制系统进行了测试和验证,包括功能验证和性能验证两方面。研究结果表明,内嵌在数据库系统中的复制技术比中间件架构具有更高的复制效率,能够充分利用数据库系统所带来的性能优势,对维护分布式环境中数据的一致性具有更高的可靠性。
唐晓光[9](2013)在《基于订阅机制的数据共享平台的研究与设计》文中进行了进一步梳理随着物联网、云计算技术的兴起,信息共享的分布式系统开始运用。企业或政府的部分数据应该被公众共享,查阅。但由于开发时间或开发部门的不同,或导致数据库不一致,无法互相传送数据。数据库达不到实时数据同步。为了使公众关心的数据实时共享,借助于数据同步软件,可以实时共享数据,为决策部门提供信息,为公众提供便利。本文对数据共享平台重点研究和探讨的包括总体架构和两个功能模块。首先,从宏观上对分布式数据库已有模型和相关资料深入研究。之后,针对大庆移动作为应用模型完成需求分析和系统数据库设计。在总体框架构完成后,论文针对分布式数据库系统设计的核心模块做了完善和补充,详细讨论两个关键的核心功能模块:数据复制与备份技术的设计,基于发布订阅消息范式的中间件通信实现。并且,论文选取为大庆移动开发生产服务,系统维护管理,安全管理为一体的数据处理的平台作为论文工程背景。在论文中,笔者介绍了分布式数据库系统的概念、结构和特点;对数据复制技术的的原理、模型,常用方法、分类等作了详细描述;对基于发布订阅机制中间件的相关概念、背景知识和针对数据共享平台的设计方案。此外,大庆移动综合管理系统的数据共享平台是本文的研究的现实工程背景,并且研究论文包含了研究和设计两个层面。
邹珺[10](2012)在《嵌入式移动数据库应用中复制技术的研究》文中研究指明嵌入式移动数据库系统是支持移动计算或某种特定计算模式的数据库管理系统,数据库与操作系统、具体应用集成在一起,运行在各种智能型嵌入设备或移动设备上,是整个移动数据库系统密不可分的一部分。嵌入式移动数据库包括数据复制与缓存、数据广播、移动事务处理、位置管理、移动Agent技术、查询处理及优化、容错和恢复技术、安全技术等关键技术。本文以嵌入式移动数据库应用中的复制技术为主要研究内容,从传统的分布式数据库的复制技术,分析了其不能很好的支持移动计算环境的原因,由此产生了嵌入式移动数据库的两级复制机制和三级复制机制。通过分析复制技术中的冲突问题,提出了针对冲突问题的两级复制方案和同步复制方案:1、两级复制方案采用双向同步复制方式,嵌入式移动数据库对数据库服务器通过同步服务器下载的数据更新进行冲突检测和消解,并将数据更新上载到同步服务器,同步服务器对数据更新进行冲突检测;同步复制方案采用基于RTS(关联事务同步处理策略,Relate Transaction Scheme)的上载事务算法、基于TLS(实时同步处理策略,Time Limit Scheme)的上载事务算法和基于两种冲突消减策略的RTS-TLS复制算法,上载算法的时间复杂度均为O(n)。2、通过实验验证,两级复制方案的结果体现在提交暂态事务之前由嵌入式移动数据库检测和消解冲突,避免向数据库服务器传送必定要撤销的事务,从而减少了数据传输量,增强了嵌入式移动数据库的自治性;同步复制方案的结果体现在对冲突检测的时间更快,能更好地提高同步的效率。通过两种针对冲突问题的解决方案,能够实现整个嵌入式移动数据库系统在应用过程中达到最终一致性,从而增强用户对嵌入式移动数据库应用的体验。
二、基于数据库的复制技术与应用(论文开题报告)
(1)论文研究背景及目的
此处内容要求:
首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。
写法范例:
本文主要提出一款精简64位RISC处理器存储管理单元结构并详细分析其设计过程。在该MMU结构中,TLB采用叁个分离的TLB,TLB采用基于内容查找的相联存储器并行查找,支持粗粒度为64KB和细粒度为4KB两种页面大小,采用多级分层页表结构映射地址空间,并详细论述了四级页表转换过程,TLB结构组织等。该MMU结构将作为该处理器存储系统实现的一个重要组成部分。
(2)本文研究方法
调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。
观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。
实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。
文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。
实证研究法:依据现有的科学理论和实践的需要提出设计。
定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。
定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。
跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。
功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。
模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。
三、基于数据库的复制技术与应用(论文提纲范文)
(1)基于DB2数据库实时复制系统的研究与实现(论文提纲范文)
中文摘要 |
Abstract |
第一章 序言 |
1.1 研究背景 |
1.2 国内外研究现状 |
1.2.1 国内研究现状 |
1.2.2 国外研究现状 |
1.3 研究内容和意义 |
1.3.1 研究的内容 |
1.3.2 研究的意义 |
1.4 章节安排 |
第二章 DB2大型数据库重要概念及系统开发平台简介 |
2.1 事务概念 |
2.2 DB2数据库日志简介 |
2.3 数据库基本操作语句 |
第三章 DB2数据复制方式介绍 |
3.1 SQL复制 |
3.2 Q Replication |
3.3 Q Replication和SQL Replication的对比 |
3.4 Infosphere CDC(Change Data Capture) |
3.5 Replication server与CDC对比 |
第四章 系统总体功能设计和实现 |
4.1 环境搭建 |
4.1.1 数据库产品安装 |
4.1.2 用户创建,并创建实例 |
4.1.3 数据库创建 |
4.1.4 数据库源表的创建 |
4.2 SQL Replication搭建 |
4.2.1 创建控制表 |
4.2.2 注册数据源 |
4.2.3 创建订阅集和订阅集成员 |
4.3 数据复制 |
4.3.1 在SQL Replication中DB2源端的数据抓取 |
4.3.2 在SQL Replication中DB2目标端的数据应用 |
4.3.3 在SQL Replication中DB2源端的数据抓取 |
4.3.4 在SQL Replication中非DB2目标端的数据应用 |
第五章 系统应用与测试分析 |
5.1 系统应用背景 |
5.2 系统应用实现 |
5.2.1 DB2数据库环境及配置 |
5.2.2 SQL Replication部署 |
5.3 系统测试及常见问题分析 |
5.3.1 系统测试 |
5.3.2 常见问题小结 |
第六章 总结与展望 |
6.1 总结 |
6.2 展望 |
参考文献 |
致谢 |
(3)基于日志数据块的关系数据库数据复制容灾系统的设计与实现(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 研究背景及意义 |
1.1.1 研究背景 |
1.1.2 研究意义 |
1.2 国内外研究现状 |
1.2.1 数据库复制技术发展历史 |
1.2.2 国内外同类技术研究现状和发展趋势 |
1.3 研究目标和内容 |
1.4 论文的章节安排 |
第二章 关系数据库复制关键技术 |
2.1 Oracle数据库体系结构 |
2.1.1 数据库系统结构 |
2.1.2 数据库存储结构 |
2.1.3 实例的整体结构 |
2.2 Oracle数据库Redo日志解析技术 |
2.2.1 Redo日志解析方法 |
2.2.2 Oracle数据库Redo日志组成 |
2.2.3 Redo日志文件头信息 |
2.2.3.1 Redo block header |
2.2.3.2 Redo record header |
2.3 基于Redo日志数据块的数据库复制技术 |
2.3.1 数据库日志工作机制 |
2.3.2 数据库复制技术原理 |
2.4 本章小结 |
第三章 需求分析与系统设计 |
3.1 需求分析 |
3.2 系统总体设计 |
3.3 数据复制流程设计 |
3.3.1 数据抽取时序图 |
3.3.2 数据传输时序图 |
3.3.3 日志合成时序图 |
3.3.4 日志应用时序图 |
3.4 数据复制功能的详细设计 |
3.4.1 数据抽取组件功能 |
3.4.2 数据传输组件功能 |
3.4.3 日志合成组件功能 |
3.4.4 日志应用组件功能 |
3.5 切换与回切流程设计 |
3.5.1 计划切换设计 |
3.5.2 计划回切设计 |
3.5.3 灾难切换设计 |
3.5.4 灾难回切设计 |
3.6 管理库整体设计 |
3.7 本章小结 |
第四章 系统实现与测试 |
4.1 开发及运行环境 |
4.2 核心功能组件实现 |
4.2.1 数据抽取组件 |
4.2.2 数据传输组件 |
4.2.3 日志合成组件 |
4.2.4 日志应用组件 |
4.2.4.1 自动方式的日志应用组件 |
4.2.4.2 手动方式的日志应用组件 |
4.3 系统测试 |
4.3.1 系统测试环境 |
4.3.2 系统功能测试 |
4.3.2.1 DDL操作测试 |
4.3.2.2 DML操作测试 |
4.3.2.3 容灾切换测试 |
4.3.3 系统性能测试 |
4.4 本章小结 |
第五章 总结和展望 |
5.1 总结 |
5.2 展望 |
致谢 |
参考文献 |
(5)高并发网站数据库方案的研究(论文提纲范文)
摘要 |
abstract |
1.绪论 |
1.1 研究内容与目标 |
1.2 整体结构和章节安排 |
2.研究的背景和关键技术 |
2.1 高并发互联网应用系统简介 |
2.1.1 Web应用的发展 |
2.1.2 互联网金融平台特点及关键技术 |
2.1.3 高并发导致数据库瓶颈 |
2.2 数据库的发展和理论 |
2.2.1 数据库模型 |
2.2.2 数据库模式 |
2.2.3 关系数据库系统 |
2.3 数据库瓶颈和解决方案 |
2.3.1 常用硬件解决方案之服务器升级 |
2.3.2 常用硬件解决方案之存储升级 |
2.3.3 本论文研究的软件解决方案 |
2.4 本章小结 |
3.整体设计方案 |
3.1 应用背景 |
3.2 设计要求 |
3.3 数据库读写分离设计 |
3.4 主从复制结构设计 |
3.5 内存数据库设计 |
3.6 整体架构设计 |
3.7 本章小结 |
4.详细设计方案和技术要点 |
4.1 数据库读写分离技术 |
4.1.1 读写分离技术的架构设计 |
4.1.2 读写数据库之间的同步 |
4.1.3 读写数据库实现 |
4.2 数据库主从复制技术 |
4.2.1 数据库复制的类型 |
4.2.2 数据库复制的技术方案 |
4.2.3 事务日志复制基本原理 |
4.2.4 数据库复制系统设计 |
4.2.5 数据库复制过程 |
4.3 内存数据库优化设计 |
4.3.1 段-区式多层次存储设计 |
4.3.2 内存池优化设计 |
4.4 本章小结 |
5.设计方案的测试 |
5.1 测试流程 |
5.2 测试环境介绍 |
5.3 性能测试 |
5.3.1 测试基准 |
5.3.2 录制测试脚本 |
5.3.3 执行测试脚本 |
5.4 性能测试结果 |
5.5 测试结果分析 |
5.6 测试结果比较 |
5.7 本章小结 |
6.总结与展望 |
6.1 主要工作与创新点 |
6.2 后续研究工作 |
参考文献 |
致谢 |
攻读硕士学位期间已发表或录用的论文 |
(6)一种基于物理级的关系数据库数据复制模型研究(论文提纲范文)
0 引言 |
1 物理级数据库复制技术原理 |
2 物理级数据库复制模型 |
2.1 在线日志挖掘 |
2.1.1 日志挖掘功能对表的调用关系 |
2.1.2 日志挖掘流程 |
2.2 数据加密传输 |
2.3 日志合成 |
2.4 日志应用 |
2.4.1 自动日志应用 |
1)自动日志应用技术对表的调用关系。 |
2)自动日志应用流程。 |
2.4.2 手动日志应用 |
3 测试结果与分析 |
4 结束语 |
(7)一种数据库复制数据流框架设计和实现(论文提纲范文)
摘要 |
ABSTRACT |
1 绪论 |
1.1 研究背景及意义 |
1.2 现有数据库复制产品简介 |
1.3 国内外研究概况 |
1.4 课题研究目标 |
1.5 主要研究内容 |
1.6 论文结构安排 |
2 数据库复制原理和技术 |
2.1 基于数据库恢复日志的数据库复制的基本原理 |
2.2 源数据库、日志捕获和复制和目标数据库的隔离 |
2.3 数据库复制的初始化原理 |
2.4 Fork-Join并发编程框架简介 |
2.5 本章小结 |
3 总体设计概述 |
3.1 系统软、硬件环境说明 |
3.2 目标应用场景 |
3.3 总体流程概述 |
3.4 日志抓取阶段 |
3.5 日志抓取进程与数据库复制系统的通讯命令协议设计 |
3.6 入站磁盘队列和入站内存队列 |
3.7 选择需要复制的表对象 |
3.8 事务排序 |
3.9 事务复制、提交阶段 |
3.10 日志抓取点和避免事务的重复提交 |
3.11 本章小结 |
4 关键技术的设计和实现 |
4.1 版本化管理数据库对象复制状态以及结构信息 |
4.2 连续事务的并发式提交的设计和实现 |
4.2.1 保证并发提交的事务不互相死锁 |
4.2.2 乐观的事务并发复制 |
4.2.3 悲观的事务并发复制 |
4.2.4 保证事务提交顺序 |
4.2.5 理想条件下乐观和悲观并发复制的性能特点 |
4.2.6 关联事务的并发复制 |
4.3 合并提交事务 |
4.3.1 提交命令对事务复制的性能影响 |
4.3.2 存储设备的性能和数据库刷新日志记录性能的关系 |
4.3.3 数据库提交性能评价 |
4.3.4 自动选择合并后事务的尺寸的算法 |
4.3.5 单项性能测试 |
4.4 采用预编译SQL提交增删改操作 |
4.5 采用BULK LOAD接口执行连续的数据插入 |
4.6 关联事务的净数据变更(Net Data Change)的计算 |
4.7 本章小结 |
5 数据复制性能对比测试设计 |
5.1 数据复制性能测试基本原理 |
5.1.1 数据库复制性能指标 |
5.1.2 数据库复制性能测试原理 |
5.2 性能测试实验设计 |
5.2.1 实验目的 |
5.2.2 复制性能测试以及不同的事务产生模型 |
5.2.3 可伸缩性性能测试 |
5.3 性能测试结果 |
5.3.1 复制性能测试结果 |
5.3.2 可伸缩性性能测试结果 |
5.4 实验结果分析 |
6 总结 |
6.1 论文的主要贡献 |
6.2 存在的不足 |
6.3 下一步工作的建议 |
参考文献 |
致谢 |
攻读学位期间发表的学术论文目录 |
(8)基于BeyonDB的数据库复制系统的设计与实现(论文提纲范文)
摘要 |
Abstract |
第一章 绪论 |
1.1 研究背景与意义 |
1.2 本课题的研究进展 |
1.3 本文主要研究内容与章节安排 |
第二章 系统涉及的相关技术分析 |
2.1 分布式数据库系统 |
2.1.1 分布式数据库系统概念与结构 |
2.1.2 分布式数据库的数据分布 |
2.1.3 分布式事务 |
2.1.4 组通信技术 |
2.2 数据库复制技术 |
2.2.1 复制协议与分类 |
2.2.2 复制过程的各个阶段 |
2.2.3 数据冲突 |
2.2.4 复制方案拓扑模型 |
2.3 数据库复制架构 |
2.3.1 基于数据库系统的复制架构 |
2.3.2 基于中间件的复制架构 |
2.4 本章小结 |
第三章 数据库复制系统的需求分析与整体设计 |
3.1 数据库复制系统的需求分析 |
3.2 系统的组件框架结构 |
3.3 系统所采用的技术方案 |
3.3.1 基于控制表的数据获取方案 |
3.3.2 基于混合模式的数据传输方案 |
3.4 本章小结 |
第四章 数据库复制系统的详细设计与实现 |
4.1 变更数据获取组件的设计 |
4.1.1 控制表的设计 |
4.1.2 操作捕获模块的设计 |
4.1.3 变更数据存储模块的设计 |
4.2 数据传输组件的设计 |
4.2.1 传播规则表的设计 |
4.2.2 复制服务器的设计 |
4.3 基于BeyonDB的数据库复制系统的实现 |
4.3.1 复制系统在BeyonDB架构中的层次 |
4.3.2 CPI调用 |
4.4 本章小结 |
第五章 数据库复制系统的验证 |
5.1 验证环境 |
5.2 功能验证 |
5.2.1 对普通关系数据的功能验证 |
5.2.2 对空间数据的功能验证 |
5.3 性能验证 |
5.4 本章小结 |
第六章 结论与展望 |
6.1 本文工作总结 |
6.2 下一步工作展望 |
参考文献 |
致谢 |
个人简历、在学期间发表的论文与研究成果 |
(9)基于订阅机制的数据共享平台的研究与设计(论文提纲范文)
摘要 |
ABSTRACT |
创新点摘要 |
第一章 绪论 |
第二章 数据共享平台基础知识 |
2.1 分布式数据库 |
2.1.1 分布式数据库的定义 |
2.1.2 分布式数据库的分类 |
2.1.3 分布式数据库的特点 |
2.1.4 分布式数据库的优点 |
2.1.5 分布式数据库系统的体系结构 |
2.1.5.1 分布式数据库的系统结构 |
2.1.5.2 分布式数据库的模式结构 |
2.2 发布/订阅系统 |
2.2.1 发布/订阅系统的定义及模型 |
2.2.2 发布/订阅系统的关键技术 |
2.3 XML 技术 |
2.3.1 XML 概述 |
2.3.2 XML 与数据库之间的转换技术 |
2.4 JMS 模型 |
2.4.1 JMS 体系架构 |
2.4.2 JMS 模型和消息结构 |
2.4.3 JMS API 应用接口 |
2.5 本章小结 |
第三章 数据共享平台系统总体设计 |
3.1 模型的建立 |
3.2 数据工作流程 |
3.2.1 数据提取 |
3.2.2 发布端工作 |
3.2.3 服务器端工作 |
3.2.4 订阅端工作 |
3.3 数据库的命名规则 |
3.4 数据表汇总 |
3.5 安全性设计 |
3.5.1 防止用户直接操作数据库的方法 |
3.5.2 用户帐号密码的加密方法 |
3.5.3 角色与权限 |
3.6 数据库优化 |
3.7 数据库管理与维护说明 |
第四章 系统关键技术实现 |
4.1 数据库复制技术 |
4.1.1 数据复制概述 |
4.1.2 数据复制的优点 |
4.1.3 数据复制原理 |
4.1.4 数据复制的参考模型 |
4.1.5 数据复制常用方法 |
4.1.5.1 基于 COPY 法 |
4.1.5.2 基于触发器法 |
4.1.5.3 狭义意义上的复制技术方法 |
4.1.6 数据复制技术的分类 |
4.1.6.1 按复制的内容方法分类 |
4.1.6.2 从参与复制的节点的关系分类 |
4.1.6.3 其他分类方式 |
4.1.7 数据复制冲突 |
4.1.7.1 复制冲突的产生 |
4.1.7.2 复制冲突的类型 |
4.1.7.3 复制冲突的解决原则 |
4.1.8 几种主流数据库复制技术 |
4.1.8.1 Oracle 复制技术 |
4.1.8.2 SQL Server 复制技术 |
4.1.8.3 Sybase 复制技术 |
4.1.8.4 DB2 复制技术 |
4.1.8.5 My SQL 复制技术 |
4.1.9 数据库复制技术的选择 |
4.1.9.1 复制环境的限制 |
4.1.9.2 复制本身的要求 |
4.2 发布订阅中间件通信系统实现技术 |
4.2.1 复制环境 |
4.2.2 实现数据库复制的前提条件 |
4.2.2.1 支持高级复制功能 |
4.2.2.2 启用全局数据库名称 |
4.2.2.3 初始化几个系统的运行参数 |
4.2.2.4 设置数据连接字符串 |
4.2.2.5 确认数据库之间的可访问性 |
4.2.3 设置主体站点 |
4.2.3.1 创建复制管理员并授权 |
4.2.3.2 调度清除 |
4.2.3.3 在主体站点之间建立公共数据库链接 |
4.2.3.4 在复制管理员 repadmin 下创建私有数据库链接 |
4.2.4 创建主体组 |
4.2.4.1 主体组概述 |
4.2.4.2 创建主体组 |
4.2.4.3 添加对象到主体组 |
4.2.4.4 添加其他主体站点 |
4.2.4.5 对数据库对象产生复制支持 |
4.2.5 使同步组的状态由停顿(QUIESCED )改为正常(NORMAL) |
4.2.6 小结 |
第五章 基于发布订阅系统的应用 |
5.1 背景 |
5.1.1 中间件通信系统 |
5.1.2 发布订阅模型 |
5.1.3 中间件通信系统结构 |
5.1.4 QOS 控制策略 |
5.2 数据库管理系统的选择 |
5.3 复制技术的选择 |
5.4 数据复制方案设计 |
5.5 数据库设计 |
5.5.1 用户信息 |
5.5.2 发布主题 |
5.5.3 订阅主题 |
5.5.4 系统 QOS 设置 |
5.5.5 系统发布设置 |
5.5.6 系统订阅设置 |
5.5.7 历史信息 |
结论 |
参考文献 |
致谢 |
工程硕士专业学位论文摘要 |
(10)嵌入式移动数据库应用中复制技术的研究(论文提纲范文)
中文摘要 |
Abstract |
第一章 绪论 |
1.1 研究背景 |
1.2 国内外嵌入式移动数据库的研究现状 |
1.2.1 国内研究状况 |
1.2.2 国外研究状况 |
1.2.3 对国内外研究现状的分析 |
1.3 研究内容和意义 |
1.3.1 研究内容 |
1.3.2 研究意义 |
1.4 章节安排 |
1.5 本章小结 |
第二章 嵌入式移动数据库 |
2.1 嵌入式移动数据库概念的提出 |
2.1.1 嵌入式系统 |
2.1.2 嵌入式移动数据库 |
2.2 嵌入式移动数据库的特点 |
2.3 嵌入式移动数据库的体系结构 |
2.4 嵌入式移动数据库的关键技术 |
2.4.1 数据复制与缓存 |
2.4.2 数据广播 |
2.4.3 移动事务处理 |
2.4.4 位置管理 |
2.4.5 移动 Agent 技术 |
2.4.6 查询处理及优化 |
2.4.7 容错和恢复技术 |
2.4.8 安全技术 |
2.5 本章小结 |
第三章 嵌入式移动数据库的复制技术 |
3.1 引言 |
3.2 传统的复制技术 |
3.2.1 传统的分布式数据库复制技术 |
3.2.2 传统复制技术在移动计算环境下的不足 |
3.3 两级复制机制 |
3.3.1 两级复制的基本思想 |
3.3.2 两级复制机制的主要特点 |
3.3.3 两级复制机制的具体实现 |
3.4 三级复制机制 |
3.4.1 三级复制体系结构 |
3.4.2 三级复制机制的具体实现 |
3.4.3 移动客户机缓存的一致性 |
3.4.4 三级复制机制支持的移动计算环境 |
3.5 嵌入式移动数据库复制技术中的冲突问题 |
3.5.1 冲突产生的原因 |
3.5.2 如何预防冲突 |
3.5.3 如何对冲突进行检测和消解 |
3.6 本章小结 |
第四章 针对冲突问题的两级复制方案 |
4.1 方案设计意义 |
4.2 两级复制模型 |
4.3 冲突解决的原则 |
4.4 两级复制方案的具体实现 |
4.4.1 复制方式 |
4.4.2 移动主机和同步服务器的连接方式 |
4.4.3 同步服务器中的模块 |
4.4.4 嵌入式移动数据库中的模块 |
4.4.5 主键池的设置 |
4.4.6 验证结果 |
4.5 本章小结 |
第五章 针对冲突问题的同步复制方案 |
5.1 引言 |
5.2 同步复制概述 |
5.2.1 同步复制类型 |
5.2.2 同步复制特点 |
5.2.3 典型的同步复制技术分析 |
5.2.4 传统的同步实现策略 |
5.3 基于 RTS 和 TLS 的同步复制算法 |
5.3.1 RTS 策略和 TLS 策略简介 |
5.3.2 算法中的相关定义 |
5.3.3 基于 RTS 的上载事务算法 |
5.3.4 基于 TLS 的上载事务算法 |
5.3.5 基于两种冲突消减策略 RTS-TLS 的复制算法 |
5.3.6 验证结果 |
5.4 本章小结 |
第六章 总结与展望 |
6.1 总结 |
6.2 展望 |
参考文献 |
攻读学位期间公开发表的论文 |
致谢 |
四、基于数据库的复制技术与应用(论文参考文献)
- [1]基于DB2数据库实时复制系统的研究与实现[D]. 李强. 苏州大学, 2019(02)
- [2]基于Goldengate的数据库异地灾备实现[J]. 宓正宇. 电信科学, 2018(04)
- [3]基于日志数据块的关系数据库数据复制容灾系统的设计与实现[D]. 刘艳芝. 东南大学, 2017(12)
- [4]烟草异构数据库复制灾备新方式[A]. 于闽. 中国烟草学会学术年会优秀论文集, 2017
- [5]高并发网站数据库方案的研究[D]. 吴剑飞. 上海交通大学, 2016(08)
- [6]一种基于物理级的关系数据库数据复制模型研究[J]. 岳峻松,刘赛,聂庆节,张磊,胡楠,徐雪菲. 计算机与现代化, 2016(05)
- [7]一种数据库复制数据流框架设计和实现[D]. 罗健. 上海交通大学, 2015(03)
- [8]基于BeyonDB的数据库复制系统的设计与实现[D]. 王方. 中国科学院大学(工程管理与信息技术学院), 2014(03)
- [9]基于订阅机制的数据共享平台的研究与设计[D]. 唐晓光. 东北石油大学, 2013(12)
- [10]嵌入式移动数据库应用中复制技术的研究[D]. 邹珺. 苏州大学, 2012(03)
标签:大数据论文; 数据库系统论文; 分布式数据库系统论文; 数据库事务论文; 实时数据库论文;