`
鳄鱼旭
  • 浏览: 74670 次
文章分类
社区版块
存档分类
最新评论

Otter源代码解析(八)

 
阅读更多

全部文档索引:

Otter源代码解析(一): http://eyuxu.iteye.com/blog/1941894

Otter源代码解析(二) : http://eyuxu.iteye.com/blog/1942518

Otter源代码解析(三): http://eyuxu.iteye.com/blog/1942519

Otter源代码解析(四): http://eyuxu.iteye.com/blog/1942521

Otter源代码解析(五): http://eyuxu.iteye.com/blog/1942522

Otter源代码解析(六): http://eyuxu.iteye.com/blog/1942549

Otter源代码解析(七): http://eyuxu.iteye.com/blog/1942578

Otter源代码解析(八): http://eyuxu.iteye.com/blog/1942780

Otter源代码解析(九): http://eyuxu.iteye.com/blog/1942786

 

相对于其他的过程,Transform实在是比较简单,所以本节把Tansform和Load放在一起说明了:

 

Transform实际上解决的就是异构数据的映射,在Transform这个节点做相应的转换:



 结构比较清楚,再说就啰嗦了。

 

 

. Load过程相对有点复杂的,其结构如下:



 

 

值得说明的地方:

1)Load过程是并发执行的,但是受Weight的控制(并非全局的);

2)在Load过程中包含了打标记的过程(与Select过程是呼应的,即Load打的标记会被Select过程所识别,然后不会同步回去了,这一点官方文档有相关说明,不过我看了代码之后才最终理解,所以做下补充说明)

3)FileLoadAction没有展开来解析,比较容易理解,读者可自行阅读相关的逻辑。

  • 大小: 68.9 KB
分享到:
评论
2 楼 chenchangqun 2017-02-20  
Load过程是串行的,请看官方文档
https://github.com/alibaba/otter/wiki/Otter%E8%B0%83%E5%BA%A6%E6%A8%A1%E5%9E%8B
,和仲裁器中的源代码MemoryStageController-single()中 TRANSFORM和Load部分。
不知道这个问题的原因是不是这段时间 有了更新。
1 楼 agapple 2013-09-18  
Weight的控制,主要解决类事务的需求. 因为otter在Load的时候使用了pk hash的机制打散了原先的数据事务. 业务原本在A地,先插入了t1表,后插入t2表. 同步到目标库后,顺序如果没有保证,业务上在B地看到t2表有数据,立即去join t1表,发现无数据,就可能会出错.

针对这种case,引入weight来解决,otter在同步的时候定义了t1的优先级低于t2,就可以保证t2插入成功,一定可以join出t1记录. 解决类似主表+副表的业务设计

相关推荐

    QT开源网页浏览器otter-browser的源代码

    Otter Browser 水獭浏览器 水獭浏览器 - 模仿opera12界面, 基于qt5的webkit浏览器. 等于个人制作山寨版Safari, 支持二代半引擎, 苹果WebEngine/谷歌Blink. 作者: 波兰 Emdek 恩德克 代码可用,本人亲测,qt5.5+vs...

    基于QT开发的浏览器源代码(otter-browser).zip

    基于QT开发的浏览器源代码(otter-browser),可编译运行。

    otter 资料PDF(深入理解otter (偏向技术层面)、otter使用介绍 (偏向使用层面) )

    otter 基于数据库增量日志解析,准实时同步到本机房或异地机房的mysql/oracle数据库. 一个分布式数据库同步系统。 深入理解otter (偏向技术层面).pdf otter使用介绍 (偏向使用层面) .pdf

    otter4使用介绍

    otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍otter4使用介绍

    深入浅出Otter与Canal.pdf

    深入浅出Otter与Canal.pdf深入浅出Otter与Canal.pdf深入浅出Otter与Canal.pdf深入浅出Otter与Canal.pdf

    Otter配置教程,otter从入门配置到高级配置

    Otter配置教程,otter从入门配置到高级配置,适合入门学习以及配置参考

    深入理解otter.pptx

    深入理解otter

    alibaba-otter

    项目背景 阿里巴巴B2B公司,因为业务的特性,卖家主要集中在国内,买家主要集中在国外,所以衍生出...定位: 基于数据库增量日志解析,准实时同步到本机房或异地机房的mysql/oracle数据库. 一个分布式数据库同步系统

    otter部署文档说明

    otter部署流程,介绍详细,内容充实,符合跨区域数据库数据同步

    数据同步利器--otter搭建使用说明

    导历史表还需要程序实现吗? 还在用mysql的主从复制吗? Otter都能为你解决。

    otter源码包

    otter源码包,里面有otter的使用案例,透过otter源码能更好的理解和otter的用法

    Otter打包文件

    Otter打包文件好的文件4.2.14.Otter打包文件好的文件4.2.14.Otter打包文件好的文件4.2.14.Otter打包文件好的文件4.2.14.Otter打包文件好的文件4.2.14.

    otter4使用介绍.pdf

    阿里巴巴分布式数据库同步系统(解决中美异地机房) otter4使用介绍 mysql/Oracle跨机房同步数据

    otter-使用、维护说明.doc

    otter作为mysql日志级同步工具,维护简单,功能强大,性能优异

    深入理解otter.pdf

    深入理解otter.pdf官方文档。

    阿里巴巴分布式数据库同步系统 otter.zip

    同步数据量6亿文件同步1.5TB(2000w张图片)涉及200 个数据库实例之间的同步80 台机器的集群规模 项目介绍名称:otter ['ɒtə(r)]译意: 水獭,数据搬运工语言: 纯java开发定位: 基于数据库增量日志解析,准实时...

    深入理解otter

    Otter的设计文档,里面详细介绍了otter的设计理念,解决跨国IDC数据同步问题。

    otter打包及配置开发文档

    otter架构&设计 如何解决"差"网络 如何避免双向回环 如何处理数据一致性 如何高效同步数据 如何高效同步文件 如何支持系统HA 如何处理特殊业务同步 如何处理机房容灾

Global site tag (gtag.js) - Google Analytics