技術(shù)總結(jié)
本發(fā)明公開了一種ETL數(shù)據(jù)處理的方法,其能夠?qū)崿F(xiàn)從多個(gè)源頭讀取原始數(shù)據(jù),向多個(gè)異構(gòu)存儲(chǔ)系統(tǒng)同步數(shù)據(jù),可以大大提升ETL研發(fā)的速度和數(shù)據(jù)交換的效率。該方法包括:(1)配置ETL系統(tǒng)的讀插件,每一種讀插件對(duì)應(yīng)一個(gè)異構(gòu)的數(shù)據(jù)源,讀插件是開放的;(2)配置ETL系統(tǒng)的寫插件,每一種寫插件對(duì)應(yīng)一個(gè)異構(gòu)的目標(biāo)存儲(chǔ)系統(tǒng),寫插件也是開放的;(3)每一個(gè)ETL任務(wù)具有其對(duì)應(yīng)的配置文件,任務(wù)驅(qū)動(dòng)器通過(guò)配置文件中的配置信息加載相關(guān)的讀寫插件,完成數(shù)據(jù)多讀和多寫的并發(fā)執(zhí)行。還有ETL數(shù)據(jù)處理的系統(tǒng)。
技術(shù)研發(fā)人員:溫宗臣;張翼;何良均;范衛(wèi)衛(wèi);馮森林;李冰;曾攀;嚴(yán)亮;張書凡
受保護(hù)的技術(shù)使用者:北京集奧聚合科技有限公司
文檔號(hào)碼:201610886270
技術(shù)研發(fā)日:2016.10.11
技術(shù)公布日:2016.12.21