




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
ETL數據預處理技術主講人:王浩任務6-2增量加載01.目錄增量加載案例CONTENTS增量加載是指目標表僅加載源數據表中新增和發生變化的數據。優秀的增量加載機制不但能夠將業務系統中的變化數據按一定的頻率準確地捕獲到并加載到目標表中,同時還不會對業務系統造成太大的壓力,也不會影響現有業務。通過Kettle工具將數據表incremental_source中的數據增量加載到數據表incremental_target中。案例介紹數據準備假設,現有兩張數據表,分別為incremental_source和incremental_target_copy,其中incremental_source為源數據表,incremental_target為目標數據表。數據表incremental_source和incremental_target_copy的表結構、數據都是相同的,具體如圖所示。數據表incremental_source數據表incremental_target創建轉換1使用Kettle工具,創建一個轉換incremental_load,并添加表輸入控件、插入/更新控件以及Hop跳連接線,具體如圖所示。2配置表輸入控件雙擊“表輸入”控件,進入“表輸入”配置界面,單擊【新建】按鈕,配置數據庫連接,配置完成后單擊【確認】按鈕。MySQL數據庫連接的配置,具體如圖所示。2配置表輸入控件在SQL框中編寫查詢數據表incremental_source的SQL語句,然后單擊【預覽】按鈕,查看數據表incremental_source的數據是否成功從MySQL數據庫中抽取到表輸入流中。3配置插入/更新控件雙擊“插入/更新”控件,進入“插入/更新”配置界面,單擊【新建】按鈕,配置數據庫連接,配置完成后單擊【確認】按鈕。MySQL數據庫連接的配置,具體如圖所示。3配置插入/更新控件單擊目標表處的【瀏覽】按鈕,彈出“數據庫瀏覽器”窗口,選擇目標表incremental_target_copy,具體如圖所示。3配置插入/更新控件單擊【獲取字段】按鈕,用來指定查詢數據所需要的關鍵字,這里通過比較數據表incremental_target的字段id與輸入流里的字段id是否一致為關鍵條件,更新數據表中的其它字段數據;單擊【獲取和更新字段】按鈕,用來指定需要更新的字段,具體如圖所示。4修改數據表incremental_source中的數據在數據表incremental_source中新增一條id為6、name為Mary、age為24的數據;對數據表incremental_source中id為2的數據進行修改,即將這條數據的年齡(age)改為25。修改后的數據表incremental_source中的數據內容如圖所示。5運行轉換incremental_load單擊轉換工作區頂部的按鈕,運行創建的轉換incremental_load,實現將數據表incremental_source中的數據增量加載到數據表incremental_target中,如圖所示。6查看數據表incremental_target中的數據通過SQLyog工具,查看數據表in
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 【正版授權】 IEC 82474-1:2025 EN Material declaration - Part 1: General requirements
- 抖音賬號IP人設深度定制與內容制作合作協議
- 春季傳染病的預防
- 酒店管理實習協議書
- 食品經營誠信協議書
- 魚池定制訂購協議書
- 裝修公共損壞協議書
- 認繳公司設立協議書
- 銀行取消代扣協議書
- 購銷合同三方協議書
- 上海中學2025屆高考英語二模試卷含解析
- 公務出國在職證明-英文版(因公簽證)
- 故都的秋課文原文
- 【上市公司應收賬款審計失敗原因及應對措施探究:以立信所審計風華高科公司為例(論文)10000字】
- 《長征勝利萬歲》教學設計 2024-2025學年統編版高中語文選擇性必修上冊
- 2024年上海高考數學真題試題(原卷版+含解析)
- 2024年個人勞務承包合同書
- 人工智能原理及MATLAB實現 課件 第2章 機器學習
- 宣傳費用結算合同
- 蘋果行業競爭對手分析分析
- 公安局指揮中心工作總結
評論
0/150
提交評論