勤智創新創業大數據平臺及解決及方案_第1頁
勤智創新創業大數據平臺及解決及方案_第2頁
勤智創新創業大數據平臺及解決及方案_第3頁
勤智創新創業大數據平臺及解決及方案_第4頁
勤智創新創業大數據平臺及解決及方案_第5頁
已閱讀5頁,還剩17頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

-.z..勤智創新創業大數據平臺解決方案**勤智數碼科技股份**2021年6月目錄1 建立大數據平臺的目的 32 大數據平臺帶來的價值 33 投資建立的內容 43.1 大數據支撐體系建立 5 大數據支撐平臺 5 數據管理子系統 10 創新創業管理子系統 13 數據統一展示門戶子系統 14 用戶及權限管理子系統 173.2 大數據平臺運營維護效勞 19 平臺內部資源的監控管理 19 平臺故障處理管理 20 日常平臺管理任務自動化 21 故障處理自動化 213.3 科研專家和數據資源 224 工程收費和收益模型 224.1 平臺運營效勞 224.2 數據運營效勞收益 234.3 大數據產業鏈開展促進收益 234.4 政府社會收益 235 工程建立階段目標 24建立大數據平臺的目的大數據正在改變信息社會,我們正從IT時代走向DT時代。大數據產業,作為國家戰略新興產業,受到各級政府的高度重視。大數據產業建立,通過“政府引導、市場主導〞的模式建立一個數據驅動的創新創業生態環境,改變當下政務數據的分散、獨立的現狀,充分利用“群眾創業、萬眾創新〞的創新創業熱潮,積極建立一個以數據驅動的運營體系、創新創業生態、大數據產業鏈、政務數據共享交換、智慧城市大數據支撐平臺為核心目的的大數據全產業鏈的生態環境。以“一點創新,全盤激活〞為引導思路,“一平臺,多應用〞為框架設計思路,在人才培育體系建立、就業崗位增加、產業開展空間和產值提升等方面真切的做到為政府提供全方位的效勞,從而為產業開展現狀形成標桿性的開展格局,夯實大數據產業開展根底。進一步推進“群眾創業、萬眾創新〞,讓創業創新成為經濟增長的“倍增器〞、開展方式的“轉換器〞,讓“群眾創業、萬眾創新〞在全社會蔚然成風;支撐政府在更高的平臺上實現經濟可持續開展,為產業轉型升級提供經歷和啟示。大數據平臺帶來的價值創新創業大數據平臺可以帶來巨大的產業開展空間、解決諸多歷史問題、明確城市產業的開展方向以及帶動相關產業的協同開展,具體表現在:數據運營體系的建立:建立以數據為核心資產和驅動力的運營體系,全面利用智慧城市框架內各類垂直業務的運營數據、國信優易擁有的可訪問的700T國家局部部委的政務數據、區域政府的各委辦局的政務數據等高價值的數據資產,并為之配套形成標桿性的規*與標準,對于大數據產業開展方向無疑會產生標志性的里程碑意義。依托國信優易的未來國家級大數據共享促進中心的開展定位,創新創業大數據平臺作為區域內唯一的國信優易所擁有的國家部委重要數據資源的訪問接口,在未來以數據驅動的運營體系中會處于非常有利的開展格局。創新創業生態的孵化:以數據為根底的創新創業平臺,不僅迎合了國家“群眾創業、萬眾創新〞的政策,可以為政府效勞,產生很多就業時機,形成有效的會聚人才、吸引投資的強大磁場。數據作為政府的核心資產,有數據就有機遇,就會有人才培養和孵化的潤土。大數據產業鏈的打造:結合大數據產業開展目標,充分利用創新創業大數據平臺中擁有的高價值智慧城市運營數據、國信優易數據、政務數居等核心資源,打造以數據為核心的產業鏈:產業鏈上游為各類數據擁有者和數據制造者;產業鏈中游為各種數據加工、創新創業、數據使用者,讓數據成為產業鏈的“石油〞資源,驅動產業鏈的良性開展;產業鏈下游為政府或者社會企業對數據加工創新環節產生的各類落地的應用和商業模式進展投資和運營;通過大數據產業鏈的良性循環,為政府帶來百億級別的產業開展機遇和上億的產值。智慧城市數據互聯支撐:智慧城市開展規劃的頂層設計會涉及到很多的底層數據和上層應用,將各類垂直應用的運營數據接入到統一的智慧城市數據支撐平臺中,可以為未來智慧城市建立產生的數據的互聯互通提供根底支撐,為數據的運營體系提供充足的血液。政務數據共享交換:通過對各個委辦局數據孤島中各類數據的分類、數據目錄定義、數據挖局、數據分析、數據清理、數據脫敏、數據水印、權限管控、數據熱度模型等各類數據的生產加工,為上層基于數據的共享創新等應用提供足夠數據支撐;同時政府也可充分利用民生數據,脫敏利用后最大限度的做到效勞于民。**勤智數碼科技股份**〔以下簡稱“勤智數碼〞〕成立于2005年,管理團隊均來自世界五百強,具備豐富的資本運作、市場運營經歷,依托與電子科技大學成立的“機器學習和數據智能〞聯合實驗室,在大數據平臺、數據分析和算法融合、應用開發等領域有豐富的工程經歷和實力,成功承接過數十個政府大型工程的建立,運營和運維工作。勤智數碼期望借助本地化企業的優勢,承擔創新創業大數據平臺的工程建立及后期運營工作,組建最優秀的專家團隊,在頂層設計、建立以及運營工作等方面高質量、按方案的完成。投資建立的內容創新創業大數據平臺工程的投資建立,因為涉及的軟硬件資源、咨詢溝通、信息數據等內容繁多,勤智數碼結合政府相關的工程經歷,對初步建議的投資模式進展了如下的歸納總結。創新創業大數據平臺工程主要涉及到三個方面的投資建立內容,包括:1〕大數據支撐體系的建立2〕大數據平臺運營維護效勞3〕科研專家和數據資源效勞投入具體投資建立內容如下:大數據支撐體系建立為了實現政務數據的共享創新體系的建立,對政務數據需要有完備的分析處理體系,以支撐整個創新創業生態、大數據產業鏈的安康開展,而且國信優易擁有高質量的國家部委的各類數據,為了能有效的訪問到經過國信優易授權的各類數據,建立內容已經充分考慮應用國內目前成熟和先進的技術,最大限度復用國信優易大數據平臺的成熟穩定的技術架構和實現,結合特定需求的元數據管理、數據分類、數據審計、數據審核、數據評估、數據定級、數據發布、數據水印管理、數據開放接口管理、數據展示統一門戶系統、身份權限管理、用戶管理、平臺門戶系統、其他接口和應用平臺等符合本地實際情況的定制開發等建立內容。大數據支撐體系是整個創新創業大數據平臺工程的核心支撐,也是投資建立難度最大的一個投資建立任務之一。包括:大數據支撐平臺創新創業大數據平臺承擔了智慧城市底層支撐、政務數據共享交換、互聯網數據存儲、國信優易數據訪問接口等多個核心業務需求,平臺自身需要具備和采用先進的經過深度優化大數據技術、分布式存儲計算和算法模型、高并發和快速響應的高速緩存架構等,建立一個基于SOA框架的大數據能力核心平臺,作為整個工程的數據智慧處理中心,需要支持多種數據源的聚集〔政務數據、互聯網數據、行業數據等〕,支持不同的數據格式〔構造化數據、非構造化數據以及流數據等〕。在繁雜的數據接入要求的情況下,采用基于總線機制的數據接入系統,可以快速有效的完成數據接入的要求以及提供豐富和靈活的擴展性。大數據支撐平臺的建立方案采取復用國信優易成熟的大數據平臺產品的思路,一是確保了與國信優易的數據接口訪問互通的一致性、二是成熟的產品架構確保了運行的穩定性、技術的先進性。平臺的總體邏輯架構分為三層:根底設施層〔IaaS層〕、大數據平臺層〔PaaS層〕,以及大數據應用層〔SaaS層〕。根底設施層依托于分布式存儲架構,大數據平臺層則提供了包括數據接入、分析、共享和平臺管理在內的大數據分析處理功能,最后由大數據應用層提供的各種大數據應用來充分展示大數據平臺的數據處理能力和共享能力。圖:創新創業大數據平臺邏輯架構設計根底設施支撐平臺IaaS政務大數據平臺將充分利用區域政務中心〔或信息中心〕提供的根底設施資源,如:計算、存儲、備份、網絡和平安防護等,從而為政務大數據平臺提供一個穩定可靠、高性能、擴展性強、易于管理的根底設施平臺,IaaS層中根底的效勞器和網絡等資源方案盡量復用現有的硬件資源。大數據分析處理平臺PaaS政務大數據平臺利用數據接入效勞,將在云計算中心部署的政務應用中存在的政務信息資源以及互聯網數據進展統一的接入,經過對構造化和非構造化數據進展處理后,匯總形成總計21個一級類,133個二級類的政務大數據目錄庫,實現資源的查詢、檢索以及共享利用。同時,構建高效的大數據分析系統,利用分布式數據處理、分析工具和展示工具,為上層應用效勞提供大數據處理和分析能力。此外,利用大數據門戶,為政府各委辦局、社會公眾、社會應用開發商提供資源查詢、信息公開和數據效勞。大數據典型示*應用層SaaS利用根底設施支撐平臺和分析處理平臺構建根底云端應用效勞能力,建立數據創新創業促進系統、數據創新競賽等提云端應用效勞,在平臺落地建立完畢時,即可提供具體應用提升人氣,產生數據價值。標準和先進的平臺大數據平臺規劃設計完全符合國家的宏觀政策和各類標準,在標準規*層面,通過建立政務大數據平臺的數據目錄編制規*、數據權限管理規*、運行標準規*、平臺平安與運維標準規*、數據交換接口規*,為平臺的運行、維護與平安級權限控制管理等方面提供標準規*依據。大數據平臺的核心技術優勢明顯,以整體高可用性、靈活的可擴展性、技術先進性為原則,打造適合于政府的大數據產業開展的支撐平臺:雙總線技術的SOA框架:平臺層采用基于政務效勞總線〔GSB〕及政務數據總線〔GDB〕雙總線架構的SOA框架。GDB主要負責數據的接入和交換,GSB主要負責對內對外的提供統一的效勞接口。深度優化的分布式異構存儲技術:平臺使用了經過深度優化的HDFS、HBase與集群關系數據庫相結合的異構存儲方案,利用基于內存交換技術的高速緩存和高性能數據中間件實現了高并發的異構存儲體系。自主知識產權的高效算法和分布式計算框架:平臺內部集成了幾十種自主知識產權的經過十多年技術沉淀的算法集合,利用MapReduce和Spark的高效分布式計算框架,實現各類復雜數據挖掘和分析需求。圖:創新創業大數據平臺功能層次架構設計互聯網輿情信息模塊據不完全統計,中國網民規模達6.32億,互聯網普及率為46.9%,網絡已經成為超越播送、報紙、電視的第一大信息傳播媒介。42%的消費者擁有博客或個人空間。61.7%的網民在購置之前到網絡社區〔如垂直、論壇、博客或問答〕尋求推薦和建議。34%的博主發表關于產品和品牌的意見。73%的消費者在網上交流觀點。76%的網民將網絡口碑作為了解產品和效勞最可靠的信息源。78%的消費者相信朋友的推薦。在選擇商品和效勞時,人們更加關注他們在網絡上的排行。不到10%的網民發表著超過80%的原創言論,并吸引著超過90%的點擊率。根據權威媒體統計,69%的政府和企業危機來自于互聯網。對互聯網信息的接入將在信息資源的規模上對大數據提供更加豐富的數據資源。本工程將對互聯網門戶、網絡社交論壇、微博輿論信息等相關信息資源進展接入。互聯網分布式爬蟲對互聯網數據的獲取主要依賴于網絡爬蟲技術實現。創新創業大數據平臺采用先進的分布式網絡爬蟲框架,由框架完成爬蟲的統一調度、管理和維護工作,以及被采集數據的統一存儲工作。爬蟲使用者只需要進展簡單的配置或開發極少量腳本代碼即可完成一個復雜頁面甚至的爬取工作。另外,平臺在合法*圍內適當利用反防爬蟲技術,如驗證碼識別、動態IP、動態用戶等,從而保障互聯網數據的有效獲取,減少人工干預,節約本錢。平臺提供局部互聯網門戶、網絡社交論壇、微博等系統的爬蟲,并采集相應數據以供平臺使用。對于以后新增的應用,如果需要用到其他的數據,則可以基于爬蟲框架,使用平臺提供的SDK套件開發相應的爬蟲。互聯網門戶信息獲取接入互聯網門戶信息獲取接入是利用分布式網頁爬取技術,以及基于行業領域字庫的模式識別技術,實現對各類新聞門戶、行業領域專業門戶等相關B/S網頁進展實時解析獲取符合條件的數據。互聯網門戶信息爬取的對象如下:對新華網、人民網、中國新聞網、新浪網、搜狐網、騰訊網、網易網、鳳凰網、省級新聞網等各大綜合類新聞的實時監控,獲取符合條件的電子政務相關的信息。對中國氣象網、中國地震臺網、交通網、減災網等行業領域門戶的實時監控,獲取氣象、地震、交通、自然災害信息。其他政府期望及時獲取的有價值互聯網信息等。網絡社交論壇信息獲取與門戶信息獲取方式類似,網絡社交論壇信息獲取同樣通過網頁的爬取技術獲取互聯網中的社交論壇信息。主要提供以下相關內容的獲取:對天涯社區、貓撲社區、搜狐論壇、鳳凰論壇、網易論壇、新浪論壇、凱迪社區、強國論壇、中華網論壇、新華網論壇、環球網論壇、紅網論壇等眾多主流論壇的信息進展實時監控,獲取符合條件的電子政務相關的信息。對搜狗說吧、百度貼吧等公共交流平臺中的信息進展監控,獲取網民反映電子政務相關的信息內容。微博信息獲取微博信息獲取主要通過調用爬蟲對新浪微博的網頁爬取方式,對微博用戶發布的信息進展實時的爬取,微博信息可以進展根底的統計分析,為未來深層次利用做好準備。數據管理子系統元數據效勞系統元數據庫管理基于Web瀏覽器端,向后臺系統管理員提供根據數據平臺內部的元數據標準〔數據描述元數據、效勞信息元數據〕,分別進展對應元數據庫的創立與管理的功能。元數據管理基于Web瀏覽器端,向后臺系統管理員提供對元數據文件導入的功能。基于單機版元數據編輯器,向后臺系統管理員提供對數據描述元數據的創立編輯保存功能。提供基于元數據檢索、元數據入庫存儲、元數據修改刪除功能的元數據管理WebService效勞。元數據效勞管理基于Web瀏覽器端,向后臺系統管理員提供啟停元數據效勞的功能。數據目錄和接口標準管理系統大數據資源目錄體系梳理包括對政務信息資源核心元數據標準、分類標準、標識編碼標準等方面進展梳理。參考國家對政務信息資源分類體系的制定標準,經過先期梳理,可將政務大數據資源目錄梳理為21個一級類,133個二級類。代碼目錄名稱描述和說明ZA綜合政務關于政治方面的事物和和國家的管理工作ZAA政務綜合類與政務管理相關的綜合性事務,包括政務督查、電子政務、信息公開ZAB方針政策政府制訂的、宏觀的、指導各個領域開展的方針政策ZAD政府工作關于政府的規章制度、組織機構建立和開展,以及工作職責等相關信息ZAE機構編制關于機構編制的管理、機構體系的當前概況和遠景規劃ZAF政府領導關于政府各級領導的簡歷、工作崗位、工作活動、講話等相關信息ZAG會議、會務會議產生的文件等相關信息,以及會議組織、管理的相關信息ZAH重大事件有深遠影響的事件的相關信息ZB經濟管理關于經濟的管理、規劃、開展概況ZBA經濟管理綜合類ZBB經濟開展方案關于經濟的宏觀的開展規劃ZBC經濟管理關于經濟的宏觀管理現狀ZBD經濟體制改革關于經濟體制改革的管理和規劃、開展情況。ZBE經貿管理關于經濟貿易的宏觀管理和開展調查報告、統計資料ZBF統計關于統計工作的管理和開展情況………………(此處只列出局局部類,整體依據國家標準進展同一分類)在平臺建立的同時結合符合國家標準的平臺段數據目錄的定義,結合各個委辦局的實際接口情況,明確各個委辦局數據接口的接入標準,明確可會聚共享交換的數據分類、數據格式、數據類型、數據接入方式等內容。通過明確的接口標準定義,指導各個委辦局的數據接入,并提供必要的技術支持和指導。數據目錄的定義和管理要遵循國家現有政務電子信息化建立的相關標準,同時結合各個委辦局數據的地域特殊性進展更細致的完善,確保數據目錄在遵循國家標準的前提下,兼容支持本地政府的各類數據。數據挖掘和分析系統數據分析模塊子系統作為創新創業大數據平臺對外提供數據的深度挖掘和分析效勞的核心系統,分布式數據處理子系統提供了對分布式存儲數據進展處理的能力。數據分析系統利用多種分布式計算引擎,結合分布式數據存儲模型對各類構造化及非構造化的信息資源進展快速的分布式分析處理,并將分析處理后的中間結果數據提供應上層示*性應用以及其他部門業務系統中進展二次利用;此外,模型管理子系統提供各類業務分析模型的新建、修改等管理功能。創新創業大數據平臺的數據分析系統可分為如下幾個主要局部:分布式計算引擎支撐系統在分布式處理領域中,分布式并行技術是最為核心的領域之一。沒有好的分布式處理程序的支持,分布式處理就不可能很好的工作,所謂超級計算、大數據分析也就更加無從談起了。創新創業大數據平臺通過提供MapReduce、Spark和Storm三種分布式計算框架,為上層應用提供大數據分布式計算的支撐。這種架構既能夠最大限度的滿足各種業務模型的需求,同時也能夠充分利用政務大數據平臺的軟硬件資源,提供數據存儲訪問及分布式計算任務的調度、運行及結果通知等功能。算法及模型支撐系統數據分析不能一概而論,數據分析需要有根底算法的支撐。隨著數據集規模和復雜度的持續上升,對算法要求也越來越高。創新創業大數據平臺采用基于Hadoop技術架構的處理技術,為數據分析師及開發者提供幾十種具備自主知識產權的分布式算法。平臺提供相應的SDK開發工具套件及算法調用API,從而讓各種應用能夠方便的使用平臺數據及其算法。擁有根底算法的支持僅僅完成了數據分析和挖掘的第一步,對于每一個具體的基于數據的應用系統,都需要根據其自身特點建立相應的分析模型,才能夠有效的支撐應用系統。簡單的說,分析模型可以看作是由一個或多個根底算法組合而成,根底算法提供了大量的中間結果,而模型則將大量的中間結果處理為最終結果。數據分析開發套件SDK大數據平臺提供的三種分布式計算框架為平臺提供了強大的分布式計算能力,從而為各種基于數據的應用提供了根本的運行環境;同時,根底算法庫中大量的分布式算法實現則為數據分析模型的建立提供了底層的工具支撐。為了讓平臺的計算能力和算法分析能力應用到實際業務之中,還需要通過研發人員開發出使用這些計算能力和算法庫的分析程序。分布式計算開發套件SDK則使平臺具備了二次開發的能力,它可以讓研發人員利用大數據平臺中分布式并行計算的能力,通過基于數據分析的定制開發,實現對海量大數據進展分析處理,建立數據分析處理的結果性數據,為上層大數據業務應用提供數據支撐。數據信息管理系統數據審核數據審核模塊主要是承受供應商門戶上傳的流數據和塊狀數據,對這些數據進展審核,決定其是否能通過,并進入數據評估。數據評估數據評估模塊主要是對已審核過的數據,針對各個指標項進展數值評估,最終保存其評估結果,供用戶查詢和數據定價時參考。數據定價數據定價模塊主要是設置經過數據評估的數據,對應不同用戶、不同使用環境進展數據定價。數據發布管理數據發布管理模塊主要是發布經過定價或評估的數據,進展對外發布,設置其發布*圍和發布狀態。數據日志系統數據日志存儲對外提供數據日志存儲效勞接口,供其他系統進展數據日志信息的存儲。數據日志查詢基于Web瀏覽器端,向后臺系統管理員提供數據日志查詢功能。數據審計系統數據效勞使用情況審計基于web瀏覽器端,向后臺系統管理員提供對登陸和使用平臺進展數據效勞使用情況的用戶行為進展跟蹤記錄和統計,并形成分析報告的功能。效勞狀態監視基于web端,向后臺系統管理員提供對所有已注冊并發布的開放數據API和數據下載效勞的效勞狀態信息進展監視記錄,并形成分析報告的功能。數據使用權標記系統塊狀數據水印效勞向數據平臺提供webservice形式的塊數據水印效勞接口。流數據水印效勞向API管理系統和創新工場API系統提供webservice形式的流數據水印效勞接口。水印管理效勞基于web瀏覽器端,向后臺系統管理員提供對水印的管理和驗證功能。創新創業管理子系統創新創業應用管理系統創新應用APP測試創新工場APP測試:當APP上架之前需要經過后臺管理人員的測試,創新工場開發者用戶應當提供應數據平臺測試賬號,布置測試環境,提供測試數據,以及對應APP的一些根本信息。后臺管理員會根據提供的信息對該APP進展測試。創新應用APP發布APP發布:對于測試通過的APP應用,后臺管理員會進展發布,添加新的APP應用,輸入APP有關的根本信息“名稱、開發者、訪問方式、說明描述、使用說明及演示地址等〞。開放數據API管理系統API發布開放數據API發布:API數據系統主要提供應用戶使用API的方式,進展數據下載。是通過接口形式,實時獲取最新數據。后臺管理員上架API,填寫API的詳細信息包括:API數據的描述〔api的收費情況描述、接口作用信息、接口的參數對照信息、返回字典等信息〕,接口信息〔調用地址、返回格式〕,API調用的文檔,以及API調用的地址。之后會經過后臺管理人員審核確認API通過審核,才會發布到數據平臺。API測試API發布之前必須經過測試,確保API的可用性、正確性、以及數據的完整性,對一些法律規定不允許公布的數據將不予以發布。數據統一展示門戶子系統數據統一展示門戶數據統一展示門戶主要為普通用戶提供瀏覽、確定數據*圍的功能,數據是由平臺或者數據供應商提供的,用戶可以通過分類、查找、過濾等方式找到自己關注的數據,然后查看數據的詳細信息,數據自身都是經過脫敏和加密,符合對外展示的具體要求的,成為數據驅動的運營體系的統一對外展示接口。數據統一展示門戶系統功能包括,數據展示,數據的過濾功能,數據的查找功能,數據列表,數據的詳細信息。數據展示數據展示功能主要是將數據種類、描述、樣例、歷史訪問量等信息展示給客戶,以方便用戶的分析使用。具體包括以下內容:數據的分類顯示數據的分類會出現頁面的頭部導航欄,當用戶把鼠標放到*一大分類出,彈出當前大分類下的所有子分類,用戶點擊子分類進入當前子分類有關數據的詳細列表頁面。數據的過濾功能提供標簽過濾功能,用戶點擊其中*個標簽,會按照此標簽以及之前的過濾標簽重新過濾目標數據。目標數據的將以標簽匹配的數據標題的關鍵字查找出來,以列表的形式展示出來,以供用戶選擇。數據的查找功能提供查找功能,用戶通過頁面的搜索查找有關輸入關鍵字所匹配的數據,搜索框前可以選擇搜索數據的標題還是搜索詳情,默認的是標題的關鍵字,輸入數據的關鍵字,根據程序的處理搜索有關數據的關鍵字匹配,以列表的形式展示出來以供用選擇。數據列表數據列表會展示當前用戶選擇的或者默認的分類下的所有的數據,會以列表分頁的形式展示,按照時間默認排序。當前列表會展示數據的一些根本信息“數據的標題、數據質量的評分、數據的圖片、數據的訪問量以及數據的簡單描述〞;如果當前登錄的用戶為創新工場的用戶,創新工廠用戶進入API列表,api標題后會多出金銀銅等級,只有符合當前等級的用戶才可以調用當前的API數據。數據詳細信息數據的詳細信息,點擊數據的標題進入當前數據的詳細信息頁面。會顯示當前數據的詳細信息,包括“數據的圖片、數據的標題、數據的價值、數據來源、數據上架的時間、數據的大小、當前數據的下載量、數據的簡短描述、當前數據的完整性〔八個指標〕、收藏、推薦有關當前數據的相關數據、數據的詳細信息、訪問過的用戶對當前數據的評論信息〞。數據檢索數據的檢索包括,標簽的篩選,數據的關鍵字及詳細信息的搜索。用戶點擊其中*個標簽,會按照此標簽以及之前的過濾標簽重新過濾目標數據。目標數據的將以標簽匹配的數據標題的關鍵字查找出來。搜索框前可以選擇搜索數據的標題還是詳細信息,默認的是標題的關鍵字,輸入數據的關鍵字,根據程序的處理搜索有關數據的關鍵字匹配,以列表的形式展示出來以供用選擇。用戶管理當前平臺用戶管理分為三類:普通用戶管理、創新工廠用戶管理、供應商用戶管理。普通用戶管理:普通用戶可以在前臺的個人中心里管理自己的根本信息,查看自己的賬戶信息,修改密碼等操作。還可以通過我的訂單查詢當前所有的訂單,及訂單最新的狀態,查看并管理當前的API的信息。查看當前的系統消息。創新工廠用戶管理:創新工廠用戶可以在個人中心管理自己的根本信息,查看自己當前的等級,查看并管理自己的賬戶余額,查看并管理當前的API的信息,更新自己所購置的API版本等,發布自己的應用,查看并且管理自己當前已發布的應用。查看當前的系統消息。供應商用戶管理:供應商用戶可以在前臺的個人中心里管理自己的根本信息,查看并且管理自己的數據狀態,修改密碼等操作。發布數據,查看自己發布的數據的情況。查看當前的系統消息。數據共享交換系統數據聚集配置管理基于web端,向后臺系統管理員提供對數據平臺主節點與分節點/獨立數據終端系統之間的數據聚集操作配置管理功能。數據在線聚集基于web端,向后臺系統管理員提供進展數據在線聚集傳輸的操作管理功能。數據離線聚集基于web端,向后臺系統管理員提供進展數據離線聚集傳輸的操作管理功能,包括數據離線聚集包的導出及導入功能。數據共享交換日志管理基于web端,向后臺系統管理員提供數據共享交換業務操作的日志記錄檢索瀏覽功能。數據訪問規則系統訪問規則管理基于web瀏覽器端,向后臺系統管理員提供基于內置數據訪問業務規則,對特定用戶或特定數據效勞進展訪問規則設置管理的功能。數據訪問效勞向平臺提供基于webservice形式的API數據訪問效勞接口。訪問信息效勞向平臺提供基于webservice形式的API數據訪問歷史記錄信息檢索效勞接口。訪問規則管理對數據訪問相關的各類規則進展統一管理和配置。用戶及權限管理子系統用戶信息管理系統數據平臺注冊用戶管理平臺注冊用戶管理,系統管理員可以在后臺進展平臺注冊用戶的管理。通過用戶管理,可以查看用戶的訂單,以及發現不合法用戶后,對用戶的凍結功能。創新工場用戶管理創新工場用戶管理,系統管理員可以在后臺對平臺所有的創新工場用戶進展操作。可以在后臺的用戶管理中的創新工場用戶管理中設置。可以進展查看當前所有的創新工場用戶列表及詳細信息“創新工場用戶名稱、所發布的API、發布時間、賬戶信息、用戶等級等。〞管理員還可以對新申請的創新工場用戶進展審核,對不符合創新工場用戶條件的申請進展駁回。對已經通過審核的創新工場用戶的賬戶進展凍結,叫停該用戶在應用市場所發布的應用。數據供應商管理數據供應商管理,系統管理員可以在后臺對平臺所有的數據供應商進展操作。可以在后臺的用戶管理中的數據供應商管理中設置。可以進展查看當前所有的供應商列表及詳細信息“供應商名稱、所提供的數據、時間等。〞管理員還可以對新申請的數據供應商進展審核,對不符合數據供應商的申請進展駁回。對已經通過審核的數據供應商進展凍結,叫停所發布的數據等操作。系統管理員管理系統管理員管理,超級管理員賬號可以在后臺配置有關系統管理員的權限,設立不同的管理權限從而實現不同角色管理員的劃分,例如訂單管理員,只能進展訂單的操作,無法操作其他菜單。超級管理員可以在后臺用戶管理中配置有關的系統管理員的權限。授權管理系統數據效勞分組管理與授權基于Web瀏覽器端,向后臺系統管理員提供對數據效勞進展分組定義和分組管理設置的功能。基于Web瀏覽器端,向后臺系統管理員提供將數據效勞分組與用戶分組進展對應關系設置和管理,按照對應關系對用戶組進展數據效勞授權的功能。數據效勞分級管理與授權基于Web瀏覽器端,向后臺系統管理員提供對數據效勞進展分級定義和分組管理設置的功能。基于Web瀏覽器端,向后臺系統管理員提供將數據效勞分級與用戶分級進展對應關系設置和管理,按照對應關系對用戶級別進展數據效勞授權的功能。數據效勞單獨授權基于Web瀏覽器端,向后臺系統管理員提供為特定用戶對特定數據效勞的訪問授權進展管理控制的功能。提供針對特定用戶訪問特定數據效勞授權的WebService效勞接口。數據訪問權限管理數據訪問權限管理:普通用戶及其供應商用戶只可以訪問普通的塊數據,及API。創新工廠的用戶除了可以查看普通的塊數據,及API,還可以調用創新工廠中的對應著自己賬戶等級的API。身份認證與訪問控制系統用戶身份認證提供WebService形式的用戶身份合法性認證效勞,根據用戶名和口令進展用戶身份的比對認證。數據效勞動態Token授權效勞向用戶提供獲取數據效勞〔開放數據API效勞和塊數據下載效勞〕訪問授權動態Token的Web效勞API,通過用戶身份認證和數據效勞訪問權限認證后,向用戶返回最新的數據效勞調用授權動態Token。數據效勞訪問控制對用戶向數據平臺發送的數據效勞調用請求進展有效性驗證和訪問控制。大數據平臺運營維護效勞創新創業大數據平臺工程涉及的軟硬件系統*圍較廣,且承載了重要核心的數據資產,其穩定運行的保障十分重要,勤智數碼依托自身十多年的IT運維經歷,建立一套基于ISO/IEC20000和ITILv3理論,遵循ITSS、GB/T28827-2021系列運行維護效勞國家標準的運營維護體系,對平臺中各子系統以及各功能模塊提供統一的監控維護效勞,包括效勞的提供狀態監控、效勞的使用狀態監控、系統的運行狀態監控等。包括如下的平臺運維效勞:平臺內部資源的監控管理對平臺所涉及的所有硬件資源、軟件資源和數據資源進展實時不連續的7*24小時的監控和管理,合理設定資源狀態的預警閾值的設定,確保任何資源狀態異常的及時通報和展示,通過聲光報警、短信、的及時通知,確保管理人員及時的發現和處理問題。同時借助大數據平臺的優勢,實現平臺內部軟件、硬件資源運行狀態的趨勢預測,不同資源告警閾值的智能化管理和自動設定,做到平臺內部運行狀態的穩定和持續。硬件資源監控大數據平臺的硬件資源較多,所有硬件資源包含:路由器、交換機、防火墻、主機〔window、linu*、Solaris、HP-Uni*、AI*等〕、虛擬效勞器、無線設備AC/AP、存儲設備、光交換、其他平安設備等的監控,監控方式支持snmpv1/2/3、ssh/telnet、TCP、syslog、trap、腳本、WMI、netflow/cflow/sflow/netstream協議等。支持對大數據平臺涉及的各種設備狀態的實時監控(如:通斷、資源使用情況、端口狀態、流量峰值、流量變化量等其他關鍵指標等)支持網絡設備的流量的應用層協議分析和監控.借助類似曲線圖表現大數據平臺內部最近一個小時,最近一天,最近一周,最近一月,最近一年的效勞器或者集群的cpu負載,內存,網絡,硬盤等指標支持各類監控指標的告警閾值的人工和自動調整支持告警信息的短信、通知以及聲光報警通知支持網絡拓撲和機房的視圖可視化管理支持網絡資源的配置自動備份軟件資源監控大數據平臺內部的軟件資源復雜,需要支持統一化的一體監控模式,支持對Hadoop架構體系內所有軟件模塊和系統〔HBase、HDFS等〕、關系型數據庫〔MySQL集群、Oracle、SQLServer等〕、中間件系統、前端應用、軟件TCP端口等軟件資源的監控和管理,支持SNMP、SSH/telnet、JM*、JDBC等監控方式和協議,實現:支持大數據平臺內部的各種傳統關系型數據庫和數據庫集群、Hadoop架構中HDFS/HBase等的狀態、內存數據庫狀態、各類中間件資源狀態、平臺內部和前端應用狀態、各類內外部的接口狀態的實時監控支持各類監控資源的告警閾值的人工和自動調整支持告警信息的短信、通知以及聲光報警通知軟件信息變動和資源使用異常等關鍵指標的監控基于軟件關聯關系的監控,實現基于多個軟件和硬件的業務級別的監控平臺故障處理管理大數據平臺涉及的軟硬件信息和數據量較大,平臺上線運行后會面臨海量的故障信息,故障信息分析是運維工程師面臨的難題,而云計算、虛擬化等新技術的廣泛采用進一步加劇了運維管理的復雜度。需要對運維流程進展梳理,將技術人員從繁重的運維工作中解脫出來,實現運維作業的標準化、自動化,縮短業務響應時間,提高效勞質量。平臺的各類故障和告警處理的管理主要針對平臺運行期間所有異常事件的統一管理,確保所有異常事件都被處理的管理功能。借助國家標準和ITIL的SLA模型,需要建立一套完備的故障事件、問題、變更和發布等的標準化故障處理流程,規*故障處理的過程,做到故障的及時處理、追蹤、統計,確保每一個問題和故障都能被及時的處理。提供頁面//短信/聲音/光/消息客戶端/WebService接口及時通過責任人進展告警處理。日常平臺管理任務自動化日常平臺管理工作中有很多是標準化的工作,如巡檢、值班等工作。這些工作會占用大量的時間,將人工的操作、管理轉變為系統自動化的操作和管理,可以節省時間,將精力投入到更緊急、更重要的工作中。自動巡檢功能平臺的監控管理系統自動將需要巡檢的設備狀態發送到系統中,自動進展設備運行狀態和重要指標性能數據的收集匯總形成自動巡檢結果,同時巡檢過程全程記錄,通過巡檢工單,能夠跟蹤巡檢的執行情況。人工巡檢功能針對非監控資源的巡檢,可通過系統內提供的人工巡檢功能完成巡檢結果的記錄,為巡檢任務執行的方案、監視和結果的電子化管理提供了有效的手段。值班管理系統提供值班管理功能實現管理人員的排班、值班、交接班等信息的電子化管理,系統自動排班。故障處理自動化告警的處理過程通過基于ITIL的事件、問題、變更等標準化的流程進展管理系統自動進展告警過濾、壓縮,防止海量告警。自動將關鍵告警通過消息發送給責任人。系統自動運行預定義的腳本恢復故障。對于需要技術人員處

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論