德誠智能科技大數據管理平臺,既可以為公司內部的多個大數據提供支撐,又能夠承載公司下級單位或者其他公司委托的大數據應用。此外,德誠智能科技大數據管理平臺還能夠有效幫助客戶進行數據資產管理。
一、大數據管理平臺系統組成
德誠智能科技大數據管理平臺產品體系分為三個層面:大數據基礎組件層、大數據管理平臺層和大數據應用層。
1、大數據基礎組件層
大數據基礎模塊是覆蓋當前最新Hadoop技術體系的常用組件。德誠智能科技公司一方面對軟件統一提供了圖形化的安裝、部署能力以及統一的監控能力,并且還對開源模塊中的一些功能進行了增強,比如對于HDFS,增加了HDFS-Raid的支持;對于Hadoop Map-Reduce框架,增強了對于調度策略的增強,不僅可以支持內置的容量型的優先級調度策略,還支持公平調度策略,以及自定義的調度策略,實現對任務執行時間的精確控制;在容器的增強上,除了可以實現對于內存的控制之外,還可以實現對于磁盤I/O和網絡I/O的控制。
2、大數據平臺層
是德誠智能科技大數據核心產品。該平臺實現數據的統一存儲和統一管理,并可以有效解決豎井式的大數據建設模式帶來的重復存儲、重復計算、數據不一致等一系列問題,實現資源的集中管控、資源在租戶、應用之間的統一調配,從而可以有效提升資源的利用率。企業級大數據管理平臺提供的各應用之間負載的統一調度策略,可以使各個應用根據應用自身的特點選用自身不同的調度策略,可以更好的實現各應用中的服務質量的保障。企業級大數據平臺還通過一系列的企業級特性,有效防止數據信息泄露,保障數據信息的安全。通過德誠智能科技企業級大數據管理平臺,不但可以實現企業內多個應用的支撐,構建企業大數據PaaS平臺,將資源租賃給下屬單位或者外部客戶使用。
3、大數據應用層
包括企業內部的應用,也包括客戶委托在該平臺上的客戶應用。每個大數據應用都會歸屬于一個特定的組織,也就是租戶。同一個應用,也可以具有以上幾種能力的組合。在同一個應用中,既可以包含Hadoop的分布式數據庫HBase的一個或者多個實例,又可以包含一個或者多個Hadoop分布式數據倉庫Hive的實例,甚至還可以包含數據挖掘工具Mahout或者R的實例等。
二、大數據管理平臺作用
有效解決豎井式的大數據建設模式帶來的重復存儲、重復計算、數據不一致等一系列問題,并可以實現資源的集中管控、資源在租戶、應用之間的統一調配,有效提升資源的利用率。企業級大數據管理平臺提供的各應用之間負載的統一調度策略,使各個應用根據應用自身的特點選用自身不同的調度策略,更好的實現各應用中的服務質量的保障。企業級大數據平臺還通過一系列的企業級特性,有效防止數據信息泄露,保障數據信息的安全。
在應用層,一個租戶承載多個應用,每個應用擁有自己的數據資產,數據資產的上報根據資產名稱、描述、存檔路徑、存檔格式等進行上報??梢酝ㄟ^多種方式進行數據資產的管理,比如數據共享、數據發布、數據訂閱、數據推送、以及產生的相應數據服務。大數據應用中的用戶采用驅動來實現數據的讀取,從而保證數據的安全性,通過德誠智能科技提供的驅動,不改變客戶的編碼習慣,只要鏈接不同的庫即可。通過數據訪問方式的限制,實現了數據主權和數據分析的分離。
基于德誠智能科技大數據管理平臺,用戶可以開發各類應用,如大數據查詢類應用、大數據分析類應用、大數據挖掘類應用、數據采集類應用等。
三、大數據管理平臺特色
1、產品設計優勢
集中的數據存儲;集中的資源管理; 集中的負載調度;集中的數據管控,有效保障數據信息安全;應用與數據分離
2、產品功能優勢
多租戶、多應用支撐:實現大數據的集約化建設;不改變應用開發習慣。
數據統一管控:企業級數據集中存儲,安全隔離,有效共享。
資源精細控制:多負載的協調,保障SLA單負載的精細控制。
擴展性:
德誠智能科技的大數據產品具有很強的擴展性,可以滿足不同大型單位系統建設的需求。
提供線性的系統擴展能力,可以通過擴展硬件設備線性地提高系統性能和容量。
提供高效的在線數據重分布功能,增加或減少的節點后系統中數據可平均分布到每個節點。
當用戶數據量成倍增加時,對于同一個系統(指硬件配置不變的情況下),響應時間是按照比例線性增加的。
當并發用戶數增加時,對于同一個系統(指硬件配置不變的情況下),響應時間也按照比例線性增加。
平臺支持橫向擴展,最大計算節點數支持不少于500個;
支持在線增加或減少節點。
系統穩定性:
系統支持連續7×24小時不間斷地工作,系統中的任一構件更新、加載時,在不更新與上下構件接口的前提下,不影響業務運轉和服務。
支持系統在長時間、多任務場景下的穩定運行。在計算機硬件、操作系統、存儲系統及應用系統業務進程出現故障時,能迅速響應并進行任務的切換;某一節點出現故障時,其他節點應能夠自動分擔故障節點的 處理任務,保證服務持續可用。
能實時監控各節點的狀態,依據不同的監測方法,可以監測出服務器節點是否存在,以及是否可以正常提供服務,支持節點失效報警和節點恢復過程的監控。
支持某節點失效后,整個系統能繼續運行,系統整體性能不能有顯著下降。
系統可維護性:
系統易于修改,對某一個模塊的修改,不影響其他模塊的正常運行。
系統易于擴展,新增服務時要求對系統做盡可能少的修改。
系統具備自管理和監控功能,能夠實時監控各模塊的執行。
系統具備利用已有時間同步系統進行時間同步和時間自動調整的功能。
系統支持通過統一的圖形界面,監控各應用構件的運行狀態,能夠監控到系統所有的報警、異常信息。
系統采用構件化設計思想,系統框架與業務邏輯分離,具備開放的體系結構。
系統支持通過統一的圖形界面能夠訪問到系統各構件、合約的版本信息及相應功能說明。
系統支持各構件的單獨升級,并應該盡可能實現在線升級功能。
系統可靠性:
系統提供軟件容錯機制,包括數據庫、日志鏡像、自動恢復和集群機制,具有高度的數據可靠性、容錯能力、完整性和有效性;
數據文件存放于分布式文件系統之上,在保持集群可用性不變的情況下,節省了大量的存儲空間(數據存儲空間由原來的3倍降為1.4倍!)。
數據文件需要實現元數據備份和恢復功能,防止元數據破壞失效;
整體系統實現HA方案,系統沒有單點失效點,保證系統高可靠性。
3、與云計算的完美結合
德誠智能科技大數據平臺可以與WinCloud云操作系統無縫集成,為企業提供完善的云計算、大數據整體解決方案:
(1)集群的管理和軟件的部署??梢酝ㄟ^云計算實現集群的完善的管理功能。特別是通過對于物理機的管理優勢,可以實現整個操作系統的全自動化、無人工干預的安裝、部署軟件。
(2)全面的監控能力??梢酝ㄟ^云計算提供的完善的監控能力,實現對于包括虛擬節點和物理節點在內的所有節點的性能監控。
(3)通過云計算的虛擬化技術,可以有效屏蔽不同廠商或者品牌的物理機之間的差異,從而更加有效的實現了資源的虛擬化,簡化了大數據統一管理平臺中的關鍵部件統一資源管理的開發難度。
(4)通過云計算的高可用性(High Avaibility)、容錯(Fault Tolerence)技術,加強大數據中包括Hadoop的JobTracker、HDFS的namenode、Hive的服務進程節點等的關鍵節點的安全性。
(5)通過云計算的彈性計算特性,可以有效實現節點的計算能力擴容。這對于HDFS的namenode類型的關鍵節點是十分重要的。
(6)通過云計算中的計量功能,可以實現更加精確、多樣化的計量策略。
(7)通過云計算的靈活的資源池管理策略,實現大數據的開發環境和測試環境的快速部署。
德誠智能科技大數據解決方案應用場景
1、大數據分析類應用
2、數據采集類應用
3、大數據查詢類應用
4、大數據挖掘類應用

大數據平臺, 敏捷BI, 自助式BI, 數據分析, 數據倉庫, 大數據開發, 自助分析, 流式計算, 數據集市, ETL, 商業智能, 報表軟件, 數據可視化