男女扒开双腿猛进入爽爽免费,男生下面伸进女人下面的视频,美女跪下吃男人的j8视频,一本色道在线久88在线观看片

云計算技術分析模板(10篇)

時間:2023-08-15 16:54:14

導言:作為寫作愛好者,不可錯過為您精心挑選的10篇云計算技術分析,它們將為您的寫作提供全新的視角,我們衷心期待您的閱讀,并希望這些內容能為您提供靈感和參考。

云計算技術分析

篇1

中圖分類號:TP393 文獻標識碼:A 文章編號:1007-9599 (2012) 21-0000-02

互聯網時代信息和數據的迅猛發展,科研、工程和商業方面都需要處理大量的數據,自身IT架構的計算能力已經不能滿足計算能力的需求。云計算是分布式計算、并行處理和網絡計算進一步發展的必然結果,云計算是一種動態的易擴展且通過互聯網提供虛擬化資源的計算方式,用戶不需要對云計算的內部進行深入了解,只需要通過與瀏覽器交互就可以得到自己需要的信息。自從云計算概念的提出,就引起各方面的極大關注,目前已經成為信息領域的熱點話題之一。

1 云計算的定義

云計算的定義有狹義和廣義之分,狹義云計算是一種IT基礎設施的交付和使用的模式,通常指通過網絡按照需求和容易擴展的方式得到所需的資源,提供資源的網絡稱為“云”,使用者眼中網絡中的資源和信息可以無限擴展,并且可以隨時獲取,按照自身的需求進行使用,隨時進行擴展。

廣義云計算是服務的交付和使用的模式,指通過網絡按照需求、易擴展的方式得到所需的信息服務。這種信息服務可以是基于互聯網的軟件服務、帶寬服務、也可以是其他的任意服務。這些網絡服務可以理解為網絡資源,網絡資源的總和稱為“云”,它們是一些可以自我維護和管理的虛擬計算資源,通常是一些大型的服務器集群,包括計算服務器、存儲服務器以及寬帶資源等。云計算把所有的計算資源集中起來,不需要人為參與,軟件自動進行管理。這為應用提供者節省了時間和成本,不必為細節而操心,從而專注于自己的業務。

不管是狹義概念還是廣義概念,都可以看出,云計算是并行計算、分布式計算和網格計算等相關技術融合的產物。

2 云計算的特征

2.1 支持虛擬化。通過在一個服務器上部署多個虛擬機和應用,從而提高資源的利用率;當一個服務器過載時支持負載的遷移。

2.2 云計算系統提供的是服務。云計算系統的管理對用戶來講是透明的,不同的管理任務是自動完成的,系統的硬件、軟件、存儲能夠自動進行配置,從而實現對用戶按需提供,用戶不需要了解云計算的具體機制,就可以獲得需要的服務。

2.3 提供服務質量保證。云計算能夠向用戶提供滿足質量保證要求的服務,能夠根據用戶的需求對系統作出調整,如用戶需要的硬件配置、網絡帶寬、存儲容量等。

2.4 高可靠性、可用性和可擴展性。云計算保證向用戶提供可靠的服務,保證用戶能夠隨時隨地地訪問所需要的服務,并且用戶的系統規模變化時,云計算系統能夠根據用戶的需求自由伸縮。

2.5 經濟性。組建一個采用大量商業機組成的云計算機群比同樣性能的超級計算機的花費要少得多。

3 云計算的關鍵技術

云計算是一種新興的計算模式,以數據為中心,是一種數據密集型的超級計算,把強大的計算能力分布到終端用戶手中。

3.1 虛擬化技術。虛擬化是云計算實現的重要技術基礎,虛擬化技術實現了物理資源的邏輯抽象和統一表示,計算元件在虛擬基礎上運行。通過虛擬化軟件,單個任務的CPU占有率可以根據任務大小而自動調整,所以一個CPU上面就可以跑多個程序,一般這些任務對CPU的占有率都不高。通過虛擬化技術提高了資源的利用率,根據用戶的需求進行資源優化配置,實現動態資源平衡;虛擬化技術根據對象可分成存儲虛擬化、計算虛擬化、網絡虛擬化等,計算虛擬化又分為系統級虛擬化、應用級虛擬化和桌面虛擬化。

3.2 數據存儲技術。云計算系統由大量服務器組成,同時為大量用戶服務,因此云計算系統采用分布式存儲的方式存儲數據,用冗余存儲的方式保證數據的可靠性。如:Vmware公司和戴爾公司聯合推出的數據存儲租賃服務戴爾云,是按需數據存儲租賃服務。在“安全的戴爾數據中心”向客戶出售空間,以及提供咨詢、數據安全和其他服務。

3.3 數據管理技術。云計算需要對分布的大量數據進行分析處理,并為用戶提供高效可靠的服務;因此,數據管理技術必須能夠高效的管理大量的數據。如:VMware的vCente的管理控制臺,以此幫助企業構建軟件定義的數據中心,提高IT部門異構云管理能力,同時實現云計算的高效性、敏捷性和便捷性。

3.4 編程模型。為了保證給用戶帶來輕松地云計算服務,讓用戶利用編程模型編寫簡單的程序來實現特定的目的,云計算的編程模型不能太復雜,必須使后臺復雜的并行執行和任務調度向用戶和編程人員公開化。

3.5 云計算平臺管理技術。云計算資源規模巨大,服務器數量眾多并分布在不同的地方,同時有數百種運行著應用,如何有效的管理這些服務器,保證整個系統提供不間斷的服務是巨大的挑戰。云計算系統的管理技術能夠使大量的服務器協同工作,方便的進行業務部署和開通,快速發現和恢復系統故障,通過自動化、智能化的手段實現大規模系統的可靠運營。

4 云計算的應用前景

云計算作為目前的研究熱點問題之一,是IT的一種發展趨勢,它被視為科技業的下一次革命,它將帶來工作方式和商業模式的根本性改變。

4.1 云計算在大企業的應用前景。大企業有完善的基礎設施和相當數量的專業IT管理人才,對現有的IT基礎設施進行高效的利用。如果將云計算的強大功能引入企業的數據中心,將傳統的IT基礎架構為私有云,使IT的基礎架構作為可以輕松訪問的服務來交付。這將極大地降低成本并且最大限度地提高IT效益。

4.2 云計算在中小企業的應用前景。云計算意味著巨大的商業機遇,他們可以借助云計算在更高的層面上和大企業競爭。自1989年微軟推出Office辦公軟件以來,我們的工作方式已經發生了極大變化,而云計算則帶來了云端的辦公室——更強的計算能力但無須購買軟件,省卻本地安裝和維護。那些對計算需求量越來越大的中小企業,不再試圖去買價格高昂的硬件,而是從云計算供應商那里租用計算能力。在避免了硬件投資的同時,公司的技術部門也無須為忙亂不堪的技術維護而頭痛,節省下來的時間可以進行更多的業務創新。

4.3 云計算在家庭的應用前景。智能家庭是未來家庭的發展方向,如果將云計算提供的服務引入智能家庭之中,建立家庭中心,也就是云的家庭終端,把所有的家庭里的數據同步起來,每一個智能家庭組成了智能家庭云,并且智能家庭云可以向外界提供不同的服務。

5 結論

隨著全球化和信息化的發展,云計算必定會迎來廣泛的發展機遇和應用前景。云計算是基于多種技術的新興計算模式,它具有虛擬化、高可用性、高可靠性、低成本等特點;云計算是互聯網之后的第四次IT產業革命,將對IT業產生深遠影響。

參考文獻:

[1]吳朱華.云計算核心技術剖析[M].北京:人民郵電出版社,2011.

[2]趙廣才,張雪萍.云計算技術分析及其展望[J]電子設計工程,2011,(11).

[3]楊明勝.關于對云計算技術的研究與應用[J].信息系統工程,2012,(1).

篇2

中圖分類號:TP311 文獻標識碼:A 文章編號:1009-3044(2012)19-4590-02

對目前廣泛使用的幾種云技術的對比,對云計算的技術結構做了簡要的總結。最后對云計算在實際發展中遇到的問題以及未來的發展趨勢做了預測分析。

目前計算機技術以及網絡技術的原理以及實際應用都得到了快速的發展,單個計算機的性能的提升方面仍然存在很多需要研究以及解決的現實問題。用戶在使用大量的網絡資源的時候,實際上是已經采用了網絡的優勢取代了以前個人手中資源來實現計算機性能的提升。計算機網絡技術將在世界范圍內實現資源的共享轉換為了現實。由于網格計算的概念主要是面向應用層面的,所以在網格計算的概念被提出以來,計算機性能的提升就面臨這很多亟待解決的問題,網絡的用戶需要將其使用的程序轉換為網絡共享所需要的分布式程序結構,程序員面臨這更多的技術問題,技術方面的障礙導致一般的用戶在應用網絡資源方面存在一定的困難。

目前市場上對于高性能的計算具有強烈的需求,面向WEB技術的網絡服務也具有重要的地位。自從面向WEB的技術獲得成功以后,計算機網絡的應用領域得到了較大程度的拓展,網絡的發展使得其功能已經由簡單的信息傳輸或者信息的轉換為信息資源的共享等應用。計算機云計算就是在這樣的背景中應運而生了。盡管云計算技術發展時間不長,但是云計算的思路已經涉及到了諸如分布式系統技術、集群技術、網格計算等多種技術。從這個方面來分析,云計算可以認為是上述技術的綜合以及升級。隨著云計算技術的不斷發展以及相關理論的不斷完善,以如微軟的Azure ,Amazon的EC2等云計算平臺為代表云計算的商業應用已經成為了現實。

1 云計算的定義

美國的Larry Ellison在華爾街日報上發表了自己對于云計算的見解,他認為計算機云技術中存在這樣的現象,也就是說一般需要根據目前已經完成使用的產品來重新定義云計算。Andy Isherwood也在2008年提出,對于云計算的專業研究,幾乎所有的研究者所給出的定義都存在著差別。目前對于云計算的定義的業界仍然存在較大的爭議,能夠實現云計算的平臺也是多種多樣。目前對于云計算的定義主要是根據Ian Foster等人的研究以及對于云計算的分析與總結。

1)云計算中的每一朵云都是目前計算機并行分布式系統中一種,是由一些了網絡化以及虛擬化的計算機提供的同意的服務層。同事會可以對計算資源進行同步。

2)網絡中用戶不是基于較長的時間間隔來進行基礎設施的規劃使用,目前可以實現分鐘級甚至是秒級來實現基礎設施的規劃,這樣應用的好處就是避免了網絡資源的浪費或者是網絡資源的過載。

3) 云計算不是孤立的,云計算是一個涉及多個方面的綜合概念。一般認為云計算是軟件技術發展的下一個邏輯階段。對于用戶而言,最能夠被理解以及接受的所謂云計算其實就是在因特網層面上的集成軟件。本定義中強調了云計算網絡服務的基本屬性。其他一些定義則注重了網絡中基礎設施的虛擬化,從本質上而言這些都是對于云計算概念不同層面的闡述。

根據以上的研究分析,云計算可以定義為:云算是通過網絡進行常用的服務形式,其中所有涉及到的軟件系統以及硬件系統的總稱。與云計算相關的概念主要包括集成技術、網絡計算、超級計算機等相互之間存在著相互區分但是又存在著相互聯系的基本概念。云計算中主要是以其服務形式對網絡中的用戶提供必要的計算機網絡資源,因為這個平臺可以獲得比傳統的集群系統具有更為廣泛的優勢以及規模,所以基于云計算的計算機平平所能夠提供的計算機性能就很有課程超過目前使用的超級計算機。另外在靈活性以及規模等方面,云計算技術的優越性更為明顯。

2 云計算發展背景

云計算的出現以及迅速發展與網絡的應用緊密相連。隨著Web2.0相關理論的成熟以及相關技術的現實應用,云計算已經由商量的實驗性網站逐步發展到目前廣泛使用的校園內網以及多種應用方面。網絡的商業模式已經發生了較大的變化。以一般運行的商業化網站為例,對一個可以獲得較大商業利潤的大型網站繼續寧維護,所涉及的方面很多。主要包含了對系統硬件的維護以及對于市場調研的分析。這樣就需要一個涉及等多方面的工作團隊,同時對于網站所涉及的軟件系統、硬件系統要負全面的責任。網站最終的獲利只是這個超大規模團隊的頂端的一小部分。這種極為不平衡的特點阻礙了網站的進一步發展。目前傳統的計算模型主要存在一下的困難。

1)目前服務支持平臺的規模缺乏可伸縮性,無法滿足用戶需求的變化。當服務業務的需求規模發生變化的時候,傳統的計算模型無法作出適應性的及時調整。

2)目前建立大型的底層基礎設施的成本較大。一般企業或者商業組織要在短期籌備相應的運行資本也存在著一定的難度。但是商業機遇總是爭分奪秒的,快速豈不的能力對于網絡運營商極為重要。

篇3

對于網絡技術的發展,云計算技術是核心技術,它作為一種新興資源使用模式,影響著網絡的未來發展,并改變數據訪問、應用模式,實現高效、安全的應用交付[1]。在電力系統中,云計算技術的應用,為電力系統的運行、電力企業的辦公等提供方便,應用前景廣泛。

一、電力系統中云計算技術的應用

(一)電力系統的運行方式

云計算具有強大的存儲與計算能力,可擴展性強,便利軟件的開發、資源共享,在電力系統中得到廣泛應用。對于智能電網而言,其利用通信技術與現代信息,對電力系統的發電、變電、用電等環節的數據采集、存儲、傳輸等進行不斷深化,以此使系統達到數字化的數據采集、自動化的生產、信息化的經營管理等。近幾年,隨著電力工業的改革、優化,電力系統不斷采用分布式電源,電力系統逐漸向分布式空控制發展。

(二)在信息處理方面的應用

將云計算技術應用于電力系統,利用智能云,拆分電力系統內網中龐大的計算,使其形成比較小的計算塊,然后通過多臺的服務器對其進行處理,并向客戶反饋處理后的結果。通過這種方式,便可實現在極短的時間內,智能云對巨大信息的處理。此外,利用云計算,實現資源的共享,方便員工的信息利用與工作開展,而計算能力的強大也方便了系統中各種復雜的計算問題的解決,優化了系統控制。

(三)電力系統潮流計算

通過電力云的應用,可提高電力系統運行的潮流計算速度,優化潮流計算方法。利用最優潮流并行算法,在進行計算預想事故時,可對預想事故進行分組,將分為多個不同的組別,然后分配給不同的處理器,對其進行分析。同時,還可利用于牛頓法的并行潮流解法,通過分解、協調等技術手段,協調分類系統中出現的問題,將問題分解為多個子問題,通過多個處理器對其進行計算求解,通過這這種方式,提高了計算速度,對需要處理的預想事故數目進行準確的計算。

二、電力系統中云計算技術的重點

(一)海量數據管理技術

由于云計算平臺為大量用戶提供支持,而每個用戶都有自己的數據,因此在系統內會產生海量數據。研究云計算在電力系統中的應用,根據電力系統與云計算自身的特點,合理優化應用技術。在電力系統仿真計算云環境下,數據的檢索、存儲、管理技術系統運行的關鍵。利用數據庫、選擇合適的分布式文件系統,可有效解決災難數據恢復、數據分布式檢索等問題。

(二)仿真數據安全技術

在系統運行中,為了確保數據安全,需要認真研究數據管理、用戶管理、資源認證、權限管理等技術,確保電力系統仿真數據的安全性、完整性。因此,在系統運行中,云計算技術應加強對數據的保密,提高仿真數據的安全性,可通過數據加密技術,利用華為技術公司的IaaS層資源管理軟件,使數據安全問題的到有效解決[3]。

(三)大規模分布式計算技術

在電力系統中,對于大規模分布式仿真技術的應用,包括仿真任務的動態分配、仿真時間的準確評估、仿真任務的優先管理等。在云環境下,對電力系統的仿真技術屬于密集型與計算密集型應用,其數據的調度、技術需要遵守“就近原則”,充分利用計算資源,并降低數據的獲取時間,使單個仿真任務性能得到最大限度地提高,優化云仿真系統的總體性能。

(四)一體化數據管理技術

對于云計算在電力電力系統中的應用而言,在系統的多級調度中,采用一體化數據管理技術與模型。在目前的的數據模型中,一般采用EICCIM國際標準,并用國網E格式規范數據交換,而對于計算輸入數據而言,可采用BPA和PSASP兼容的模式。

三、結語

云計算作為一個新技術,各領域的應用還處于初步階段,云計算技術的應用與技術發展還有待提升。云計算技術在電力系統中應用,為電力系統的運行提供了保障,電力云的提出與構建,對電力系統的計算、存儲、信息交換帶來影響,通過對信息資源的整合調度,為電力系統的運行、企業辦公、計算等帶來改變,提供了系統的存儲、計算能力,使電力系統的整體性能得以提高。

參考文獻

篇4

中圖分類號:TP393.08 文獻標識碼:A 文章編號:1007-9416(2013)06-0241-02

云計算技術被認為是繼個人電腦 、互聯網之后的“第三次互聯網革命”,誕生伊始就得到廣泛關注和重視。下面我們從云計算的概念、類型和基礎架構三個方面來進行探討。

1 云計算的概念

云計算是利用本地或遠程服務器(集群)的分布式計算機為互聯網用戶提供服務(包括計算、存儲、軟硬件等服務),它是對分布式處理、并行處理和網格計算及分布式數據庫的改進處理、融合和發展。

通俗的講,云計算是一種全新的網絡服務方式,將傳統的以桌面為核心的任務處理轉變為以網絡為核心的任務處理,利用互聯網實現自己想要完成的一切任務處理,使網絡成為傳遞服務、計算力和信息的綜合媒介,真正實現按需計算,多人協作。通過云計算的大規模應用,未來計算資源或許像電和水那樣可隨時獲取,并按使用量進行計費。

2 云計算的類型

從部署方式來說,云計算可以分為私有云、公有云和混合云。公有云是互聯網上所有用戶都可以使用。私有云則是一種專有的云環境,是針對一個組織單獨構建的互聯網服務,該組織擁有基礎設施,可以在此基礎設施上部署應用程序,并對數據、安全性和服務質量提供有效控制。混合云,也可稱為虛擬私有云,它提供的服務運行在一個公共的云基礎設施之上,但通過虛擬專用網(VPN)限制對它的訪問。

IaaS,指的是將硬件設備等基礎資源封裝成服務供用戶使用,在此環境中,硬件及網絡資源可以被劃分成一個個的邏輯計算單元,IaaS管理工具可以保證多個邏輯單元協同工作起來。

PaaS,是對資源的抽象層次更進一層,它提供用戶應用程序的運行環境。

SaaS,是將某些特定應用軟件功能封裝成服務。

3 云計算的基礎架構

云計算充分利用網絡和計算機技術實現資源的共享和服務,解決云進化、云控制、云推理和軟計算等復雜問題,其基礎構架可以用云計算體系結構、服務層次則和技術層次來描述。

3.1 云計算體系結構

云計算平臺是一個強大的“云”網絡,連接了大量并發的網絡計算和服務,可利用虛擬化技術擴展每一個服務器的能力,將各自的資源通過云計算平臺結合起來,提供超級計算和儲存能力。云計算體系結構如圖:(見圖1)

云用戶端:提供云用戶請求服務的交互界面,也是用戶使用云的入口,用戶通過WEB瀏覽器可以注冊、登錄及定制服務、配置和管理用戶。

服務目錄:云用戶在取得相應權限(付費或其他限制)后可以選擇或定制的服務列表,也可以對已有服務進行退訂的操作,在云用戶端界面生成相應的圖標或列表的形式展示相關的服務。

管理系統和部署工具:提供管理和服務,能管理云用戶,能對用戶授權、認證、登錄進行管理,并可以管理可用計算機資源和服務,接收用戶發送的請求,根據用戶請求并轉發到相應的應用程序,調度資源智能地部署資源和應用,動態的部署、配置和回收資源。

資源監控:監控和計量云系統資源的使用情況,以便做出迅速反應,完成節點同步配置、負載均衡配置和資源監控,確保資源能順利分配給合適用戶。

服務器集群:虛擬的或物理的服務器,由管理系統管理,負責高并量的用戶請求處理、大計算量處理、用戶WEB應用服務,云數據存儲時采用相應數據切割算法,采用并行方式上傳和下載大容量數據。

用戶可通過云用戶端從列表中選擇所需的服務,其請求通過管理系統調度相應的資源,并通過部署工具分發請求、配置WE應用。

3.2 云計算服務層次

云計算的服務層次是根據服務類型即服務集合來劃分,體系結構中的層次是可以分割的,即某一層次可以單獨完成一項用戶的請求而不需要其他層次為其提供必要的服務和支持。

3.3 云計算技術層次

服務接口:統一規定了在云計算時代使用計算機的各種規范、云計算服務的各種標準等,用戶端與云端交互操作入口,可以完成用戶或服務注冊,對服務的定制和使用。

服務管理中間件:在云計算技術中,中間件位于服務和服務器集群之間,提供管理和服務即云計算體系結構中的管理系統。對標識、認證、授權、目錄、安全性等服務進行標準化和操作,為應用提供統一的標準化程序接口和協議,隱藏底層硬件、操作系統和網絡的異構性,統一管理網絡資源。

虛擬化資源:指一些可以實現一定操作,具有一定功能,但其本身是虛擬而不是真實的資源,如計算池、存儲池和網絡池、數據庫資源等,通過軟件技術來實現相關的虛擬化功能,包括虛擬環境、虛擬系統、虛擬平臺。

物理資源:主要指能支持計算機正常運行的一些硬件設備及技術,可以通過現有網絡技術和并行技術、分布式技術將分散的計算機組成一個能提供超強功能的集群用于計算和存儲等云計算操作。

4 結語

云計算作為下一代IT的發展趨勢,在我國得到了充分的推動和蓬勃的發展,但我們必須看到,由于國內在云計算領域對核心技術的掌握不足,目前國內所建設的云計算中心,更多的投入是在硬件建設的部分,缺乏在基礎軟件設施層面對云計算模式的支持。同時信息系統和網絡設備使用的關鍵芯片、核心軟件和部件絕大部分依賴進口,存在著安全隱患。總之,雖然云計算的發展還存在著諸多的問題,但作為一種新型的互聯網服務和計算模型。它展示了越來越強大的生命力,涉及了各行各業方方面面的人們,并將最終徹底影響和改變改我們的生活。

篇5

2云計算技術

(1)分布式文件系統。云計算中的分布式文件系統,是Google公司根據云計算處理海量數據的過程而設計的一個特定系統。一個分布式文件系統的集群,是由一個主節點與多個從屬節點共同組成,用戶訪問系統的途徑主要是通過客戶端,利用該系統完成日常的文件處理工作。在云計算中,大量的數據文件被劃分為固定大小的多個數據塊,在相應的從屬節點中進行存儲,此外,這些數據塊也會在多個節點進行備份存儲,避免數據丟失等問題。(2)分布式并行數據庫。云計算中的分布式并行數據庫的設計,主要是為大規模結構化數據的管理提供服務,這種分布式的存儲系統,能夠實現PB級數據以及上千臺服務器的擴展。在Google的許多項目中,都有分布式并行數據庫的應用,而分布式并行數據庫在Google項目中的應用,在規模、時延方面的要求也有進一步的提高。分布式并行數據庫的應用,為Google產品提供了高性能、靈活、有效的解決方案。(3)分布式計算框架。Google公司于2012年推出了分布式計算框架大數據計算機技術處理框架,通過優化內部數據網絡計算方式,實現計算機技術挖掘的革新和計算機設備數據海量處理性能的提高。計算機的工作水平越高,網絡環境的可靠性就會越高。而在計算機操作過程中,影響計算機網絡處理速度的因素,主要包括軟件安全問題和硬件配置水平。光纖網絡的鋪設情況會對計算機網絡的可靠性帶來直接影響,通過分布式計算框架大數據軟件處理方式的編寫,完成復雜計算機函數算法的革新工作。

篇6

1.1完全虛擬化

當前使用最為普及的虛擬化方式就是結合Linux系統所開發的hypervisor軟件。該軟件是一款介于虛擬服務器以及硬件之間的抽象層。該軟件的運作邏輯流程為,hypervisor獲取CPU的指令,這一虛擬機技術可以在不變動操作系統的基礎上對服務器上的虛擬技術進行運用。所以hypervisor的實質性作用就是指令訪問硬件控制器與外部設備之間溝通的橋梁。在完全虛擬的情況下,hypervisor即為主機操作系統的角色,而虛擬服務器的運行環境則為用戶端操作系統。

1.2準虛擬化

虛擬化技術在云計算過程中的虛擬服務器管理中最為關鍵的任務就是實現虛擬服務器之間的獨立。然而這一技術為處理密集型技術,會給虛擬環境的工作帶來一定的負載。為了妥善解決這一問題,hypervisor在工作中需要對客戶操作系統進行改動,使運行環境與完全虛擬化實施技術之間能夠和諧運行,正常工作。這種技術方案即為準虛擬化實施方案。目前來說,典型的準虛擬化技術有Xen[1]。各操作系統在虛擬化服務器運行過程中首先要對操作系統的核心層面進行虛擬化處理。相對于完全虛擬化技術來說,準虛擬化技術的優勢更加明顯,其性能優越,響應能力強。

1.3操作系統層虛擬化

操作系統層虛擬化即為在操作系統層上加設虛擬服務器功能的虛擬化方式,其中典型代表有Container。在操作系統層虛擬化技術中每一實例用戶都有相應的賬號與應用程序,而且全部的虛擬服務器均處于相同的操作系統。在操作系統層虛擬化中并沒有獨立的hypervisor等,而且在多個虛擬服務器之間分配硬件資源。

2云計算技術下的虛擬化安全隱患

云計算技術中的安全包括身份管理、訪問管理、數據信息安全、隱私保護等。云計算與傳統IT環境最大的區別就是存在的虛擬計算環境。正是由于這一本質區別導致其存在不可忽視的安全問題。其中,身份管理、數據安全等問題可以利用訪問控制、數據加密、信息備份等傳統的安全防護手段來解決,而虛擬化技術是云計算技術中的核心,因此難以使用傳統的安全措施來解決問題,需要根據云計算的虛擬化環境來采取新的安全策略。當前云計算技術下的虛擬化安全隱患主要有幾點:(1)虛擬機安全隔離。基于虛擬機的運行模式特點使虛擬機存在著隔離需求,并且無法使用傳統方式進行安全隔離,只能夠使用虛擬機監視器等軟件實現,這一情況要求虛擬機管理者能夠嚴格劃分虛擬區間,以避免數據泄露。(2)虛擬機遷移。在虛擬環境中服務器能夠跨越多個物理設備,根據實際情況實現性能擴充等工作。雖然能在多個物理設備之間遷移,但是在遷移的過程中會使得安全管理工作更加復雜,更加容易受到安全威脅。(3)虛擬機逃逸。虛擬機的使用目的是分享主機資源并且進行隔離,但是由于技術瓶頸以及虛擬化軟件漏洞,有時候虛擬機會繞開底層獲取宿主機的控制權,導致安全模型瀕臨危險。

3云計算技術下的虛擬化安全防范措施

3.1保障虛擬化服務器安全

在硬件的配置方面物理主機需要達到高配置、設備穩定性良好的需求。所使用的處理器要能夠支持虛擬技術CPU,并且可以保證CPU之間的物理隔離,進而降低安全隱患。軟件方面,由于虛擬化服務器軟件層位于裸機之上,因此需要提供能夠建立、運作、銷毀虛擬服務器的各種能力,虛擬化服務器軟件層作為虛擬機的核心要對其進行足夠的安全保護。

3.2防范黑客攻擊

攻擊虛擬化服務器通常都是通過應用程序接口攻擊或者使用網絡攻擊的方式,也可以利用虛擬化服務器管理下的虛擬機進行攻擊?;诜椒▽μ摂M化服務器攻擊的目的,應該對任何沒有授權的用戶訪問虛擬化軟件層進行嚴格的限制與禁止。云服務提供商應該建立完善的安全保護控制措施,限制相關的虛擬化層次的物理與邏輯訪問控制。

3.3有限分發

所有的虛擬機都是經過系統管理員進行安全防護的。管理員需要控制所有資源區域的訪問,從而保證只有被信任的訪客才能夠進行訪問,獲得信息。管理員需要控制資源池管理訪問,只有有權限的訪客才能夠訪問資源池組件、物理服務器、共享信息存儲等。其中資源池包括虛擬機、虛擬存儲、虛擬機文件、存儲文件等。所有虛擬機的文件,不論打開與否都需要獲得嚴格的控制與管理。

3.4安全遷移

安全遷移是一種備份方式。將虛擬機復制到其他地方,如果遇到虛擬機故障就可以啟動備份虛擬機進行遷移,實現無縫對接切換。管理員在進行虛擬機分支的過程中要貫徹安全意識,保證虛擬機能夠擁有一定的安全保障。要最大程度地避免在遷移過程中指定虛擬機失去必要保護而遭到攻擊。

篇7

中圖分類號:TP393.09

云計算是利用虛擬化技術將價格低廉的服務器進行松散耦合,然后形成一個大規模的計算機中心及大容量的儲存系統,然后利用互聯網絡進行交付服務。用戶不用了解該技術的基礎構架,就能夠方便的使用計算機資源。在大學生計算機應用大賽中,對作品有一個特殊的要求,就是參賽者提交的必須是代碼。在傳統的競賽中,參賽者通常是采用郵箱投遞的方式提交作品,然后由大賽的組織者將作品進行統一部署,交給專家評審?;ヂ摼W技術的應用需要在較為復雜的環境部署下進行,而云計算的交付模式能夠為用戶提供一個多元化的平臺,在該平臺上能夠對作品進行在線部署,在線評審等。

1 云計算的定義

至今為止,云計算技術還沒有一個統一的定義,不同的組織給云計算下了不同的定義,據不完全統計,其定義內容在25種以上,例如:Gartner認為,云計算技術是利用網絡技術作為服務為用戶提供計算的一種服務;美國國家標準給出的定義是,云計算是通過互聯網便捷服務通過付費模式使資源進行快速部署,并且不需要較多的管理工作。隨著云計算技術的不斷應用,其定義將產生更多的新觀點。

云計算并僅僅作為一個技術的代名詞,它還意味著多種技術的結合,其指向是IT基礎設施的交付以及使用,通過互聯網技術按照不同用戶的需求和擴展的方式對硬件資源、平臺資源以及軟件資源進行獲取,同時也可作為其他服務,無論是從廣義還是狹義的角度而言,云計算運行的核心觀念是按照用戶不同的需要提供服務,類似人們對水、電等資源使用的模式一樣。從云技術的技術層面而言,其功能的實現主要受兩個因素的影響,第一,數據儲存能力;第二,計算能力,其中,“云”還可以分為兩種:儲存云和計算云。其發展的勢頭吸引了各個研究領域的興趣,從而推動了相關技術和商業模式的發展,各種創新業務層出不窮,云技術的發展勢頭將越來越激烈。

2 云計算應用架構

云計算技術的應用價值極高,出來具備擴展、服務以及計算機功能外,他還有許多隱形價值,其特點為以互聯網、服務、使用量作為基礎,并且能夠根據用戶的不同需要進行擴展,其核心技術為:虛擬化技術、網絡計算以及網絡儲存等。云計算技術在其架構上分為三個層次:基礎設施、應用程序、應用平臺。它們分別能夠為用戶提供互聯網資源、儲存資源、計算機資源。雖然云計算處于一個虛擬的環境,但是其具備強大的全面性,能夠提供數據庫、中間件和服務環境,同時能夠為用戶提供科學、完整的應用程序,為用戶展示最先進的計算機成果。

2.1 基礎設施

云計算技術在大學生計算機大賽中主要的作用是為參賽者和評委提供評審和交流的平臺,該平臺是通過硬件服務群來實現相關的運算工作,其存儲及內存資源池由服務器組合而成,所以可以將虛擬平臺和存儲空間分為不同的等級??梢詫τ嬎銠C應用大賽的數據資料進行適當的處理,例如:分享、分析等,操作十分方便快捷。

2.2 應用程序

就應用程序而言,可以交給參賽組隊作品進行部署,然后完成對該應用程序的調試工作,最大限度的滿足計算機應用大賽的系統以及相關評價系統。

2.3 服務平臺

其服務平臺最核心的功能是為用戶提供操作系統和其他重要服務,即利用虛擬化技術,主要為用戶提供IOS和Linux操作系統還有相關操作模板,另外,還為用戶提供七大開發平臺,如下表所示。

表1

基礎模板:Window Template、Linux&Unix Template、Apple OS Template

應用模板:android、Apple IOS、Windows Phone、J2ME、MTK、Blackberry、Symbian

3 云計算技術在大學生計算機應用競賽中的應用

在大學生計算機大賽中,云計算技術主要是為用戶提供計算資源,其資源量必須和實際的需求一致,另外,由于計算機競賽的規模較大,參賽者沒有收到地域的要求,云計算技術可以提供一個跨區域的平臺,方便評委進行考核,當比賽結束后,參賽者可以隨時隨地瀏覽云端開發環境,一般從教育網或者公網進行登錄。

云計算技術主要通過網絡安全技術以及負載均衡技術進行支撐,這兩種技術讓云平臺運行的更加順暢,使其訪問速度更快,很大程度上保證了系統的安全性和實用性。針對云計算存在的負載以及失衡問題,云平臺可以一一解決。其關鍵步驟是建立在云計算環境下存在的負載均衡模型,然后建立概率矩陣。云平臺首先應該保證其安全性,所以無論從互聯網的安全性、數據的安全性還是虛擬化安全方面而言,將云安全的解決手段應用進去是最佳的方式,無論用戶使用哪一種云計算模式,最重要的就是保證數據安全,所以,為了保證計算機大賽的公正性,需要將相關數據進行備份,如果數據遭到意外丟失,僅需要一個小時就能恢復數據。另外,互聯網絡的各種威脅也要得到重視,這時云端的應用程序將充分體現其作用。由于虛擬化技術被采用,所以服務器和虛擬機的安全性也應該得到重視。

4 云計算技術的應用過程

在大學生計算機應用大賽中使用云計算技術,首先需要參賽者向云平臺提出自身的資源需求,根據不同的情況,對資源的使用權限為半個小時至一年,供用戶使用的開發平臺高達七個,用戶只需要付費就能夠開始使用,申請使用的過程只需要短短的幾分鐘。在云平臺內,資源是多元化的,其用處十分廣泛,不僅能夠備份多種開發手段以及多個版本,同時還能夠建立及維護快照,讓整個團隊獲取更大的利益,使其配合更加和諧,效率得到提升。

一般來說,計算機大賽的規模大且選手來自各地,同時還有港澳臺地區的參賽者,評委也不例外,如果采用傳統的現場考核模式將給評審工作帶了很大的困難,所以,大賽的主辦方一般通過云計算技術作為橋梁,為評審和參賽者提供溝通的平臺,云平臺在不同地區間能夠進行便捷的溝通,能夠很好的進行異地評審。計算機大賽的評委只需要通過進入指定網址,登陸到云計算平臺中,就能夠對參賽者的作品進行觀摩和評判,從而給出公正和專業的考核結果,其安全性也能夠得到保障,可以說云計算技術為大賽做出了巨大的貢獻。

5 結束語

綜上所述,在大學生計算機應用大賽中應用云計算技術是必不可少的,不僅能夠實現跨地區評審,節省考核的時間和人力,還能夠發揮其優勢,保證參賽數據的安全性,并且使用的過程十分簡便,價格合理。通過云計算技術的不斷應用和發展,在未來一定會變得更加完善,在計算機應用大賽中有更大更廣的覆蓋率。

參考文獻:

[1]王劍鋒.“虛擬”豐“云”――虛擬化和云計算技術淺析[A].中國新聞技術工作者聯合會五屆一次理事會暨學術年會論文集(上篇),2009.

[2]曹沁宇.淺談云計算技術在客服系統中的應用[A].全國無線及移動通信學術大會論文集,2011.

[3]董敏,陳金鷹,鄒振宇.云端漫步――云計算時代來臨[A].四川省通信學會2009年學術年會論文集,2009.

篇8

信息網絡技術的發展帶來了世界范圍內互聯網經濟和通信行業的強勁振興,以微博、web2.0和SNS等業務為代表的通信網絡新形態給人們的生活工作帶來了無限便利,物聯網、虛擬化、三網聯合等新技術領域內,芯片能力、寬帶接入、無線網絡等技術革新不僅極大的沖擊了通信行業的發展,引導了其未來的發展潮流,且為行業的未來發展注入了新的革新動力。云計算技術作為當前最具發展前景的革命性推動力量,對移動通信行業的發展將會產生極大的影響。

一、云計算技術及其路線

1.云計算技術

云計算技術是利用大規模低成本運算單元通過IP網絡連接提供各種計算和存儲服務的IT技術,是互聯網發展追求低成本、高效能、資源靈活分配、快速應用趨勢潮流下應用而生的一種新IT系統實現技術。這種技術是一種包括計算、存儲、網絡、應用服務等功能的資源池系統,無論是作為商業模式和技術模式,對于移動通信領域的未來發展都有著決定性影響,尤其是現在對互聯網資源、安全與應用越來越重視的今天,這種技術的實現、分布和部署將會挑戰傳統互聯網構成,為移動通信的發展開拓更好的領域前景[1]。

據相關機構預測,全球未來幾年數據中心業務將保持高速增長,年復合增長率將超過20%,其中云數據中心增速最快。2008年,雖然受金融危機影響,國內互聯網數據中心增長率下滑,但仍達39.1%。目前增長速度基本恢復到近50%。我國的數據中心市場三大基礎運營商占有過半江山,市場占有率在60%以上[2]。正是因為云計算市場發展如此的火爆,越來越多的通信廠商傾向于應用這種技術,不僅能夠帶來產業規模的擴張、升級與轉型,同時還會加強與各個產業鏈環節的密切合作,最終形成一個完整的積極發展的良性生態產業鏈,成就移動通信行業的美好未來。

2.云計算的技術路線

云計算技術路線主要以大規模并行運算和虛擬IT資源池為主。大規模并行運算的典型代表是谷歌公司,在全球谷歌有超過一百萬臺的服務器,這些服務器每天都需要處理海量數據,為降低運營成本,更好的占領全球市場,谷歌就采用了這種云計算系統做數據存儲和處理,成本的降低帶來的無疑是競爭實力的增長。虛擬IT資源池主要是通過將IT資源虛擬化形成資源池,以出租的形式提供給用戶使用,其中亞馬遜公司推出的彈性計算(EC2)、簡單存儲服務(S3)等服務就是這類路線的典型代表。亞馬遜應用這種技術無疑大大提升了系統資源的綜合利用率,而客戶只需要一張信用卡就可以使用這些資源,形成規模化、集中化效應后,在使用方面更加便捷。這種云計算服務無疑刺激了亞馬遜的業務增長和收益,在2009年底,亞馬遜再一次拓展了服務器數量,這無疑是云計算服務具有優勢應用前景的最佳證明[3]。

二、云計算在移動通信行業的發展前景

云計算技術的出現,對于移動通信網絡的發展來說意味著成本的降低、集中化和規?;?,是未來業務創新的重要技術支柱,也是移動通信行業的發展福音。傳統移動通信行業發展中有四大弊端,分別是系統利用率低、擴展能力低、系統部署周期長和性價比低,正是這四個因素,限制了通信行業的拓展與升級。豎井式的業務系統和IT支撐系統限制了不同系統間的資源交流與共享,資源利用率低、能效低,運營建設成本高。傳統Scale-Up擴展方式只能通過更換設別來拓展容量,投資效益低,業務連續性受影響,且因組成設備采購、建設、布置周期長,在應對市場變化發展的靈活性上也欠佳。這些弊端造成了通信行業經營和發展的低性價比,一度使國外跨國公司壟斷了我國的通信市場,國內企業競爭能力低下,整個通信行業的發展都處于緩慢的進步狀態,但是云計算的出現徹底改變了這種局面,通信行業運營商系統運行效率有了革命性的變化,建設和運營成本大大降低。

云計算技術為移動通信行業的發展帶來了革命性的轉變,技術創新帶來了新的發展機遇。IT支撐系統在通信行業中的重要地位決定了云計算緩解系統存儲、處理數據壓力和容量上的迅速增長等優勢會吸引更多的投資,配合建設和運營成本的降低無疑將會給行業帶來質的飛躍,行業將有更多的投資用于技術升級、開發、更新換代,通信行業升級和規模拓展是必然,精細化運營成為潮流。增值業務系統中,云計算技術可以讓不同業務系統共享資源池,通過提高資源利用率。云計算的應用無疑會促使網絡資源服務向水電服務一樣變得快捷、方便,更加完善、全面的提供給用戶,在滿足用戶需要的同時為通信行業發展創造巨大的利潤。讓IT資源的使用變得像水電一樣方便,這不僅是移動通信行業對于未來云計算技術使用的期望,同時也是這種技術將會給我們帶來的美好未來。云計算模式帶來的全新服務模式,本質上可以說是計算與存儲功能從桌面到網絡客戶端的遷移和資源的動態伸縮,本質上降低了網絡服務成本,提升了運營效率,能夠更好地為移動通信行業的運營商創造收益的同時,滿足人民群眾日益提升的網絡資源服務需求,可以說,正是統一的開放的云計算業務平臺的出現,讓現代網絡服務和移動運營商有了更好的服務于競爭武器,在運營商優勢資源的輔助下,現代網絡服務逐漸以共贏合作的模式為主,網絡上臺環境和信息化變得更加高校,更多的用戶與開發者參與到這一過程中來,不僅促進了通信行業運營商的傳略轉型,廣大網絡用戶也在這個轉型的過程中享受到了更多優勢的服務。

全球IT產業目前最熱門的技術就是云計算技術,這種技術的出現和應用帶來了信息產業的革新與飛躍,隨著其應用領域和影響力的擴大,這一領域內的基礎設施和平臺建設逐漸變得越來越具于是,使通信行業運營商面臨眾多挑戰與機遇的同時,開始了行業的轉型發展。在2011年我國互聯網行業舉行的“云計算產業發展高層論壇”上,來自各大研究機構、通信運營商和互聯網行業各環節領域的專家與學者共聚一堂,對云計算技術的未來發展前景做了討論。他們一致認為,云計算技術不僅僅意味著一種新技術的應用,同時也會成為移動通訊行業轉型與發展的利器。云計算技術所代表的未來通信技術和信息服務方式的發展趨勢,使得虛擬化技術、分布與并行計算等技術不斷成熟,不僅更好的擴大了用戶群,提供了優質的服務,同時讓互聯網服務模式變為主流,引導了移動通信行業發展的趨勢[5]。

云計算技術在移動通信行業的應用,不僅有利于其自身業務能力的增強,降低生產成本,提升運營效率,利用統一的平臺架構和平臺的開放性,從外部引入開放創新力量,形成新的生態系統,在通信行業內開展大規模的低成本、高效率網絡運營服務,為云計算技術未來在移動通信行業的發展創造更好的前景。

參考文獻

[1]馮毅.淺談在云計算平臺下企業電子商務的發展[J].中國高新技術企業,2011(24).

[2]王健,莫敏.云計算和個人數字圖書館[J].當代圖書館,2011(02).

篇9

中圖分類號:TP311.13

隨著信息技術的高速發展和普及,各個領域都積累了海量的數據并且還在迅速增長,數據量動輒以Tbyte計。海量數據持續消耗著計算機軟硬件資源,資源的無限制擴張,使得單個計算機無法承擔起相應的重任。目前電信行業在數據分析的支撐方面注意面臨三個突出的問題,一是電信業發展到今天,歷史數據的存儲需求和電信業務量的不斷增大,電信運營商的數據已經變成海量,中等規模的省級移動公司,每天的數據增長已經達到2-3TB,如此海量的數據需要計算機具有極強的處理能力和足夠大的存儲空間;二是各級運營商都是各自為陣,配備硬件設備和存儲數據資源,造成了計算資源和存儲資源的嚴重浪費;三是現有的數據庫查詢功能已經滿足不了電信行業競爭日益激烈的決策支撐和服務。電信經營分析系統(BASS)作為電信業務支撐系統的一個主要支系統,數據的分析處理和挖掘對電信業務的發展起著重要作用,利用云計算平臺,整合優化資源,形成具有超級計算能力的資源池,提高資源利用效率,處理數據并為用戶提供服務。

1 經營分析系統概述

1.1 經營分析系統簡介

電信經營分析系統是電信運營商的核心系統之一,通過對底層數據的抽取、處理、裝載,實現數據的界面化展示,主要展示公司KPI指標,滿足企業決策需求和業務支撐發展的需要。

電信BASS采用兩級系統架構,由位于集團公司一側的一級BASS和位于省公司一側的省級BASS共同組成,兩級系統之間通過一定數據通信網進行數據通信。如圖1所示。

1.2 電信BASS面臨的不足和挑戰

目前電信BASS系統還是以指定數據庫服務器為載體進行數據的運算和裝載,但由于業務發展的需要和對數據分析要求的不斷提高,目前BASS系統主要面臨以下幾個突出的問題:

(1)依靠單服務器存儲數據的模式已經不能適應海量數據的急劇擴張,無法承載如此高的數據量。

(2)海量的數據源無法做到資源共享,經典的數據分析案例很難被借鑒和參考。

(3)服務器一旦出現故障,經分系統將會立即癱瘓。

(4)底層數據的存儲和導入目前還需人工處理,因人工導入數據需要一定的周期性,所以無法滿足經分系統實時訪問最新數據的需求。

1.3 電信BASS海量數據產生的原因

為了適應通信業日益發展的需要,電信BASS系統面臨著海量數據如何高效存儲和處理的挑戰,電信BASS海量數據產生的原因如下:

(1)現有數據隨著時間的推移和業務的發展,數據信息每天都在不斷增加,如客戶資料信息,語音通話信息,短彩信發送信息,數據流量信息等。運營商需要將這一系列數據進行數據挖掘,提取有價值的營銷資源信息,為業務發展提供更好的決策支撐。

(2)運營商期望充分運用已有歷史數據挖掘新的商業契機與營銷機會,也就意味著歷史數據將會為運營商提供大量的潛在價值信息,歷史數據中往往蘊含著有利用價值的潛在市場發展規律、包括市場發展的潛在危機和市場發展的重大機遇,因此需要將大量歷史數據進行長期保存。

2 云計算的特點

(1)超大規模集群:集群可以將本地及異地的計算機資源有效的整合起來,形成具有一定規模計算能力的資源池,提高設備計算能力。

(2)分布式存儲:大量的數據信息存儲在云端物理位置相互隔離的主機當中,提高了數據的存儲性能、安全性能和容災備份性能。

(3)高擴展性:云端計算集群的規??梢詣討B伸縮,按需提供服務,實時滿足計算的需求。

(4)低成本:云處理實際上是大幅提高云端設備的處理性能,客戶端的處理性能則要求不是很高,對企業來說,無疑大幅減少了成本支出。

3 基于云計算技術的經營分析系統

基于云計算的經營分析系統不但改變了以往依靠單一服務器存儲、計算的服務模式,而且提高了資源的利用效率和節約了企業成本,涉及的關鍵技術主要包括數據存儲、數據管理、編程模式等,解決的主要問題是海量數據如何存儲、海量數據如何索引和定位,海量數據如何抽取、海量數據如何更有效的運算。

3.1 海量數據存儲技術

通過分布式的異地存儲是解決海量存儲的有效方法。云計算技術發展到今天,目前數據存儲技術主要有Google的GFS(Google File System)和Hadoop開發團隊開發的GFS的開源實現HDFS(Hadoop Distributed File System)。

(1)Google 的GFS。GFS是由Google設計并實現的一個分布式文件系統,其中包括數據的存儲、管理、定位等多層面,其主要框架架構是把大量安裝有Linux操作系統的普通PC形成一個具有龐大的存儲處理能力計算機集群,分別有控制節點和存儲節點構成。

(2)Hadoop的HDFS。HDFS采用管理節點/存儲節點架構,如圖2所示。一個HDFS集群由一個管理節點和一定數目的存儲節點組成。

GFS與HDFS技術有效地將異地計算機資源整合在一起,形成具有超大存儲容量的計算集群,同時,為了優化系統的性能,提高資源的數據利用率,需要對數據進行并行處理,目前省屬各地州運營商的存儲系統都是各自為陣,獨立存儲,信息的存儲效能不但低下,而且在信息共享方面和信息處理速度方面存在瓶頸,云計算的分布式存儲技術將能夠有效解決面臨的這一突出問題。

3.2 海量數據管理技術

要高效管理和處理大規模數據集,首先必須解決如何在龐大的數據中心定位所需數據的問題。如何能夠快速在異地分布的存儲節點上找到所需的數據,提高數據管理效率是面臨的又一突出問題,目前電信BASS經分系統主要采用互動管理來實現對經分數據的調動和管理,主要還是通過ETL調度管理和服務管理兩個方面來實現,ETL負責數據的抽取、轉換、裝載,服務管理負責數據訪問的安全和效率?,F在這種技術已經不能適應當前業務發展的需要。云計算數據管理技術主要有Google的Big Table和Apache的Hbase等,Hbase是一個分布式的,面向列的開源數據庫,它不同于一般的關系數據庫,是一個適合于非結構化數據存儲的數據庫。

3.3 編程模式(分布式運算模式)

Map/Reduce的編程模式是目前云計算的核心和關鍵。任務如何分解,分解后的任務運用什么技術如何分配給終端去處理是其主要任務,Map/Reduce實際上就是任務分解和任務匯總的集合,在電信行業當中,其實主要是數據的分解和匯總Map/Reduce的工作模式如圖3所示。

Map/Reduce的實現機制使得任務如何分解和合并更加流程化,為后續的分布式計算提供了有利的條件。

3.4 海量數據處理模式

(1)現有經分系統中海量數據的一般處理方法。越來越多海量數據的出現,使得現有BASS系統在處理數據的容量存儲、處理速度及兼容性方面存在諸多不足,目前數據處理的一般方法有如下幾種:

1)通過高效的數據庫進行集中處理,如SQL、ORACLE數據,但一旦服務器出現故障,經分系統將會直接崩潰,無法運行,容災性能較差。

2)高效的SQL語句,由于對數據提取精確性的要求,要從海量的數據表中提取有效數據需要編寫更簡潔和高效的SQL語句。

3)分類存儲。對海量數據按類別進行細分,再對其進行分區存儲

4)建立合適的索引。對海量數據進行處理時,需要對數據進行分類、排序、這樣在數據提取和處理時能夠快速在服務器中定位。

(2)基于云計算技術的海量數據ETL處理算法的改進設計。由于目前ETL算法在對數據的處理和任務調度方面存在諸多不足,本文從以下兩個方面進行了改進和處理,一是通過借鑒Map/Reduce原理,將其充分運用到ETL的數據抽取環節,從而做到數據處理更高效,(簡稱SMB-DP)算法;二是對ETL任務調度進行優化,主要是將任務的優先級和任務處理時間考慮在內(簡稱AGB-ETL)。

整個算法的核心思想是:將原來的多次抽取數據改為一次性抽取數據,通過借鑒Map/Reduce原理對源數據進行拆分,形成多個目標文件,此次過程稱之為SMB-DP算法;然后再將這些目標文件的任務優先級及運行時間考慮在內對這些任務進行分配調度和數據處理,此過程稱之為AGB-ETL算法。具體如圖所示。

SMB-DP算法的基本思想是:將現有ETL處理流程中的多次抽取化成單次抽取,拆分后再進行并行的轉換裝載等處理。

該算法的實現關鍵包括單次抽取、對源數據進行拆分和并行轉換裝載三部分。具體描述如下:

(1)單次抽取。通過關鍵字段把所要提取的數據源表進行有效的合并。假設A表需要讀取“1、2、3、4、a、b、c、d ”8個字段,假設B表需要讀取“4、5、6、7、c、d、e、f”8個字段,那么可以一次性將源表所需的11個字段從源表中抽取,然后從中抽取A、B各需的字段,分別保存成兩個文件進行存儲。

(2)對源數據進行拆分。抽取數據的目的最終是為了拆分數據,通過借鑒Map/Reduce原理,把數據文件按照一定的字段劃分后存儲的云終端當中。

(3)并行轉換裝載。對于拆分后形成的多個目標文件,可以采用各種有效的并行處理技術進行并行的轉換及裝載處理,如將多個目標文件分配到不同的計算終端去運行,有效提高BASS的處理效能。

AGB-ETL算法的基本思想是:以任務優先級和任務運行時間為首要遵循的分配原則,將最需要處理的任務分配到處理時間最少的終端中去,這樣既提高了資源的利用率,又滿足了任務處理的實時需求,從而達到了資源的優化配置和調度。

目前常用的ETL任務調度算法主要有順序調度、隨機調度和基于貪婪算法的任務調度等三種。

(1)順序調度:按照順序將需要處理的任務逐個分配到終端中去處理。這沒有考慮任務的執行時間,執行效率比較低。

(2)隨機調度:從需要處理的任務當中隨機選取任務并隨機分配到任務組中,這種調度算法隨機性很差,也是沒有考慮任務的運行時間和任務優先級,因此處理效率也很低下。

(3)基于貪婪算法的任務調度:相對于前兩種算法,這種算法的處理性能和效率有了較大的提高,先通過系統內日志記錄算出任務最近幾次的運行時間,一般取10次左右,算出任務的平均運行時間進行排序,一般將任務運行時間最長的分配到當前估算執行時間最小的任務分組中,由于沒有考慮任務的優先級,因此任務的處理效能依舊不是很完善。

AGB-ETL算法涉及的過程主要是三個方面,描述如下所述:

(1)執行優先級的確定。優先級是根據相關業務規范以及移動BASS實時性處理的需求設定的。首先我們需要設定任務優先級的規范標準,以阿拉伯數字1為最高優先級,以此類推。

(2)估算時間的確定。一般我們會從系統日志中獲取每個任務的執行時間。通過查詢系統操作日志,獲取任務最近N次的執行時間,我們就可以算出該任務的平均執行時間。

(3)處理流程的描述。

1)首先將任務進行調度的判斷,如有則加入隊列,沒有則等待。

2)將任務隊列進行排序,排序的原則是優先級從高到低,優先級相同的,再按照任務執行時間從高到低排列。

3)將最需要處理的任務放入執行時間最少的單元當中。

4)更新該任務分組的總估算執行時間。

5)判定任務隊列L是否分配完畢。

4 結論

針對電信行業所面臨的海量數據處理的突出問題,本文通過對云計算關鍵技術研究應用,提出了基于云計算技術的經營分析系統對海量數據的處理和優化方法;通過對海量數據存儲、海量數據索引和定位、海量數據抽取與處理、海量數據分布式運算等幾個方面的研究,特別是對海量數據的抽取和處理,提出了基于拆分機制的海量數據處理算法和改進的基于貪婪算法的ETL任務調度算法,從而對海量異構源數據進行快速抽取、有效拆分和并行處理,可以更加合理地進行任務調度,實現資源的優化處理和按需分配。

參考文獻:

[1]楊勝琦.基于復雜網絡的大規模電信數據分析研究[D].北京郵電大學碩士學位論文,2010,5.

[2]孫少陵.云計算變革下電信運營商的機遇及中國移動云計算探索[J].移動通信,2010,11.

[3]孔令山.運營商虛擬化實踐與思考.

[4]張海濤.基于云計算平臺的電信經營分析系統研究.

[5]王金倫,樊秀菊.基于云計算的新一代電信業務支撐系統測評平臺的設計與實現[J].計算機應用與軟件,2011,3.

[6]秦潤鋒,樊勇兵,唐宏,金華敏.開源云計算管理平臺技術在電信運營商私有云建設中的應用研究.

[7]段云鋒.中國移動經營分析系統建設及應用電信經營分析.

篇10

一、云計算

(一)云計算的概述。近年來,由于數據的快速增長,用戶對計算機的數據存儲能力,要求也越來越高。云計算是一項新興的數據處理技術,改變著普通用戶使用計算機分析、處理數據的方式,為用戶提供了強大的數據分析、存儲能力,方便用戶進行數據管理,目的是讓用戶高效的使用計算機的數據資源[1]。云計算不僅是解決數據的計算問題,更多的是結合其他技術進行綜合發展。

(二)云計算的技術原理。云計算以互聯網作為發展平臺,以計算機技術作為實現途徑,將數據進行整合、處理、應用、存儲等,云計算是一種有效性強、低成本的計算機技術,通過計算機系統,實現數據資源優化的計算方式。云計算的基本原理是使數據分布在計算機上完成,能夠使計算的數據進行合理的應用,實現計算機的存儲功能。這就意味著計算機的云計算能力就像商品一樣可以進行流通,最主要的是使用方便,價格低,而主要方式又是通過互聯網進行的,實現了與計算機技術的接軌。

(三)云計算的應用。云計算具有操作簡單的優勢,用戶無需掌握太多的云計算技術,就可以直接進行操作。在云計算下,可以使用戶快速獲得信息,為用戶提供一站式服務[2]。云計算的特征主要表現為管理性、分散性、儲存性等特征,同時還具有服務性、經濟性等更深層次性的特征。云計算系統是通過IP網絡連接的,云計算系統的核心組成部分是云計算平臺。目前,國內多數企業都采用了云計算來為用戶服務,例如,谷歌推出的谷歌App服務,IBM推出的“云?!辈僮飨到y等等,許多知名的企業都在大力的開發云計算軟件,隨著云計算的發展,一些虛擬化服務、數據整合服務也都采用了云計算技術,爭取創造出更多的云計算產品。

二、云數據管理技術

(一)GFS技術。GFS技術,是一個大型的文件計算系統,它為谷歌云計算提供大量的數據儲存空間,形成谷歌的云計算解決方案[3]。GFS將整個系統分為客戶端、主服務器、數據塊服務器3類,使應用程序直接調用這些函數,與該數據庫連接在一起,進行整個系統數據的保存。GFS將文件按照固定大小進行分塊,每一塊被稱為一個數據塊,并有相應的索引號。在客戶端進行訪問GPS時,需要先進行節點訪問,然后進行數據信息的獲得,這種數據存儲方式實現了控制數據流的作用,使得云數據管理技術的整體性能得到了提高。

(二)Dynamo技術。云計算的數據具有數量龐大、數據不確定性的特點,需要采用有效的管理技術對數據進行分析和管理。在云數據的眾多管理技術中Dynamo技術具有獨特的技術優勢,它不僅具有分布式的儲存模式,而且還能進行數據存儲的表格構建,Dynamo技術可直接提供底層支持,它的優點是通過它所提供的N、R、M三個使用參數,根據客戶的需求來進行實例的調整,其中N是副本個數,R是讀取個數,W是寫入成功的個數,當讀取個數大于副本個數,就可以保證數據的一致性,當讀取個數小于副本個數,則就不能保證數據的一致性。Dynamo技術的工作原理其實就是提供不同的版本,并能夠靈活應用。

(三)云數據管理技術的利與弊。云數據管理的數據具有海量性、異構性、非確定性的特點,而云數據管理技術本身又具有規模大、結構性強的特點,是針對云數據的特點使用的一種數據管理方式,在應用上為客戶提供方便快捷的數據模型,來進行數據的讀取。雖然云數據管理技術在不斷的改進和完善,但也存在著一些問題,例如,在數據丟失時,如何進行數據的還原與修復的問題,是需要云數據管理進行技術提升的方面。

結論

隨著社會大量數據信息的涌現,云計算和云數據管理技術受到越來越多的關注,這也充分體現了數據由密集型向技術型轉變的發展趨勢。傳統的數據管理方式在海量數據的沖擊下,會遇到一定的挑戰,云數據管理技術應采用新的方式去處理數據,從更深層去管理數據,通過云計算的平臺構建,實現為更多用戶服務的理念,也將出現越來越多的數據管理技術,使數據存儲和管理方式不斷的更新與發展。

參考文獻

[1]劉正偉,文中領,張海濤.云計算和云數據管理技術[J].計算機研究與發展,2012,1(07):26-31.

主站蜘蛛池模板: 马山县| 宁强县| 黎平县| 邮箱| 镇沅| 友谊县| 墨玉县| 来安县| 托里县| 四平市| 揭东县| 中卫市| 梁平县| 洪泽县| 北海市| 轮台县| 大同县| 阜阳市| 铜山县| 苍山县| 古丈县| 延川县| 牙克石市| 福安市| 揭东县| 富顺县| 阿合奇县| 沭阳县| 开原市| 宁蒗| 开化县| 东至县| 兰溪市| 聊城市| 固始县| 南充市| 华阴市| 宣化县| 西乌| 西藏| 宣汉县|