新聞中心
Apache Storm從一端讀取??實時數據的原始流,并將其傳遞通過一系列小處理單元,并在另一端輸出處理/有用的信息。

成都創(chuàng)新互聯(lián)公司溝通電話:028-86922220,為您提供成都網站建設網頁設計及定制高端網站建設服務,成都創(chuàng)新互聯(lián)公司網頁制作領域十余年,包括成都生料攪拌車等多個方面擁有多年的網站制作經驗,選擇成都創(chuàng)新互聯(lián)公司,為企業(yè)保駕護航!
下圖描述了Apache Storm的核心概念。
現在讓我們仔細看看Apache Storm的組件 -
| 組件 | 描述 |
|---|---|
| Tuple | Tuple是Storm中的主要數據結構。它是有序元素的列表。默認情況下,Tuple支持所有數據類型。通常,它被建模為一組逗號分隔的值,并傳遞到Storm集群。 |
| Stream | 流是元組的無序序列。 |
| Spouts | 流的源。通常,Storm從原始數據源(如Twitter Streaming API,Apache Kafka隊列,Kestrel隊列等)接受輸入數據。否則,您可以編寫spouts以從數據源讀取數據?!癐Spout”是實現spouts的核心接口,一些特定的接口是IRichSpout,BaseRichSpout,KafkaSpout等。 |
| Bolts | Bolts是邏輯處理單元。Spouts將數據傳遞到Bolts和Bolts過程,并產生新的輸出流。Bolts可以執(zhí)行過濾,聚合,加入,與數據源和數據庫交互的操作。Bolts接收數據并發(fā)射到一個或多個Bolts。 “IBolt”是實現Bolts的核心接口。一些常見的接口是IRichBolt,IBasicBolt等。 |
讓我們來看一個“Twitter分析”的實時示例,看看如何在Apache Storm中建模。下圖描述了結構。
“Twitter分析”的輸入來自Twitter Streaming API。Spout將使用Twitter Streaming API讀取用戶的tweets,并作為元組流輸出。來自spout的單個元組將具有twitter用戶名和單個tweet作為逗號分隔值。然后,這個元組的蒸汽將被轉發(fā)到Bolt,并且Bolt將tweet拆分成單個字,計算字數,并將信息保存到配置的數據源?,F在,我們可以通過查詢數據源輕松獲得結果。
拓撲
Spouts和Bolts連接在一起,形成拓撲結構。實時應用程序邏輯在Storm拓撲中指定。簡單地說,拓撲是有向圖,其中頂點是計算,邊緣是數據流。
簡單拓撲從spouts開始。Spouts將數據發(fā)射到一個或多個Bolts。Bolt表示拓撲中具有最小處理邏輯的節(jié)點,并且Bolts的輸出可以發(fā)射到另一個Bolts作為輸入。
Storm保持拓撲始終運行,直到您終止拓撲。Apache Storm的主要工作是運行拓撲,并在給定時間運行任意數量的拓撲。
任務
現在你有一個關于Spouts和Bolts的基本想法。它們是拓撲的最小邏輯單元,并且使用單個Spout和Bolt陣列構建拓撲。應以特定順序正確執(zhí)行它們,以使拓撲成功運行。Storm執(zhí)行的每個Spout和Bolt稱為“任務”。簡單來說,任務是Spouts或Bolts的執(zhí)行。在給定時間,每個Spout和Bolt可以具有在多個單獨的螺紋中運行的多個實例。
進程
拓撲在多個工作節(jié)點上以分布式方式運行。Storm將所有工作節(jié)點上的任務均勻分布。工作節(jié)點的角色是監(jiān)聽作業(yè),并在新作業(yè)到達時啟動或停止進程。
流分組
數據流從Spouts流到Bolts,或從一個Bolts流到另一個Bolts。流分組控制元組在拓撲中的路由方式,并幫助我們了解拓撲中的元組流。有四個內置分組,如下所述。
隨機分組
在隨機分組中,相等數量的元組隨機分布在執(zhí)行Bolts的所有工人中。下圖描述了結構。
字段分組
元組中具有相同值的字段組合在一起,其余的元組保存在外部。然后,具有相同字段值的元組被向前發(fā)送到執(zhí)行Bolts的同一進程。例如,如果流由字段“字”分組,則具有相同字符串“Hello”的元組將移動到相同的工作者。下圖顯示了字段分組的工作原理。
全局分組
所有流可以分組并向前到一個Bolts。此分組將源的所有實例生成的元組發(fā)送到單個目標實例(具體來說,選擇具有最低ID的工作程序)。
所有分組
所有分組將每個元組的單個副本發(fā)送到接收Bolts的所有實例。這種分組用于向Bolts發(fā)送信號。所有分組對于連接操作都很有用。
本文題目:創(chuàng)新互聯(lián)Apache Storm教程:Apache Storm核心概念
瀏覽路徑:http://m.fisionsoft.com.cn/article/cdhgcgi.html


咨詢
建站咨詢
