中文字幕av高清_国产视频一二区_男女羞羞羞视频午夜视频_成人精品一区_欧美色视_在线视频这里只有精品

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機(jī)構(gòu)

手機(jī)站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時(shí)隨地免費(fèi)學(xué)

千鋒教育

掃一掃進(jìn)入千鋒手機(jī)站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時(shí)隨地免費(fèi)學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > 有了Kafka+流處理框架,為什么還需要時(shí)序數(shù)據(jù)庫?

有了Kafka+流處理框架,為什么還需要時(shí)序數(shù)據(jù)庫?

來源:千鋒教育
發(fā)布人:xqq
時(shí)間: 2023-10-13 02:57:26 1697137046

一、有了Kafka+流處理框架,為什么還需要時(shí)序數(shù)據(jù)庫

在物聯(lián)網(wǎng)實(shí)際部署中,消息中間件(kafka,emq等)和時(shí)序數(shù)據(jù)庫通常是上下游的關(guān)系。

消息中間件有非常高的并發(fā)能力,能夠同時(shí)接受百萬級的網(wǎng)絡(luò)連接。一個數(shù)據(jù)庫(包括關(guān)系數(shù)據(jù)庫和時(shí)序數(shù)據(jù)庫)創(chuàng)建一個會話(客戶端連接)的成本比較高,能接受的連接數(shù)量也就在幾百和幾千這樣的級別(分布式數(shù)據(jù)庫可以按節(jié)點(diǎn)數(shù)增加,但數(shù)量遠(yuǎn)遠(yuǎn)小于消息中間件)。當(dāng)面對大量的物聯(lián)網(wǎng)傳感器,消息中間件架設(shè)在中間,接受傳感器的數(shù)據(jù),然后再批量寫入到時(shí)序數(shù)據(jù)庫中。時(shí)序數(shù)據(jù)庫的寫入吞吐量遠(yuǎn)遠(yuǎn)高于關(guān)系數(shù)據(jù)庫,每秒寫入百萬級和千萬級的數(shù)據(jù)點(diǎn)都不是問題。以分布式時(shí)序數(shù)據(jù)庫DolphinDB為例,6個服務(wù)器構(gòu)成的集群,每秒能達(dá)到千萬測點(diǎn)的三副本寫入。可以這么說,消息中間件的高并發(fā)能力和時(shí)序數(shù)據(jù)庫的高吞吐量聯(lián)合起來,解決了物聯(lián)網(wǎng)海量數(shù)據(jù)的實(shí)時(shí)處理和存儲問題。

至于時(shí)序數(shù)據(jù)庫的用途,參考其它回答,包括:提供永久的數(shù)據(jù)存儲和管理能力,數(shù)據(jù)查詢和分析等。

抽象來看,消息隊(duì)列與時(shí)序數(shù)據(jù)庫沒有本質(zhì)的區(qū)別,都是對時(shí)間序列數(shù)據(jù)的處理。但功能上,時(shí)序數(shù)據(jù)庫要有查詢、計(jì)算,而消息隊(duì)列只是簡單的生產(chǎn)、消費(fèi),先進(jìn)先出。由于要有計(jì)算、分析,無論是結(jié)構(gòu)化寫入還是schemaless寫入,時(shí)序數(shù)據(jù)庫內(nèi)部一定要把數(shù)據(jù)結(jié)構(gòu)化處理,否則沒法進(jìn)行計(jì)算和分析的。而消息隊(duì)列完全不用考慮這個,完全做非結(jié)構(gòu)化數(shù)據(jù)處理就行。從存儲設(shè)計(jì)的角度來看,兩者是沒有區(qū)別的,都需要有數(shù)據(jù)的保留策略,都需要對數(shù)據(jù)進(jìn)行分區(qū)分片。一個時(shí)間線的ID可以作為kafka來的key, 對數(shù)據(jù)指定partition.

兩者正在融合,開源的TDengine就是這樣的,它不僅是時(shí)序數(shù)據(jù)庫,但同時(shí)又具備消息隊(duì)列的功能。這樣在大數(shù)據(jù)框架下,就能減少一個環(huán)節(jié),降低系統(tǒng)復(fù)雜度,降低運(yùn)維成本。Kafka的企業(yè)版也在做類似的事情,除消息隊(duì)列功能外,對外還提供SQL查詢,提供各種分析計(jì)算功能。

更進(jìn)一步,流式計(jì)算也可以融合進(jìn)來。流式計(jì)算也是基于時(shí)序數(shù)據(jù)的,因此TDengine從設(shè)計(jì)的名列前茅天起,就考慮了流式計(jì)算,但目前還僅僅提供時(shí)間驅(qū)動的流式計(jì)算,后續(xù)版本會提供基于事件驅(qū)動的流式計(jì)算。這樣對于物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、IT運(yùn)維等場景,系統(tǒng)架構(gòu)將更進(jìn)一步簡化,運(yùn)維成本進(jìn)一步降低。

延伸閱讀:

二、時(shí)間序列數(shù)據(jù)庫TSDB

TSDB(Time Series Database):一系列數(shù)據(jù)點(diǎn)按照時(shí)間順序排列;時(shí)間序列數(shù)據(jù)就是歷史烙印,具有不變性、時(shí)間排序性。

(基于時(shí)間的一系列數(shù)據(jù),在有時(shí)間的坐標(biāo)中將這些數(shù)據(jù)點(diǎn)連成線,往過去看可以做成多維度報(bào)表,揭示其趨勢性、規(guī)律性、異常性;往未來看可以做大數(shù)據(jù)分析、機(jī)器學(xué)校、實(shí)現(xiàn)預(yù)測和預(yù)警。

時(shí)序數(shù)據(jù)庫就是存放時(shí)序數(shù)據(jù)的數(shù)據(jù)庫,并且需要支持時(shí)序數(shù)據(jù)的快速寫入、持久化、多維度的聚合查詢等基本功能)。

聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強(qiáng)師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時(shí)內(nèi)將與您1V1溝通
免費(fèi)領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
Oracle數(shù)據(jù)庫的實(shí)例是什么?

一、Oracle數(shù)據(jù)庫的實(shí)例Oracle實(shí)例指的是由Oracle內(nèi)存結(jié)構(gòu)(SGA)和Oracle進(jìn)程組合在一起的統(tǒng)稱,是一系列復(fù)雜的內(nèi)存結(jié)構(gòu)和操作系統(tǒng)進(jìn)程;在任...詳情>>

2023-10-13 04:34:10
oracle數(shù)據(jù)庫有什么優(yōu)勢?

一、oracle數(shù)據(jù)庫有什么優(yōu)勢1、Oracle是大型數(shù)據(jù)庫而Mysql是中小型數(shù)據(jù)庫,Oracle市場占有率達(dá)40%,Mysql只有20%左右,同時(shí)Mysql是開源的而Orac...詳情>>

2023-10-13 04:33:00
為什么不用key-value型數(shù)據(jù)庫實(shí)現(xiàn)關(guān)系型數(shù)據(jù)庫?

一、為什么不用key-value型數(shù)據(jù)庫實(shí)現(xiàn)關(guān)系型數(shù)據(jù)庫TiDB / CockroachDB 都是基于 KV 模型做的分布式關(guān)系型數(shù)據(jù)庫。TiDB 實(shí)際上是構(gòu)建在 TiKV + p...詳情>>

2023-10-13 04:21:53
關(guān)系型數(shù)據(jù)庫是什么?

一、什么是關(guān)系型數(shù)據(jù)庫關(guān)系型數(shù)據(jù)庫是按照關(guān)系模型組織和存儲數(shù)據(jù)的數(shù)據(jù)庫。它使用表格(表)的形式來表示和存儲數(shù)據(jù),每個表代表一個實(shí)體,而...詳情>>

2023-10-13 04:12:45
什么情況下需要使用分布式數(shù)據(jù)庫?

一、需要使用分布式數(shù)據(jù)庫的情況1、大規(guī)模數(shù)據(jù)存儲和處理當(dāng)數(shù)據(jù)量非常大時(shí),單個數(shù)據(jù)庫可能無法滿足存儲和處理的需求。分布式數(shù)據(jù)庫可以將數(shù)據(jù)...詳情>>

2023-10-13 04:09:56
快速通道
主站蜘蛛池模板: 欧美中文日韩 | 国产中文在线 | 国产一级特黄aaa大片评分 | 一区二区三区四区国产 | 91视频污软件 | 午夜影视免费观看 | 99久久婷婷国产综合精品电影 | 国产视频一视频二 | 欧美.com | 国产激情在线观看视频 | 国产成人精品一区二区三区 | 九九99| 成人欧美一区二区三区在线湿哒哒 | 成人在线免费观看视频 | 亚洲国产精品久久 | 国产精品美女一区二区三区四区 | 成人免费网站视频 | 国产精品久久久久久久午夜 | 国产一区二区三区在线 | 69黄在线看片免费视频 | 成人二区 | 天天干 夜夜操 | 黄瓜av| 亚洲一区二区三区高清 | 久久av网 | 狠狠插狠狠操 | 逼逼av | 国产成人精品免高潮在线观看 | 日本黄色免费大片 | 久久av黄色 | 欧美日日| 91精品资源 | 日韩视频在线一区二区 | 在线免费观看黄色小视频 | 精品视频免费观看 | 中文字幕一区二区三区免费视频 | www在线播放 | aaa在线观看 | 久久精品不卡 | 成人一区二区三区在线观看 | 欧美激情五月 |