當(dāng)前,整個(gè)互聯(lián)網(wǎng)正在從IT時(shí)代向DT時(shí)代演進(jìn),大數(shù)據(jù)技術(shù)也正在助力企業(yè)和公眾敲開(kāi)DT世界大門(mén)。當(dāng)今“大數(shù)據(jù)”一詞的重點(diǎn)其實(shí)已經(jīng)不僅在于數(shù)據(jù)規(guī)模的定義,它更代表著信息技術(shù)發(fā)展進(jìn)入了一個(gè)新的時(shí)代,代表著爆炸性的數(shù)據(jù)信息給傳統(tǒng)的計(jì)算技術(shù)和信息技術(shù)帶來(lái)的技術(shù)挑戰(zhàn)和困難,代表著大數(shù)據(jù)處理所需的新的技術(shù)和方法,也代表著大數(shù)據(jù)分析和應(yīng)用所帶來(lái)的新發(fā)明、新服務(wù)和新的發(fā)展機(jī)遇。
為了幫助大家更好深入了解大數(shù)據(jù),云棲社區(qū)組織翻譯了GitHub Awesome Big Data資源,供大家參考。本資源類(lèi)型主要包括:大數(shù)據(jù)框架、論文等實(shí)用資源集合。
資源列表:
-
關(guān)系數(shù)據(jù)庫(kù)管理系統(tǒng)(RDBMS)
-
框架
-
分布式編程
-
分布式文件系統(tǒng)
-
文件數(shù)據(jù)模型
-
Key -Map 數(shù)據(jù)模型
-
鍵-值數(shù)據(jù)模型
-
圖形數(shù)據(jù)模型
-
NewSQL數(shù)據(jù)庫(kù)
-
列式數(shù)據(jù)庫(kù)
-
時(shí)間序列數(shù)據(jù)庫(kù)
-
類(lèi)SQL處理
-
數(shù)據(jù)攝取
-
服務(wù)編程
-
調(diào)度
-
機(jī)器學(xué)習(xí)
-
基準(zhǔn)測(cè)試
-
安全性
-
系統(tǒng)部署
-
應(yīng)用程序
-
搜索引擎與框架
-
MySQL的分支和演化
-
PostgreSQL的分支和演化
-
Memcached的分支和演化
-
嵌入式數(shù)據(jù)庫(kù)
-
商業(yè)智能
-
數(shù)據(jù)可視化
-
物聯(lián)網(wǎng)和傳感器
-
文章
-
論文
-
視頻
關(guān)系數(shù)據(jù)庫(kù)管理系統(tǒng)(RDBMS)
-
:世界最流行的開(kāi)源數(shù)據(jù)庫(kù);
-
:世界最先進(jìn)的開(kāi)源數(shù)據(jù)庫(kù);
-
:對(duì)象-關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng)。
框架
-
:分布式處理架構(gòu),結(jié)合了 MapReduce(并行處理)、YARN(作業(yè)調(diào)度)和HDFS(分布式文件系統(tǒng));
-
:高吞吐量實(shí)時(shí)流處理框架。
分布式編程
-
:最初在AddThis上開(kāi)發(fā)的分布式數(shù)據(jù)處理和存儲(chǔ)系統(tǒng);
-
:用在Hadoop MapReduce v1上運(yùn)行Spark;
-
:為統(tǒng)一的模型以及一套用于定義和執(zhí)行數(shù)據(jù)處理工作流的特定SDK語(yǔ)言;
-
:一個(gè)簡(jiǎn)單的Java API,用于執(zhí)行在普通的MapReduce實(shí)現(xiàn)時(shí)比較單調(diào)的連接、數(shù)據(jù)聚合等任務(wù);
-
:由LinkedIn開(kāi)發(fā)的針對(duì)Hadoop and 和Pig的用戶(hù)定義的函數(shù)集合;
-
:具有高性能的執(zhí)行時(shí)間和自動(dòng)程序優(yōu)化;
-
:內(nèi)存中的數(shù)據(jù)模型和持久性框架;
-
:BSP(整體同步并行)計(jì)算框架;
-
:在集群上使用并行、分布式算法處理大數(shù)據(jù)集的編程模型;
-
:Hadoop中,用于處理數(shù)據(jù)分析程序的高級(jí)查詢(xún)語(yǔ)言;
-
:用來(lái)簡(jiǎn)化和統(tǒng)一低層大數(shù)據(jù)系統(tǒng)的保留性評(píng)估執(zhí)行框架;
-
:S4中流處理與實(shí)現(xiàn)的框架;
-
:內(nèi)存集群計(jì)算框架;
-
:流處理框架,同時(shí)是Spark的一部分;
-
:Twitter流處理框架,也可用于YARN;
-
:基于Kafka和YARN的流處理框架;
-
:基于YARN,用于執(zhí)行任務(wù)中的復(fù)雜DAG(有向無(wú)環(huán)圖);
-
:基于YARN的抽象概念,用于減少開(kāi)發(fā)分布式應(yīng)用程序的復(fù)雜度;
-
:數(shù)據(jù)處理和查詢(xún)庫(kù);
-
:在MapReduce之上的高性能、自定義數(shù)據(jù)倉(cāng)庫(kù);
-
:在Hadoop上的數(shù)據(jù)管理/分析框架;
-
:用于Clojure的MapReduce庫(kù);
-
:可選擇的MapReduce范例;
-
:為實(shí)時(shí)引擎,用于以盡可能暢通的方式、最小的開(kāi)支和對(duì)性能最小的影響,實(shí)現(xiàn)分布式、異步、實(shí)時(shí)的內(nèi)存大數(shù)據(jù)計(jì)算;
-
:為Hadoop做優(yōu)化處理,從而消除單點(diǎn)故障;
-
:MapReduce框架;
-
:分布式內(nèi)存數(shù)據(jù)存儲(chǔ);
-
:創(chuàng)建數(shù)據(jù)管道,以幫助其分析框架;
-
:為MapReduce,用于編譯成Apache Pig;
-
:由Nokia開(kāi)發(fā)的MapReduc獲取、轉(zhuǎn)換和分析數(shù)據(jù);
-
:MapReduce框架;
-
:容錯(cuò)流處理框架;
-
:用于處理結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)工作的聲明性編程語(yǔ)言;
-
:為一組庫(kù)、工具、實(shí)例和文檔集,用于使在Hadoop的生態(tài)系統(tǒng)上建立系統(tǒng)更加容易;
-
:用于大數(shù)據(jù)集的實(shí)時(shí)e框架;
-
:分布式云計(jì)算;
-
:異步任務(wù)執(zhí)行系統(tǒng);
-
:用于Hadoop的Python MapReduce和HDFS API;
-
:多租戶(hù)分布式測(cè)度處理系統(tǒng);
-
:通用集群計(jì)算框架;
-
:用于計(jì)算基于不同時(shí)間窗口的事件流的活動(dòng),并找到最活躍的一個(gè);
-
:易于使用的用于分批處理和流計(jì)算的平臺(tái),通過(guò)Scala、 Akka和Play所建;
-
:基于Cascading,用于Map Reduce工作的Scala庫(kù);
-
:在Twitter上使用Scalding和Storm串流MapReduce;
-
:Twitter上的時(shí)間序列聚合器。
分布式文件系統(tǒng)
-
:在多臺(tái)機(jī)器上存儲(chǔ)大型文件的方式;
-
:以前是FhGFS,并行分布式文件系統(tǒng);
-
:設(shè)計(jì)的軟件存儲(chǔ)平臺(tái);
-
:分布式文件系統(tǒng);
-
:對(duì)象存儲(chǔ)系統(tǒng);
-
:分布式文件系統(tǒng)(GFS2);
-
:分布式文件系統(tǒng);
-
:可擴(kuò)展的、高度可用的存儲(chǔ);
-
:兼容GGFS、Hadoop內(nèi)存的文件系統(tǒng);
-
:高性能分布式文件系統(tǒng);
-
:開(kāi)源分布式文件系統(tǒng);
-
:向外擴(kuò)展的附網(wǎng)存儲(chǔ)(Network-attached Storage)文件系統(tǒng);
-
:簡(jiǎn)單的、高度可擴(kuò)展的分布式文件系統(tǒng);
-
:以可靠的存儲(chǔ)速率在跨集群框架上文件共享;
-
:分布式云存儲(chǔ)系統(tǒng);
文件數(shù)據(jù)模型
-
:商用的面向?qū)ο髷?shù)據(jù)庫(kù)管理系統(tǒng);
-
:是一個(gè)開(kāi)源的大規(guī)模可擴(kuò)展的數(shù)據(jù)存儲(chǔ),需要零管理模式;
-
:Facebook的Paxos算法,類(lèi)似于NoSQL數(shù)據(jù)庫(kù);
-
:基于Hadoop的面向文檔的數(shù)據(jù)存儲(chǔ);
-
:可橫向擴(kuò)展的面向文檔的NoSQL數(shù)據(jù)存儲(chǔ);
-
:模式不可知的企業(yè)版NoSQL數(shù)據(jù)庫(kù)技術(shù);
-
:面向文檔的數(shù)據(jù)庫(kù)系統(tǒng);
-
:一個(gè)事務(wù)性的,開(kāi)源文檔數(shù)據(jù)庫(kù);
-
:支持連接查詢(xún)和群組依據(jù)等查詢(xún)的文檔型數(shù)據(jù)庫(kù)。
Key Map 數(shù)據(jù)模型
注意:業(yè)內(nèi)存在一些術(shù)語(yǔ)混亂,有兩個(gè)不同的東西都叫做“列式數(shù)據(jù)庫(kù)”。這里列出的有一些是圍繞“key-map”數(shù)據(jù)模型而建的分布式、持續(xù)型數(shù)據(jù)庫(kù),其中所有的數(shù)據(jù)都有(可能綜合了)鍵,并與映射中的鍵-值對(duì)相關(guān)聯(lián)。在一些系統(tǒng)中,多個(gè)這樣的值映射可以與鍵相關(guān)聯(lián),并且這些映射被稱(chēng)為“列族”(具有映射值的鍵被稱(chēng)為“列”)。
另一組也可稱(chēng)為“列式數(shù)據(jù)庫(kù)”的技術(shù)因其存儲(chǔ)數(shù)據(jù)的方式而有別于前一組,它在磁盤(pán)上或在存儲(chǔ)器中——而不是以傳統(tǒng)方式,即所有既定鍵的鍵值都相鄰著、逐行存儲(chǔ)。這些系統(tǒng)也彼此相鄰來(lái)存儲(chǔ)所有列值,但是要得到給定列的所有值卻不需要以前那么繁復(fù)的工作。
前一組在這里被稱(chēng)為“key map數(shù)據(jù)模型”,這兩者和之間的界限是相當(dāng)模糊的。后者對(duì)數(shù)據(jù)模型有更多的存儲(chǔ)格式,可在中列出。若想了解更多關(guān)于這兩種模型的區(qū)分,可閱讀Daniel Abadi的博客:。
-
:內(nèi)置在Hadoop上的分布式鍵/值存儲(chǔ);
-
:由BigTable授權(quán),面向列的分布式數(shù)據(jù)存儲(chǔ);
-
:由BigTable授權(quán),面向列的分布式數(shù)據(jù)存儲(chǔ);
-
:Facebook所開(kāi)發(fā)的HBase的衍化品;
-
:面向列的分布式數(shù)據(jù)存儲(chǔ);
-
:為完全管理型的無(wú)模式數(shù)據(jù)庫(kù),用于存儲(chǔ)在BigTable上非關(guān)系型數(shù)據(jù);
-
:由BigTable授權(quán),面向列的分布式數(shù)據(jù)存儲(chǔ);
-
:通過(guò)MySQL的接口訪問(wèn),并使用大規(guī)模并行處理進(jìn)行并行查詢(xún);
-
:用于HBase處理;
-
:Twitter的實(shí)時(shí)、多租戶(hù)分布式數(shù)據(jù)庫(kù)。
鍵-值數(shù)據(jù)模型
-
:支持NoSQL的閃存優(yōu)化,數(shù)據(jù)存儲(chǔ)在內(nèi)存。開(kāi)源,“'C'(不是Java或Erlang)中的服務(wù)器代碼可精確地調(diào)整從而避免上下文切換和內(nèi)存拷貝”。
-
:分布式鍵/值存儲(chǔ),Dynamo論文的實(shí)現(xiàn);
-
:為替代Redis的協(xié)議兼容的服務(wù)器;
-
:專(zhuān)門(mén)研究Hadoop中數(shù)據(jù)導(dǎo)出的分布式數(shù)據(jù)庫(kù);
-
:分布式時(shí)間序列數(shù)據(jù)庫(kù);
-
:適用于存儲(chǔ)在時(shí)間序列中的傳感器數(shù)據(jù);
-
:簡(jiǎn)單的持久性數(shù)據(jù)存儲(chǔ),擁有低延遲和高吞吐量;
-
:分布式鍵/值存儲(chǔ)系統(tǒng);
-
:Oracle公司開(kāi)發(fā)的分布式鍵值數(shù)據(jù)庫(kù);
-
:內(nèi)存中的鍵值數(shù)據(jù)存儲(chǔ);
-
:分散式數(shù)據(jù)存儲(chǔ);
-
:Twitter開(kāi)發(fā)的異步鍵值存儲(chǔ)的庫(kù);
-
:一個(gè)高效的NoSQL數(shù)據(jù)庫(kù)和Lua應(yīng)用服務(wù)器;
-
:由Google Spanner和HBase授權(quán),Rust提供技術(shù)支持的分布式鍵值數(shù)據(jù)庫(kù);
-
:可復(fù)制、共享的鍵-值存儲(chǔ),能提供多行原子寫(xiě)入。
圖形數(shù)據(jù)模型
-
:基于Hadoop的Pregel實(shí)現(xiàn);
-
:可實(shí)現(xiàn)Pregel,為Spark的一部分;
-
:多層模型分布式數(shù)據(jù)庫(kù);
-
:一個(gè)可擴(kuò)展的、分布式、低時(shí)延、高吞吐量的圖形數(shù)據(jù)庫(kù),旨在為Google生產(chǎn)水平規(guī)模和吞吐量提供足夠的低延遲,用于TB級(jí)的結(jié)構(gòu)化數(shù)據(jù)的實(shí)時(shí)用戶(hù)查詢(xún);
-
:TAO是facebook廣泛用來(lái)存儲(chǔ)和服務(wù)于社交圖形的分布式數(shù)據(jù)存儲(chǔ);
-
:GCHQ中的Gaffer是一個(gè)易于存儲(chǔ)大規(guī)模圖形的框架,其中節(jié)點(diǎn)和邊緣都有統(tǒng)計(jì)數(shù)據(jù);
-
:開(kāi)源圖形數(shù)據(jù)庫(kù);
-
:圖形處理框架;
-
:核心C ++ GraphLab API和建立在GraphLab API之上的高性能機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘工具包的集合;
-
:Spark中的彈性分布式圖形系統(tǒng);
-
:圖形追蹤語(yǔ)言;
-
:以RDF為中心的Map / Reduce框架;
-
:在Hadoop上構(gòu)建大規(guī)模圖形的工具;
-
:用于在GPU上大規(guī)模并行圖形處理;
-
:完全用Java寫(xiě)入的圖形數(shù)據(jù)庫(kù);
-
:文檔和圖形數(shù)據(jù)庫(kù);
-
:大型圖形處理框架;
-
:建于Cassandra的分布式圖形數(shù)據(jù)庫(kù);
-
:分布式圖形數(shù)據(jù)庫(kù)。
NewSQL數(shù)據(jù)庫(kù)
-
:由商業(yè)支持,開(kāi)源的SQL關(guān)系數(shù)據(jù)庫(kù)管理系統(tǒng);
-
:基于PostgreSQL的數(shù)據(jù)倉(cāng)庫(kù)服務(wù);
-
:面向統(tǒng)計(jì)數(shù)值的SQL數(shù)據(jù)庫(kù);
-
:通過(guò)分區(qū)和復(fù)制橫向擴(kuò)展PostgreSQL;
-
:可擴(kuò)展、地址可復(fù)制、交易型的數(shù)據(jù)庫(kù);
-
:旨在產(chǎn)生可擴(kuò)展、靈活的智能應(yīng)用的分布式數(shù)據(jù)庫(kù);
-
:由F1授意的分布式數(shù)據(jù)庫(kù);
-
:建立在Spanner上的分布式SQL數(shù)據(jù)庫(kù);
-
:全球性的分布式半關(guān)系型數(shù)據(jù)庫(kù);
-
:是一個(gè)實(shí)驗(yàn)性主存并行數(shù)據(jù)庫(kù)管理系統(tǒng),用于聯(lián)機(jī)事務(wù)處理(OLTP)應(yīng)用的優(yōu)化;
-
:基于Percolator,HBase的線性可擴(kuò)展多行多表交易庫(kù);
-
:MySQL/MariaDB的NoSQL插件;
-
:無(wú)限可擴(kuò)展的RDBMS;
-
:內(nèi)存中的SQL數(shù)據(jù)庫(kù),其中有優(yōu)化的閃存列存儲(chǔ);
-
:SQL / ACID兼容的分布式數(shù)據(jù)庫(kù);
-
:內(nèi)存中具有持久性和可恢復(fù)性的關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng);
-
:內(nèi)存中低延時(shí)的分布式SQL數(shù)據(jù)存儲(chǔ),可為內(nèi)存列表數(shù)據(jù)提供SQL接口,在HDFS中較持久化;
-
:是在內(nèi)存中面向列的關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng);
|