Acasă Finanțe personale Apache Hadoop Ecosystem - dummies

Apache Hadoop Ecosystem - dummies

Video: Hadoop Tutorial For Beginners | Hadoop Ecosystem Explained in 20 min! - Frank Kane 2024

Video: Hadoop Tutorial For Beginners | Hadoop Ecosystem Explained in 20 min! - Frank Kane 2024
Anonim

Hadoop este mai mult decât MapReduce și HDFS (Hadoop Distributed File System): Este de asemenea o familie de proiecte conexe (un ecosistem, într-adevăr) procesarea datelor. Cele mai multe (dar nu toate) dintre aceste proiecte sunt găzduite de Fundația Software Apache. În tabel sunt enumerate unele dintre aceste proiecte.

Proiecte asociate Hadoop

Denumirea proiectului Descriere
Ambari Un set integrat de instrumente de administrare Hadoop pentru

instalarea, monitorizarea și menținerea unui cluster Hadoop. De asemenea,

sunt unelte pentru adăugarea sau eliminarea nodurilor slave.

Avro Un cadru pentru serializarea eficientă (un fel de

transformare) a datelor într-un format binar compact

Flume > date în Hadoop

HBase

O bază de date coloană distribuită care folosește HDFS pentru stocarea sa de bază. Cu HBase, aveți posibilitatea să stocați date în tabele mari

cu structuri variabile ale coloanelor.

HCatalog

Un serviciu pentru furnizarea unei vizualizări relaționale a datelor stocate în Hadoop, incluzând o abordare standard pentru datele tabulare

Nivelul

Un depozit de date distribuit pentru datele stocate în HDFS; oferă, de asemenea, o limbă de interogare bazată pe SQL

(HiveQL)

Hue

O interfață de administrare Hadoop cu instrumente GUI utile pentru fluxuri de lucru

Mahout

O bibliotecă de algoritmi statistici de învățare care au fost implementați în MapReduce și pot funcționa nativ pe Hadoop

Oozie Un instrument de gestionare a fluxului de lucru care poate gestiona programarea și > conectarea împreună a aplicațiilor Hadoop

Pig

O platformă pentru analiza seturilor de date foarte mari care rulează pe HDFS și cu un strat de infrastructură constând dintr-un compilator

care produce secvențe de programe MapReduce și

constând din limba de interogare numită Pig Latin Sqoop

O unealtă pentru mutarea eficientă a unor cantități mari de date între

bazele de date relaționale și HDFS

ZooKeeper

coordonarea serviciilor (cum ar fi denumirea, configurarea și sincronizarea) ed

aplicații distribuite

Ecosistemul Hadoop și distribuțiile sale comerciale continuă să evolueze, cu tehnologii și instrumente noi sau îmbunătățite care apar mereu.

Figura prezintă diferitele proiecte ale ecosistemelor Hadoop și modul în care acestea se raportează la un altul:

Apache Hadoop Ecosystem - dummies

Alegerea editorilor

Administrator de rețea: Zone de căutare inversă - dummies

Administrator de rețea: Zone de căutare inversă - dummies

Interogări DNS obișnuite sunt interogări de căutare înainte corespunde unui nume de domeniu complet calificat. O căutare inversă este opusul unei căutări forward: returnează numele de domeniu complet calificat al unei gazde pe baza adresei sale IP. Căutările inverse sunt posibile din cauza unui domeniu special numit ...

Rețea Elemente de bază: Clienți și servere - manechine

Rețea Elemente de bază: Clienți și servere - manechine

Computerul de rețea care conține hard disk-urile, imprimantele și alte resurse care sunt partajate cu alte calculatoare de rețea se numește un server. Acest termen vine în repetate rânduri, deci trebuie să-l amintiți. Scrie-o pe spatele mâinii tale stângi. Orice computer care nu este un server este numit client. Aveți ...

Retea Bazele: Poduri - dummies

Retea Bazele: Poduri - dummies

O punte este un dispozitiv care conecteaza doua retele astfel incat sa actioneze ca si cum ar fi o rețea. Podurile sunt utilizate pentru a împărți o rețea mare în două rețele mai mici din motive de performanță. Vă puteți gândi la un pod ca pe un repetor inteligent. Repetoarele ascultă semnale care coboară pe un cablu de rețea, amplifică ...

Alegerea editorilor

ÎMprumuta și tweak idei de la alte comunități online - dummies

ÎMprumuta și tweak idei de la alte comunități online - dummies

, Mai degrabă decât să ia ideile altcuiva complet pentru dvs. comunitate online, încercați să riffați pe aceeași idee, dar nu atât de mult încât este evident că nu sunteți creierul din spatele brainstorming-ului. Idei sunt acolo pentru a lua, dar nu ar fi mai degrabă văzute ca cineva inovatoare, nu cineva care scours pe web ...

Branding Blogul tău

Branding Blogul tău

Branding blog-ul tău merge mult spre a face dacă este ușor de recunoscut pentru cititorii tăi. Când vedeți un punct roșu în interiorul unui cerc roșu, ce magazin vine în minte? Ce zici de acele arcuri de aur? Un nume de marcă apare în minte atunci când vedeți simbolul swoosh? La fel ca magazinele populare, restaurantele și încălțămintea ...

Construiți un Blog Mama care este Sellable - dummies

Construiți un Blog Mama care este Sellable - dummies

Dacă obiectivul pe termen lung este de a vinde blogul dvs. ar trebui să o construiască cu acest scop în minte. Evitați asocierea prea intensă a blogului cu marca dvs. personală. Un blog care poate fi valoros cu orice scriitor la cârma trebuie să îndeplinească majoritatea, dacă nu toate, următoarele criterii: Blogul este concentrat ...

Alegerea editorilor

Cum să creați o nouă campanie de anunțuri LinkedIn - dummies

Cum să creați o nouă campanie de anunțuri LinkedIn - dummies

LinkedIn oferă servicii de publicitate pentru afacerea dvs. Dacă vă decideți să utilizați LinkedIn ca instrument de marketing, va trebui doar să obțineți o nouă campanie de anunțuri în lucrări. Când sunteți gata să începeți o nouă campanie, urmați acești pași:

Opțiuni de filtrare pentru anunțul dvs. LinkedIn - manechine

Opțiuni de filtrare pentru anunțul dvs. LinkedIn - manechine

Ce opțiuni de filtrare aveți pentru anunțul dvs. LinkedIn? Alte rețele de publicitate vă permit să filtrați publicul vizat de câteva atribute cunoscute ale persoanei care vă va vedea anunțul, sexul și locația membrilor din public. LinkedIn vă permite să faceți un pas mai departe permițându-vă ...

Oferind și primind viziuni pe LinkedIn - manechine

Oferind și primind viziuni pe LinkedIn - manechine

Deși mulți oameni cred că "Nu este ceea ce știi, știi, "care este unul dintre principalele motive pentru care LinkedIn este atât de valoros, mulți oameni (recrutorii, angajații, directorii executivi, investitorii și altele) sunt foarte interesați de ceea ce știi. În mod logic, oamenii care vă cunosc cel mai bine sunt oamenii din rețeaua dvs., care ...