Pour gérer vos consentements :
Categories: Big DataCloud

Big Data : YARN remplace MapReduce et apporte la simultanéité à Hadoop 2.0

L’Apache Software Foundation a annoncé que Hadoop 2.0 (en réalité la version technique 2.2.0) est disponible sous la désignation GA (General Availability).

Cette nouvelle version intègre des fonctionnalités très attendues, dont certaines déjà remarquées au sein de distributions commerciales. La communauté qui privilégie l’approche open source de la plateforme de big data analytique appréciera.

YARN prend la lace de MapReduce

La plus significative est l’intégration de YARN (Yet Another Ressource Negociator) – aussi appelé MapReduce 2.0 (MRv2) – qui prend la place de MapReduce. YARN vient se placer au dessus de HDFS (Hadoop Destributed File System) afin d’offrir des fonctionnalités de système d’exploitation pour les applications analytiques Big Data.

Cette disposition permet l’exécution simultanée de multiples applications tout en offrant un meilleur suivi de la donnée tout au long de son cycle de vie. Elle permet également de mixer des workloads en batch, interactif et en temps réel. YARN conserve également la compatibilité avec les API (Application Programming Interface) de MapReduce, ne nécessitant qu’une recompilation des applications développées pour celui-ci.

La principale différence apportée par YARN provient de la séparation en deux daemons de la gestion des ressources (RessourceManager – RM) et du pilotage des tâches ou applications (ApplicationMaster – AM). AM est un framework disposant d’une librairie spécifique qui négocie les ressources RM avec le NodeManager (NM) afin d’exécuter et de monitorer les tâches.

L’architecture YARN


Voir aussi

Silicon.fr étend son site dédié à l’emploi IT
Silicon.fr en direct sur les smartphones et tablettes

Recent Posts

Le Réseau interministériel de l’État, sujet à dépendance

La Cour des comptes appelle à formaliser et à professionnaliser certains aspects du RIE, tout…

2 heures ago

Etalab en position de faiblesse au sein de la Dinum

La Cour des comptes attire l'attention sur le risque d'affaiblissement d'Etalab, privé, ces dernières années,…

4 heures ago

Une Dinum « balbutiante » sur l’open data et les logiciels libres

Missions historiques de la Dinum, l'ouverture des données publiques et la promotion des logiciels libres…

6 heures ago

Pour son premier LLM codeur ouvert, Mistral AI choisit une architecture alternative

Pour développer une version 7B de son modèle Codestral, Mistral AI n'a pas utilisé de…

1 jour ago

Microsoft x Inflection AI : l’autorité de la concurrence britannique lance son enquête

L’Autorité de la concurrence et des marchés (CMA) britannique ouvre une enquête sur les conditions…

1 jour ago

Thomas Gourand, nouveau Directeur Général de Snowflake en France

Thomas Gourand est nommé Directeur Général pour la France. Il est chargé du développement de…

1 jour ago