Data Engineer

• Analyser l’expression d’un besoin de projet data dans une étude de faisabilité en explorant, à l’aune des enjeux stratégiques de l’organisation, le besoin métier avec les parties prenantes pour valider les orientations et sélectionner les hypothèses techniques du projet avec le ou les commanditaire(s).
• Cartographier les données disponibles en référençant les usages, les sources, les métadonnées et les données afin de valider les hypothèses techniques du projet data.
• Concevoir un cadre technique d’exploitation des données en analysant les contraintes techniques, de moyens et la cartographie des données afin de définir une réponse technique adaptée aux ressources mobilisables dans le respect du RGPD et d’une démarche éco-responsable.
• Réaliser une veille technique et réglementaire en sélectionnant des sources et en collectant et traitant les informations collectées afin de formuler des recommandations projet toujours en phase avec l’état de l’art.
• Planifier la réalisation d’un projet data en attribuant les moyens nécessaires et en définissant les étapes de réalisation et les méthodes de suivi du projet afin de d’organiser sa mise en oeuvre
• Superviser la réalisation d’un projet data en organisant les méthodes, les outils de travail et la communication entre les parties prenantes, afin d’accompagner les membres de l’équipe dans la réussite du projet
• Communiquer tout au long de la réalisation du projet data sur les orientations, les réalisations et leurs impacts en élaborant la stratégie et les supports de communication afin d’informer toutes les parties prenantes des évolutions ou des opportunités internes comme externes, portés par le projet.
• Automatiser l’extraction de données depuis un service web, une page web (scraping), un fichier de données, une base de données et un système big data en programmant le script adapté afin de pérenniser la collecte des données nécessaires au projet.
• Développer des requêtes de type SQL d’extraction des données depuis un système de gestion de base de données et un système big data en appliquant le langage de requête propre au système afin de préparer la collecte des données nécessaires au projet.
• Développer des règles d'agrégation de données issues de différentes sources en programmant, sous forme de script, la suppression des entrées corrompues et en programmant l’homogénéisation des formats des données afin de préparer le stockage du jeu de données final.
• Créer une base de données dans le respect du RGPD en élaborant les modèles conceptuels et physiques des données à partir des données préparées et en programmant leur import afin de stocker le jeu de données du projet.
• Partager le jeu de données en configurant des interfaces logicielles et en créant des interfaces programmables afin de mettre à disposition le jeu de données pour le développement du projet.
• Modéliser la structure des données d’un entrepôt de données en s’appuyant sur les dimensions et les faits afin d’optimiser l’organisation des données pour les requêtes analytiques.
• Créer un entrepôt de données à partir des paramètres du projet, des contraintes techniques et matérielles et de la modélisation de la structure des données afin de soutenir l’analyse de l’activité et l’aide à la décision stratégique de l’organisation
• Intégrer les ETL nécessaires en entrée et en sortie d’un entrepôt de données afin de garantir la qualité et le bon formatage des données en respectant les modélisations logiques et physiques préalablement établies
• Gérer l’entrepôt de données à l’aide des outils d’administration et de supervision dans le respect du RGPD, afin de garantir les bons accès, l’intégration des évolutions structurelles et son maintien en condition opérationnelle dans le temps.
• Implémenter des variations dans les dimensions de l’entrepôt de données en appliquant la méthode adaptée en fonction du type de changement demandé afin d’historiser les évolutions de l’activité de l’organisation et maintenir ainsi une bonne capacité d’analyse.

Positionnement et définition des objectifs - Découvrir les objectifs pédagogiques du parcours Définir son projet pro et ses engagements nécessaires pour l'atteindre, réutilisé à chaque entretien individuel Bilan initial du niveau des apprenants par une première mise en situation évaluée - 14 hLa prise de poste - Mettre en place son environnement de formation et de travail : les outils et le poste de travail du data engineer. Lancement des routines pédagogiques de veille et d'analyse réflexive. Signature de la charte d'engagement et du règlement général. - 14 hIntroduction aux méthodes agiles - Découvrir les principes fondamentaux d'une organisation agile. Évaluer la pertinence d'une approche agile dans la gestion de la production de l'application. Sélectionner la méthode agile adaptée. Animer les rituels agiles. - 7 hModule de sensibilisation aux IA génératives - Expérimenter les outils d'IA générative. Prendre conscience des gains de productivité mais aussi des limites de leur utilisation. Se projeter sur des utilisations possibles dans le cadre de la formation ou du métier visé. - 4 hMon premier flux de données - Identifier les contraintes techniques et la modélisation de la structure des données Nettoyer, harmoniser, mettre à jour des règles de filtrages depuis un fichier csv Les différents types de source : fichier, SGBD, HTML, API ; SQL, NOSQL - 35 hJe corrige un bug dans un script de collecte et d'agrégation de données - Reproduire les configurations de l'environnement d'exécution des scripts en environnement de dev/test. Mettre à jour des extractions de données de type SQL Outils de connexion programmatique aux sources de données : Python, R, Talend, DBT - 21 hRGPD - Appliquer les obligations réglementaires liées au RGPD dans le cadre du pilotage de la cybersécurité. Lister les bonnes pratiques de validation de la protection des données aux différentes étapes d'un projet. - 4 hJe mets à jour la procédure d'ETL vers un Datamart - Mettre à jour des extractions et filtrages sous forme de requête HTTP et scrapping, et des règles d'agrégation en un jeu de données unique. Outils de nettoyage et mise en forme des données : SQL, pandas Coder avec l'IA: assistant Google Collab - 21 hNumérique responsable et IA frugale - Connaître les causes de l'impact environnemen

Consulter le diplôme, titre ou certificat... délivrés en fin de formation ainsi que les métiers auxquels cette formation vous donne accès.