Avant tout, ce qui existe aujourd’hui en gestion de projet en science des données comme méthodologie de gestion de projet est issu de domaines connexes à la science des données (tel que le « data mining » ou encore le développement de logiciel).

À quoi ressemble une méthodologie optimale en science des données?

S’il fallait citer trois caractéristiques que doit avoir une bonne méthodologie en science des données, ce serait :

1. Être accès sur les données;
2. Avoir des processus itératifs;
3. Être accès sur les tâches (« task-focused »).

Mais d’autres critères sont à prendre en considération, comme l’industrie ou le domaine sous-jacent (l’industrie de l’assurance, le monde de l’ingénierie, l’industrie du jeu vidéo, l’industrie bancaire, etc.). La dynamique d’équipe est tout aussi importante, car une équipe de science des données qui est principalement attachée ou sous la coupole des T.I. et des équipes de développement aura tendance à se pencher vers une livraison en mode « développement de logiciel », une équipe de scientifique de données issues du monde de l’actuariat aura tendance à suivre les cadres de travail et méthodologies du monde de la statistique ou de l’actuariat et ainsi de suite.

Tout cela pour dire que le choix méthodologique dépend avant tout du contexte et de l’environnement et que celui-ci qui doit être cohérent avec l’approche sélectionnée.

Les méthodologies les plus répandues en science des données (toute industrie confondue) :

CRISP-DM:

Description :

« Cross Industry Standard Process for Data Mining » a été créé dans l’objectif de servir des projets de « data mining ». Considérée comme la plus utilisée, cette méthodologie permet de livrer des projets en mode « itératif », et cela autant que nécessaire. Divisée en 5 grandes étapes (Compréhension des besoins d’affaires, compréhension des données, préparation des données, modélisation, évaluation et déploiement).

Avantages :

• Mets l’emphase sur la compréhension des besoins d’affaires avant tout.
• Le mode itératif permet une intégration continue du projet.

Désavantages :

• La méthodologie n’est plus mise à jour par la communauté CRISP-DM.
• Les étapes de déploiement sont très peu adaptées au contexte actuel.
• Les étapes de préparation des données et de modélisation ne sont pas adaptées aux concepts de données de masses (« Big Data ») et aux concepts d’apprentissage profond (« Deep Learning »).
• N’inclus pas de dimension gestion des priorités.
• N’inclus pas de dimension travail d’équipe ou à plusieurs personnes dans le même projet.

Liens utiles :

• https://www.datasciencecentral.com/profiles/blogs/crisp-dm-a-standard-methodology-to-ensure-a-good-outcome
• http://dmg.org/

Agile Kanban:

Description :

Cette méthodologie adaptée à la science des données reprend les grandes étapes de la méthode CRISP-DM pour le transformer en flux de travail (« pipeline ») principalement accès sur la représentation visuelle du travail et la gestion des priorités bas niveau/haut niveau.

Avantages :

• Offre de la flexibilité sur le niveau de détail du flux de travail par projet. (De très granulaire à haut niveau)

• Permets une meilleure répartition des tâches par membre de l’équipe.

• Permets une meilleure gestion des priorités.

Désavantages :

• Ne permets pas de dériver facilement des processus d’itérations.

• La méthodologie ne va pas toujours prendre en considération les contraintes inhérentes au monde de la science des données.

Liens utiles :

• https://openclassrooms.com/fr/courses/4507926-initiez-vous-a-la-gestion-de-projet-agile/4517156-utilisez-la-methode-kanban
• https://towardsdatascience.com/data-science-agile-cycles-my-method-for-managing-data-science-projects-in-the-hi-tech-industry-b289e8a72818

Agile Scrum :

Description :

Cette méthodologie est axée sur la durée et l’intensité des efforts avant tout. Adaptée au monde de la science des données, elle permet un retour rapide avec des résultats « viables » et prêts pour être mis en production. Le focus est avant tout un focus produit.

Avantages :

• Les nouvelles versions de la méthode Agile Scrum incluent la formation en continu, durant le projet, afin de découvrir de nouvelles approches et techniques. Cela est adapté au monde très vaste et changeant de la science des données.

• Permets d’obtenir des premiers résultats très rapidement.

Désavantages :

• Le fardeau est avant tout mis sur le propriétaire du produit (ou product owner).

• Il faut d’avance définir la durée d’un sprint, ce qui en science des données peut être un exercice difficile.

• Généralement les sprints sont perçus comme des phases de développement intenses sans prendre le temps de mettre en perspective les besoins d’affaires définis. Cela peut entraîner le rajout d’autres sprints pour permettre de réajuster le travail en fonction des besoins redéfinis.

Liens utiles :

• https://blog.trello.com/beginners-guide-scrum-and-agile-project-management
• https://towardsdatascience.com/agiledatascience-3b7ca65278a4

Les manufacturiers logiciels et leurs méthodologies :

• Certains grands manufacturiers logiciels ont développé des méthodologies de gestion de projet, basées sur leurs années d’expertises. Certaines de ces méthodologies sont éprouvées dans le monde de la science des données.

SEMMA:

Description :

• SEMMA étant l’acronyme de « Sample, Explore, Modify, Model, and Assess » a été développé par l’institut SAS.

Avantages :

• Est axée sur la suite de produits SAS Enterprise Miner. Idéal lorsque le développement se fait sur les solutions SAS.

Liens utiles :

• http://support.sas.com/documentation/cdl/en/emcs/66392/HTML/default/viewer.htm#n0pejm83csbja4n1xueveo2uoujy.htm

IBM Cloud Garage Method :

Description :

• L’approche IBM Garage qui se focalise sur 6 grandes étapes. Issue du monde logiciel avant tout, l’approche cherche à inclure d’autres nécessités et prérequis à la fois au niveau Infrastructure et TI.  

Avantages :

• Focaliser sur les besoins d’affaires avec une approche produits grâce au concept de Design Thinking qui fait partie de la méthodologie.

• Prends en considération les besoins et enjeux TI.

Liens utiles :

• https://www.ibm.com/cloud/garage/

Microsoft TDSP :

Description :

TDSP étant l’acronyme pour « Team Data Science Process ». Microsoft a tenté de créer une approche englobante, qui permet de gérer toute sorte de projets en science des données (depuis l’analyse de données ad hoc, jusqu’au développement de solution d’apprentissage profond)

Avantages :

• Offre une forte flexibilité dans la mise en place de la méthodologie.

• Offre une gestion de cycle de vie complet. Avec à la fin de chaque cycle l’étape « customer acceptance ». Cette étape consiste à valider le post-déploiement et savoir si la solution a été adoptée par les usagers/clients.

Liens utiles :

• https://docs.microsoft.com/en-us/azure/machine-learning/team-data-science-process/overview

D’autres alternatifs ou variantes subsistes :

Le KDD : « Knowledge Discovery and Data Mining »

• https://www.kdd.org/kdd2019/

Le ASUM-DM : « Analytics Solutions Unified Method »

• ftp://ftp.software.ibm.com/software/data/sw-library/services/ASUM.pdf

Avec toutes les options possibles, que faut-il choisir?

La réponse est… ça dépend!

Il faut avant tout comprendre le contexte d’entreprise, la dynamique des équipes de science des données, le type de livrable. Ce qui est difficile est de se développer un standard de gestion de projet en science des données qui soit applicable en toutes circonstances, quelle que soit la nature du projet en science des données.

Si vous vous cherchez un cadre pour débuter vos projets en science des données. L’idéale est de commencer par des cadres standards tels que CRISP, ASUM, KDDS, TDSP pour par la suite pouvoir développer sa propre version interne basée sur l’expérience cumulée.

Pour ce qui est de la performance réelle de chaque méthodologie. Voici une étude menée par des chercheurs de l’université de Syracuse intitulée : « Comparing Data Science Project Management Methodologies via a Controlled Experiment », 2017. Cette étude m’a d’ailleurs inspiré cet article. Elle a pour objectif de comparer l’efficacité réelle de trois méthodologies en science des données auprès d’étudiants et de chercheurs.

Aussi, si vous cherchez à mieux comprendre comment débroussailler les terminologies en science des données : voici un article complémentaire https://www.datapro.quebec/intelligence-artificielle-vs-science-des-donnees/

The post Les méthodologies de gestion de projet en science des données appeared first on La science des données au Québec.

Afin d’illustrer comment les solutions libre-service en analyse de données peuvent vous permettre d’accomplir des études dignes d’un expert en science des données, nous avons créé une étude de cas en 2 parties, qui porte sur une solution déployée pour l’entreprise Prudential.

Voici la partie 2 de l’étude de cas sur comment devenir data scientist. Également nous discutons de la création et du test des modèles et présentons les résultats.

Dans la première partie de l’étude de cas, nous avons présenté le contexte d’entreprise et l’objectif de l’analyse. Nous avons également abordé les étapes 1 et 2 de la solution, ainsi que les logiciels proposés pour accomplir celles-ci. Voici la suite :

SPSS Modeler accompagne l’analyste depuis la visualisation de données jusqu’à la modélisation :

L’étape 4 de la création et du test des modèles en est une autre qui est assez fastidieuse. Les modules automatiques de SPSS Modeler peuvent toutefois venir en aide ici aussi pour sélectionner les modèles les plus précis et obtenir une analyse post-modélisation plus rapidement. Du côté de Prudential, nous utilisions le module « Auto Classifier » afin de créer et tester les modèles.

Résultat :

Le résultat de notre solution présente une précision globale de 73.84%, qui se traduit par un « Quadratic unweighted kappa » de 65.1% (index mesurant la précision des résultats par rapport aux vraies réponses).

Sachant que les données ont été extraites d’une compétion Kaggle (plateforme de compétition en science des données). 65.1% en score kappa place notre modèle basée sur l’analyse automatique dans le top 40% des résultats soumis par plus de 2619 data scientists. Et cela en seulement quelques heures de travail.

Une fois ces résultats obtenus, il faut poursuivre avec le déploiement du modèle en API pour pouvoir l’intégrer. Pour ce faire, le module Watson Machine Learning[1] permet d’encapsuler le modèle créé ainsi que le flux de préparation et de manipulation de données. Il permet aussi de partager des clés d’accès API avec les développeurs de ton équipe. Ces derniers se chargeront de l’intégration avec la plateforme client. Notez que l’API est en REST et est configurable avec n’importe quel langage de programmation. L’encapsulage se fait par un simple téléversement du flux SPSS sur l’interface du service Watson Machine Learning créé sur Bluemix. (outil de « Platform as a service » d’IBM)

Conclusion

Grâce à SPSS Modeler, nous avons pu bâtir une solution prédictive complète et déployer celle-ci en API en un temps record. Cela fait contraste avec le temps nécessaire d’un expert en science des données. En somme, pour déployer des solutions raffinées de science des données, il suffit d’être outillé correctement et de s’entourer des bons experts. Pour en savoir davantage sur les produits SPSS et sur la science des données, ou encore pour une formation avancée, contactez les experts de Necando (lien vers la page contact du site). Il nous fera plaisir de supporter votre croissance!

[1]Watson Machine Learning (aka IBM SPSS Embedded Predictive Modeling API)

Accédez à au début de l’étude de cas: Comment devenir data scientist. Pour consulter la mise en contexte et la visualisation.

The post Devenir data scientist sans doctorat c’est possible – Partie II appeared first on La science des données au Québec.

Nous avons développé une étude de cas en 2 parties (cliquez ici pour la suite), pour démontrer comment nous avons résolu un défi d’affaires pour la compagnie d’assurance-vie Prudential grâce aux solutions libre-service en analytique. Si vous souhaitez devenir data scientist voici un outil qui va vous permettre d’atteindre vos objectifs.

Le contexte

Tout d’abord, pour l’analyse des candidatures de nouveaux clients en assurance vie (et le calcul de leur prime) l’entreprise Prudential utilisait une grille d’évaluation manuelle, processus qui prenait en moyenne 30 jours. Cette longue période d’analyse mettait toutefois à risque l’acquisition de nouveaux clients. Ces derniers optaient plutôt pour d’autres compagnies d’assurance vie avec un délais de réponse plus rapide.

Le besoin

L’objectif de l’entreprise était de créer une solution prédictive leur permettant de classifier le risque que présentait chaque candidat potentiel ayant appliqué en ligne. Ainsi pouvoir réduire le processus d’analyse de 30 jours à quelques jours seulement.

La solution prédictive devait être intégrée ou connectée à la plateforme de Prudential afin de permettre aux clients qui appliquent en ligne d’obtenir directement un premier estimé de leur prime. Mais aussi d’accélérer l’accès à l’information pour les analystes de la compagnie et ainsi permettre de compléter plus rapidement la demande du potentiel client.

Le défi

L’entreprise possédait plusieurs millions de clients. Pour le projet nous avions accès à un échantillon de 59 381 clients, avec 128 caractéristiques pour chacun d’eux. (âge, antécédents médicaux, caractéristiques socio-démographiques, etc.)

Voici, à haut niveau, les étapes de la création, de la mise à l’épreuve et du déploiement de la solution prédictive qui a permis de répondre au besoin d’affaire :

• Étape1 : Analyse et exploration descriptive et visuelle des données historiques des clients
• Étape2 : Nettoyage des données
• Étape3 : Préparation des données pour bâtir un modèle avec une meilleure précision
• Étape4 : Partitionnement des données (« épreuve et test »)
• Étape5 : Création et test des modèles
• Étape6 : Déploiement du modèle sous forme d’une API
• Étape7 : Intégration de l’API dans la plateforme du client de Prudential

À la vue de ces 6 étapes, on note qu’une bonne connaissance technique est nécessaire, en plus du temps de travail, qui s’échelonne facilement sur plusieurs semaines afin de produire le modèle final le plus précis possible. En effet, pour effectuer ce travail manuellement, il faut avoir des connaissances approfondies en :

• Modélisation prédictive, pour présélectionner les modèles et techniques. (Random trees, SVM, Bayesian Network, CHAID, Neural Net, etc)
• Préparation des données, pour améliorer la précision des modèles. (exclusion des valeurs aberrantes, remplacement ou suppression des valeurs manquantes, normalisation des valeurs continues, etc.)
• Développement d’API, pour déployer et encapsuler le modèle après l’avoir validé

Aussi, pour beaucoup d’entreprises, une telle analyse peut sembler impossible à accomplir sans expert à l’interne. Ce qui malheureusement en décourage plus d’un à investir des ressources dans de telles techniques.

La solution

Sachez que vous pouvez accomplir toutes les étapes présentées ci-haut avec des connaissances de base en statistique et dans des délais plus court qu’il en prendrait à un développeur et un statisticien! Grâce à des solutions comme IBM SPSS Modeler, vous pouvez effectivement aligner toutes les étapes du projet en seulement quelques heures de travail.  D’ailleurs, Gartner a nommé l’outil « Magic Quadrant » d’IBM SPSS Modeler comme la solution pour effectuer ce travail.

Si l’on reprend le cas de Prudential, l’étape 2 de nettoyage de données avait été mise de côté car les données avaient déjà été mises au propre par l’entreprise. Il est toutefois important de souligner que, grâce aux modules de manipulations et de traitements des observations et des champs. Ainsi, il est facile de standardiser, d’anonymiser et d’uniformiser les données, en préparation aux étapes subséquentes.

Accédez à la suite de l’étude de cas: Comment devenir data scientist (lien vers la partie 2). Pour consulter la suite de la solution et voir les résultats.

Devenir data scientist chez Necando Solutions

The post Devenir data scientist sans doctorat c’est possible – Partie I appeared first on La science des données au Québec.