<== page de blog - 2/13 ==> Blog algorithme (4) library (3) module (3)
page de blog - 2/13¶
Kaggle…¶
2019-12-05
Kaggle propose des sujets principalement académiques depuis quelques années. Est-ce une bonne source de données pour un projet étudiant ? Ca l’a été. Maintenant, les étudiants n’ont plus grand chose à faire pour sortir de ce qui a déjà été fait. Le sujet soccer a été étudié sous toutes les coutures par beaucoup de gens qui laissent le fruit de leur travail sur le site. Un des derniers parus Match Outcome Prediction Project correspond à ce qu’on attend d’un futur datascientist. Il faudrait que je regarde ce que le site contient avant de me pencher sur le projet d’un étudiant qui a choisi ce jeu de données. Il serait possible de bannir kaggle de la liste des sources de données admissibles ou faire confiance aux étudiants. J’avoue qu’à leur âge, je ne lisais pas beaucoup, internet n’existait pas il est vrai. Mais ça m’amusait plus d’inventer mes propres trucs que de réutiliser ceux des autres qui marchaient pourtant bien. C’est comme ça que j’ai recodé plein de trucs inutiles pour le principe de faire quelque chose qui m’appartienne. Ou alors ça me paraissait plus simple d’inventer un truc nouveau que de comprendre le travail des autres.
Notebook maintenance¶
2019-09-21
Je dis souvent en cours qu’un notebook pète tous les quinze jours. Le dernier 2A.i - Table de mortalité dans plusieurs containers plante sur une instruction qui me fait penser que j’attendrais la prochaine version avant de me pencher dessus car je n’en comprends pas la logique. Je l’ai laissée avec une exception et j’ai ajouté une ligne équivalente mais très probablement moins efficace. Tout cela à cause de xarray. Le monde open source est pavé de bonnes intentions.
Créer un exécutable¶
2019-06-15
On me pose parfois la question, comment faire pour créer son propre exécutable et ne pas avoir à installer python chez un client pour faire tourner ce qu’on a fait pour lui. Cet article y répond : Making a Stand Alone Executable from a Python Script using PyInstaller.
…
Un module pour annoter les données¶
2019-05-24
Le machine learning supervisé a besoin de données labellisées. Sans label, pas d’apprentissage, quand il n’y en a pas, il faut les fabriquer. C’est long, fastidieux mais on apprend beaucoup on labellisant ses données, il arrive souvent qu’on change la façon de le faire en les regardant. Toutefois, il faut le faire un jour. Je n’ai pas essayé l’outil suivant mais il pourrait aider : SMART.
Quelques modules intéressants¶
2019-05-20
Une liste de modules à suivre. Un benchmark sur pandas pour commencer : Fast-Pandas. On voit que en deça de 10.000 lignes, l’ordinateur passe son temps surtout dans le code python. Après, il fait enfin un peu de calcul.
…
Ludwig, machine learning et réchauffement climatique¶
2019-02-20
Uber a sorti son module de machine learning ludwig (documentation) qui automatise plein de choses pour une catégorie de problèmes de machine learning classique et deep. Certains apprentissages peuvent être parallélisés avec mpi4py. J’ai fini sur le site de son auteur Ryan Abernathey qui étudie la circulation de l’eau autour du globe, ce qui m’a amené à Pangeo A community platform for Big Data geoscience et des jeux de données sur la Terre Pangeo Data Catalog ou encore le module xgcm qui pourrait être utile pour faire des simulations sur le réchauffement climatique.
Problème avec spacy¶
2019-02-18
Et voilà comment on peut perdre quelques heures à comprendre pourquoi un notebook qui fonctionnait ne fonctionne plus. C’est l’erreur que j’ai depuis quelques semaines déjà pour laquelle je ne peux pas vraiment mettre à jour certains modules sans rencontrer l’erreur suivante :
…
Pipeline et processeur¶
2019-01-16
Trois liens différents vers trois articles qui parlent tous du même sujet : Why use an FPGA instead of a CPU or GPU?, Why use an FPGA instead of a CPU or GPU? (Quora), Why Use an FPGA Instead of a CPU or GPU? (News). On y apprend que le FGPA est plus lent que le CPU et GPU, ou plus précisément qu’un cycle d’exécution du FGPA est plus lent. En revanche, dans ce cycle, on peut y mettre plus d’instructions. Le dernier article cite un chiffre : le FGPA est 10 plus lent mais un cycle peut contenir 20 fois plus d’instructions qu’un CPU. Le dernier article compare les forces et faiblesses de plusieurs approches : FPGA vs CPU vs GPU vs Microcontroller: How Do They Fit into the Processing Jigsaw Puzzle?. FGPA permet d’aller plus vite mais il faut s’y connaître un peu pour les obtenir.
…
Mars : calcul distribué en python¶
2019-01-16
mars est un projet open source depuis 15 jours et qui permet de faire des calculs sur ds matrices en grande dimension. Il est supporté par Alibaba : Alibaba Open-Sources Mars to Complement NumPy. Les performances ont l’air intéressantes même si mon premier essai sur un produit scalaire montre que des vecteurs de tailles humaines, numpy restent difficile à battre.
Spacy ressources¶
2019-01-11
Le moyen le plus simple pour installer les ressources linguistiques de spacy est d’exécuter la commande suivante pour la langue souhaitée :
…
<== page de blog - 2/13 ==> 2020-05 (2) 2020-06 (2) 2020-07 (1) 2020-08 (2) 2020-09 (1)