La liste NON_PUBLIC_DOMAINS actuellement définie dans scripts/public_domain.py est construite de manière empirique, au fur et à mesure des cas identifiés.
Je propose d'allonger cette liste avec les domaines "non publics" les plus populaires sur le web que l'on a donc de fortes chances de croiser : par exemple en se basant sur la liste SEO Moz top 500 websites (csv) ou une autre similaire.
L'avantage est de ne pas oublier de filtrer certaines urls qui pourraient être des sites publics, mais hébergés sur des domaines privés : réseaux sociaux, plateformes de blogs et sites (wix, wordpress), drive de fichiers...
Attention cette liste contient quelques sites de services publics (j'y ai repéré europa.eu, cnil.fr et quelques .gov)
La liste
NON_PUBLIC_DOMAINSactuellement définie dansscripts/public_domain.pyest construite de manière empirique, au fur et à mesure des cas identifiés.Je propose d'allonger cette liste avec les domaines "non publics" les plus populaires sur le web que l'on a donc de fortes chances de croiser : par exemple en se basant sur la liste SEO Moz top 500 websites (csv) ou une autre similaire. L'avantage est de ne pas oublier de filtrer certaines urls qui pourraient être des sites publics, mais hébergés sur des domaines privés : réseaux sociaux, plateformes de blogs et sites (wix, wordpress), drive de fichiers... Attention cette liste contient quelques sites de services publics (j'y ai repéré europa.eu, cnil.fr et quelques .gov)