Derniers Articles
E-commerce en France : le cap des 200 milliards d’euros bientôt franchi Pinterest dévoile les tendances mode de la saison des festivals 2026 Dans la stack de retrieval de ChatGPT : l’index, le cache, et les pages qu’il lit vraiment Se former à l’IA générative en 2026 : quelle formation choisir selon votre profil ? Goossips SEO : Metadonnées Recherches IA vs Google : ce que révèle le rapport Similarweb 2026 Google Search Console ouvre enfin les données de vos posts Instagram, TikTok, X et YouTube Google muscle ses règles sur les avis en ligne et prévient des sanctions manuelles Goossips SEO : Robots.txt [Evénement] Un apéro Web à Nantes le 30 juillet, pour networker avant les vacancesLire l'article complet : Goossips SEO : Robots.txt, Nombre de mots, Techniques SEO
Publié le 28/01/2025 à 07:00:00 par Abondance
Goossips SEO : Robots.txt, Nombre de mots, Techniques SEO
Quelques infos sur Google (et Bing parfois) et son moteur de recherche, glanées ici et là de façon officieuse ces derniers jours, avec au programme cette semaine quelques réponses à ces angoissantes questions : Est-ce une bonne idée de modifier dynamiquement un robots.txt ? La longueur d'un contenu a-t-il une importance ? Le SEO peut-il nuire au référencement d'un site ?
Ne modifiez pas le robots.txt de façon dynamique
John Mueller déconseille fortement de modifier dynamiquement le fichier robots.txt plusieurs fois par jour. Il explique que cela n'est pas efficace, car Google met en cache ce fichier pendant environ 24 heures. Cette recommandation fait suite à une question d'un technicien qui souhaitait bloquer Googlebot le matin via robots.txt et le ré-autoriser l'après-midi pour éviter une surcharge serveur. John Mueller suggère plutôt d'utiliser les codes d'erreur 503 ou 429 pour gérer temporairement une charge de crawl trop importante.
Source : Search Engine Roundtable
Taux de fiabilité : 

On est d'accord !
Comme le dit John Mueller, ce type de pratique est une fausse bonne idée, en plus d’être quelque peu alambiquée. L’utilisation d’un code 503 ou 429 semble effectivement la meilleure solution à envisager ici.
Goossip #2