WebRankInfo : la plus grande communauté francophone du référencement
Publié le
Olivier Duffez
Créateur de WebRankInfo,
consultant en référencement
La balise meta robots permet d’indiquer si une page peut être indexée ou pas, ainsi que plusieurs autres cas de figure. Ce tutoriel explique tout ce que vous avez à savoir à ce sujet pour optimiser votre référencement naturel, notamment sur Google.
Sommaire :
Avant de poursuivre, sachez que je propose d’autres dossiers similaires :
La meta meta robots est une balise HTML située dans l’entête HTML, c’est-à-dire entre les balises <head> et </head>. Facultative, elle permet de fournir quelques directives aux robots des moteurs de recherche, par exemple pour interdire l’indexation de la page (robots noindex).
La syntaxe est très simple, voyez cet exemple de meta robots (version XHTML ou HTML5) :<meta name="robots" content="noindex" />
Parfois vous pouvez avoir besoin d’indiquer plusieurs valeurs (dans “content”) : il faut les séparer par une virgule comme dans cet autre exemple :<meta name="robots" content="noindex,notranslate" />
Avant de lister toutes les possibilités du meta tag robots, je vous rappelle que :
En résumé :
Besoin d’explications plus poussées ? C’est possible, gratuitement :
Si vous souhaitez désindexer des pages, j’ai un dossier complet sur le sujet…
Si vous indiquez à la fois une URL canonique (différente de l’URL courante) ET une balise meta robots (noindex par exemple), il peut y avoir des contradictions. Sachez qu’il n’existe pas d’ordre de priorité de traitement des balises <meta> et <link> donc c’est la logique de l’ensemble qui compte.
Si besoin, relisez l’article sur la canonique !
Format :<meta name="robots" content="noindex" />
balise meta robots noindex référencement :
noindex indique au robot qu’il ne faut pas indexer la page. Cela ne signifie pas que le robot ne va pas la crawler : pour cela il faut utiliser le fichier robots.txt.
Ceci ne peut être pris en compte que si Google est autorisé à crawler la page. Une fois qu’il l’aura crawlée, la page sera rapidement désindexée (supprimée de l’index).
Evidemment, si vous mettez par erreur une balise meta robots noindex sur une page stratégique de votre site, la conséquence pour votre référencement sera dramatique. Mieux vaut le repérer très rapidement afin de corriger l’erreur (en retirant cette meta noindex).
Astuce : en faisant un audit technique gratuit RM Tech, vous pouvez savoir si votre site contient des pages non indexables. Le rapport d’audit vous indiquera plein d’autres conseils pour votre référencement.
Format :<meta name="robots" content="nofollow" />
nofollow indique au robot qu’il ne faut pas suivre les liens dans la page. Cela signifie que Google n’ira pas crawler les pages liées par la page contenant cette balise meta robots. Même si Google ne le précise pas dans son article, les moteurs ne tiendront pas non plus compte des liens présents sur la page dans leur algorithme (par exemple celui du PageRank).
⚠️ Il n’y a sans doute aucun cas réel pratique pour lequel il est intéressant d’ajouter cette balise, car elle interdit le suivi de tous les liens, qu’ils soient internes ou externes. Si vous souhaitez interdire la prise en compte d’un lien en particulier dans une page, ajoutez un attribut nofollow à ce lien.
Format :<meta name="robots" content="index" />
index indique au robot qu’il peut indexer la page. Cette valeur étant celle par défaut, il est totalement inutile de l’indiquer !
Format :<meta name="robots" content="follow" />
follow indique au robot qu’il peut suivre les liens dans la page. Cette valeur étant celle par défaut, il est totalement inutile de l’indiquer !
Format :<meta name="robots" content="all" />
all : cette valeur est l’équivalent de index,follow. Cette valeur étant celle par défaut, il est totalement inutile de l’indiquer.
Format :<meta name="robots" content="none" />
none : cette valeur est l’équivalent de noindex,nofollow.
⚠️ Si vous souhaitez simplement interdire l’indexation de la page mais pas interdire la prise en compte des liens qu’elle fait, évitez d’utiliser la balise none, mieux vaut utiliser dans ce cas la balise noindex.
Format :<meta name="robots" content="nosnippet" />
nosnippet indique au robot qu’il ne faut pas afficher de descriptif (snippet) dans la page de résultats.
J’ai du mal à voir l’intérêt pour un webmaster d’utiliser cette possibilité puisque ce descriptif permet d’inciter l’internaute à cliquer sur le résultat (peut-être qu’il existe des cas où le descriptif créé par le moteur n’est pas assez pertinent aux yeux du webmaster, mais c’est encore pire de ne pas en faire apparaître).
💡 Au sujet du snippet, pour vous donner des chances d’avoir un bon descriptif, pensez à rédiger une bonne meta description.
Format :<meta name="robots" content="max-snippet:[nombre]" />
max-snippet indique au robot le nombre maximum de caractères à afficher dans le descriptif (snippet) dans la page de résultats. Ceci concerne tous les formats de résultats (résultats classiques, Google Images, Discover, Assistant) mais pas les résultats vidéo ou image.
Par exemple, pour limiter l’extrait à 140 caractères, indiquez :<meta name="robots" content="max-snippet:140" />
Cette possibilité a été ajoutée par Google pour gérer le droit d’auteur (ou plutôt pour qu’il ne s’applique pas…). Les éditeurs de presse sont les premiers concernés mais cette balise peut être utilisée sur tous les sites.
Remarques :
⚠️ Attention, la meta max-snippet n’est pour l’instant gérée que par Google, à partir de fin octobre 2019.
Format :<meta name="robots" content="max-image-preview:[valeur]" />
max-image-preview indique au robot la taille maximale de l’aperçu de l’image (vignette) à afficher dans la page de résultats.
Voici les valeurs possibles :
Par exemple, pour autoriser l’affichage d’une image de grande taille :<meta name="robots" content="max-image-preview:large" />
Remarques :
⚠️ Attention, la meta max-image-preview n’est pour l’instant gérée que par Google, à partir de fin octobre 2019.
Format :<meta name="robots" content="max-video-preview:[nombre]" />
max-video-preview indique au robot le nombre maximum de secondes de l’extrait vidéo à afficher dans la page de résultats, pour un résultat de type vidéo.
Par exemple, pour limiter la preview vidéo à 3 secondes, indiquez :<meta name="robots" content="max-video-preview:3" />
Remarques :
⚠️ Attention, la meta max-video-preview n’est pour l’instant gérée que par Google, à partir de fin octobre 2019.
Format :<meta name="robots" content="noarchive" />
noarchive indique au robot qu’il ne faut pas laisser l’accès à la version en cache.
Voici un exemple simplifié dans une page HTML (idem pour HTML5) :<html><head><meta name="robots" content="noarchive">
Le lien “En cache” dans la page de résultats ne sera donc pas affiché. Ceci peut servir à ceux qui passent leurs contenu d’une version publique accessible à une version archivée payante (sites de journaux par exemple).
L’inconvénient est que le webmaster ne peut plus savoir à quelle date (et heure) Google a indexé la page la dernière fois (il peut toujours voir la date de dernier crawl dans ses fichiers logs).
Format :<meta name="robots" content="nocache" />
nocache : identique à noarchive, ceci est pris en compte par Bing mais pas par Google
Format :<meta name="robots" content="notranslate" />
notranslate indique à Google que l’on ne souhaite pas qu’un lien Traduire soit affiché à côté du résultat de recherche. Google affiche parfois ce lien donnant accès à une traduction automatique de la page.
Format :<meta name="robots" content="noimageindex" />
noimageindex indique à Google qu’aucune image située sur cette page ne doit être indexée dans Google Images.
Format :<meta name="robots" content="noodp" />
noodp indiquait au robot qu’il ne fallait pas utiliser les données associées au site par les éditeurs de l’annuaire DMOZ (Open Directory Project, ODP). Ceci était utile si la description ou le titre du site dans DMOZ ne correspondaient pas assez bien à la réalité. Etant donné que DMOZ ne référençait en général que les pages d’accueil, cette balise ne devait être mise que sur cette page (ce n’était donc pas la peine d’ajouter la balise méta robots noodp sur tout le site, mais ça n’avait pas d’impact négatif de le faire).
Pour en savoir plus, lisez l’article sur la balise meta noodp.
Attention, cette valeur est obsolète car l’annuaire Yahoo a fermé !
Format :<meta name="robots" content="noydir" />
Seul Yahoo gérait cette valeur noydir qui permettait comme noodp d’indiquer au moteur qu’on ne souhaitait pas que les données de l’annuaire Yahoo (Yahoo Directory) soient utilisées. Etant donné que cet annuaire a disparu, cette balise n’a plus aucune raison d’exister dans vos pages.
Pour en savoir plus, lisez l’article sur la balise meta noydir.
Format (exemple avec la date du 25/08/2007 à 15h EST) :<meta name="robots" content="unavailable_after:25-Aug-2007 15:00:00 EST" />
unavailable_after:[date] indique au robot que la page ne doit pas ressortir dans les résultats après la date indiquée (au format RFC 850). Pour en savoir plus, apprenez en quoi cela diffère de l’entête HTTP Expires et lisez la discussion sur la balise meta unavailable_after
Si vous n’avez pas la possibilité d’ajouter une balise meta dans votre page HTML, sachez que vous pouvez malgré tout fournir des indications aux robots via l’entête HTTP. Il suffit d’ajouter des lignes dans l’entête, d’une façon similaire à cette balise meta robots.
Le X-Robots-Tag peut servir quand votre CMS ne vous laisse pas ajouter une balise meta, ou bien également quand cela concerne des documents autres que HTML (par exemple des PDF ou des images).
Pour en savoir plus, lisez mon article qui explique comment utiliser X-Robots-Tag dans l’entête HTTP.
Habituellement, on utilise la balise meta robots car les directives d’adressent à tous les robots. Mais saviez-vous que vous pouvez spécifier des directives différentes selon les robots ? Il faut pour cela remplacer name="robots" par name="googlebot" ou tout autre nom de robot.
Par exemple, la ligne ci-dessous demande uniquement au robot standard de Google de ne pas indexer la page :<meta name="googlebot" content="noindex" />
On peut même imaginer un cas où dans la même page figurent deux instructions différentes. Par exemple, pour autoriser à tous les robots sauf Google de suivre les liens, tout en demandant à tous les moteurs de ne pas indexer la page :<meta name="robots" content="noindex" />
<meta name="googlebot" content="nofollow" />
Dans le cas de Google, voici les noms d’agents (user agent) que vous pouvez utiliser dans cette balise meta (tout comme dans le fichier robots.txt) :
Il ne s’agit pas d’une balise meta, encore moins de la meta robots, mais c’est tout à fait en rapport avec le sujet…
Google propose désormais un moyen d’empêcher que certains textes d’une page soient utilisés pour générer l’extrait dans les SERP (snippet). Pour cela, il suffit d’inclure l’attribut data-nosnippet sur une ou plusieurs balises span, div ou section.
Cet attribut n’a pas besoin d’avoir de valeur, car il est considéré comme un booléen. En d’autres termes, s’il est présent c’est qu’il doit être pris en compte. Inutile d’indiquer quelque chose du genre data-nosnippet="true".
Comment empêcher Google d’utiliser pour le snippet une portion de texte ? En l’encadrant dans une balise span comme ici :
Comment empêcher Google d’utiliser pour le snippet toute une partie d’une page ? En l’encadrant dans une balise div ou section comme ici :
Remarques :
Si vous souhaitez optimiser le référencement naturel de votre site, il est indispensable de vérifier que les bases sont correctement faites, à savoir tout le socle technique du SEO. Vous devez vérifier qu’aucune page importante n’est bloquée à l’indexation (par cette fameuse balise meta robots) : pour ça, il vaut mieux un outil ! Pour comprendre comment mon outil SEO “RM Tech” peut vous aider, consultez cette vidéo d’un site pénalisé par Panda :
Si vous avez des questions ou des remarques, n’hésitez pas à utiliser les commentaires !
Cet article vous a-t-il plu ?
Remarques :
Si vous souhaitez poser une question ou détailler un problème technique, il ne faut pas utiliser le formulaire ci-dessous qui est réservé aux avis. Posez votre question directement dans le forum Gmail de WebRankInfo. L’inscription est gratuite et immédiate.
En postant un avis, vous acceptez les CGU du site WebRankInfo. Si votre avis ne respecte pas ces règles, il pourra être refusé. Si vous indiquez votre adresse email, vous serez informé dès que votre avis aura été validé (ou refusé…) ; votre adresse ne sera pas utilisée pour vous envoyer des mailings et ne sera pas revendue ou cédée à des tiers.
11 commentaires
Merci beaucoup pour cet article !
Claire et concis, il est parfait pour lé débutants du web.
Qu’en est il du Allow et disallow ?
Remplace index et no index ou follow et nofollow ?
Merci
@Eddy : il y a parfois de la confusion entre tout ça, c’est une bonne question (peut-être posée trop vite ?) qui mériterait un article, ça me donne une idée !
allow et disallow sont des directives à mettre dans le fichier robots.txt pour paramétrer le crawl et non pas l’indexation
index et noindex sont des directives à mettre dans la balise meta robots (ou via l’entête HTTP) pour paramétrer l’indexation et non pas le crawl
follow et nofollow sont les noms qu’on donne aux liens respectivement pris en compte et non pris en compte par les robots
Merci Olivier pour votre réponse !
Il est vrai que ma question n’est pas posée correctement ^^
En lisant l’article j’avais comme l’impression qu’il était dit que Google va prendre en compte le contenu de la page (contenant la META) mais sans l’indexer.
En résumé, si nous avons deux pages A et B avec le même contenu mais que la page B a un “noindex”, cela ne posera pas de problème de duplicate content même si la page est crawlée !
si Google crawle une page et voit qu’elle contient une meta noindex, elle ne sera pas indexée (ou sera désindexée si elle l’était au préalable). Elle ne pourra donc pas générer de pb de duplicate content.
cela dit, si les pages A et B ont le même contenu, il vaut mieux définir une URL canonique
Bonjour,
Je ne suis pas tout à fait d’accord avec cette partie la de votre article:
“
noindex indique au robot qu’il ne faut pas indexer la page. Cela ne signifie pas que le robot ne va pas la crawler : pour cela il faut utiliser le fichier robots.txt.”
Pourquoi doit-on utiliser le fichier robots.txt alors que l’on peut effectuer ceci en utilisant simplement la balise META?
Est-ce que c’est plus effectif en passant par le TXT ?
Merci
@lagzor : le fichier robots.txt ne sert pas à dire si on autorise ou bloque l’indexation, il est prévu pour gérer uniquement le crawl.
La balise meta robots ne le permet pas de bloquer le crawl : logique, vu que Googlebot (ou les autres) doit d’abord télécharger la page pour découvrir cette balise.
Je ne suis pas certain d’avoir compris votre question en fait 😉
Bonsoir
j’ai un soucis, j’ai du mal à référencr le blog construit sur wordpress.com http//aikido.colmar.net, visiblement je n’ai pas accès à balise (vu mon niveau en info) y a t’il une astuces quelconque
Merci d’avance pour la réponse
@aikido : Merci de poster dans le forum, ce sera bien plus pratique pour obtenir de l’aide
Un article bien tourné pour rassembler les infos sur les robots, merci Olivier!
Par contre, petite coquille vu par un malheureux qui bosse ce 26 décembre :
Par exemple, pour autoriser à tous les robots sauf Google de suivre les liens, tout en demandant à tous les moteurs de ne pas donner l’accès à la version en cache :
Ne serait-ce pas content=”nocache” au lieu de “nosnippet” ?
Merci Nost, j’avais modifié mon exemple mais pas les explications. J’ai toutefois changé d’exemple pour que ce soit plus simple.
Inscription à la newsletter
Catégories
Consulting SEO
Envie d’améliorer votre référencement ?
Consultant SEO depuis 2003, j’ai une très grande expérience en audit et consulting. Que ce soit pour une demande ponctuelle, pour un audit ou du long terme, je peux vous aider.
WebRankInfo / Tous droits réservés 2022 – Mentions légales – Me contacter
B