Bloquer des types de fichiers
Bloquer certains types de fichiers empêche les moteurs de recherche de les indexer. Utile pour les fichiers confidentiels ou volumineux.
Ajouter un Sitemap
Un sitemap aide les moteurs de recherche à découvrir et indexer toutes les pages de votre site.
Configurer le Crawl-delay
Le Crawl-delay indique aux robots combien de temps attendre entre chaque requête. Utile pour réduire la charge sur votre serveur.