Заборона індексації, robots і htaccess

Читайте так же - заборона індексації:

Якщо доступу до robots.txt немає, варто використовувати метатег noindex. Саме метатег.

Тег noindex іноді використовують з метою оптимізації фрагментів, але в іншому користі від нього не помічено. Натомість пояснень дам посилання на статтю -

Заборона індексації посилання в htaccess:

Для цього можна створити скриптик:

Скрипту передавати параметр url:

У htaccess задати сторінку 403 помилки або повертати її на головну:

Другий варіант - це в /outlink/.htaccess:

У цьому випадку робот отримає відповідь:

AuthType Basic
AuthName 'BBEguTE 1 u 1' // повідомлення тільки на латиниці
AuthUserFile / 'шлях від кореня сервера' / outlink / .htpasswd
Require valid-user
// зайвий пробіл після <
deny from all
// зайвий пробіл після <

В / outlink / розмістити htpasswd містить ім'я користувача та пароль, наприклад одиничками:


З змінної DOCUMENT_ROOT => / home / www / users / AM / public_html беремо шлях і ставимо замість 'шлях від кореня сервера'.

Перевірити роботу цих та інших методів заборони індексації можна зайшовши на сайт за допомогою цієї форми подивитися як пошуковий робот.

будь ласка, оцініть сторінку, я намагався :)

Добридень! підкажіть, а як заборонити пошуковикам видавати https-версію сайту?

Юрій, я так розумію, що http і https лежать в одній папці?
Тоді створіть файл robots-https.txt
що містить:
User-agent: * Disallow: /
а в .htaccess покладіть:
RewriteCond% on
RewriteRule ^ robots \ .txt $ robots-https.txt

у мене на сайті є форум. Знаходиться в окремій папці (forum).
Як можна заборонити індексацію тільки посилань з форуму, а текст на форумі щоб залишився доступний для індексації пошукових систем.

спасибі величезне, вийшло!))

Добрий день. Перевірила сайт на наявність вихідних посилань. Таких виявилося 4 штуки. Підкажіть, будь ласка як можна закрити їх для індексації, якщо я не знаю де саме в тексті коду вони знаходяться?

Ірина, їх потрібно знайти в будь-якому випадку. Ну, або скористатися яким небудь плагіном (хоча не знаючи нічого про сайт складно взагалі щось говорити)

Добрий день.
Чи правильно я зрозумів, що першим кроком треба прописати скрипт такого виду:

А потім з трьох варіантів? Наприклад 2-ий:
створити в закривається директорії файл .htaccess і прописати в ньому запропонований код.
І це все?

Добридень! Другий спосіб працює ще? Якщо немає, то змініть! Цінний матеріал!