robots.txt

В этой метке собраны вопросы по «robots.txt»: от базовых настроек метатегов до индексации, canonical и поисковых роботов. Ответы помогают проверить страницу, найти технические слабые места и не делать лишних SEO-правок.

7 вопросов
6 ответов
6 пользователей

Почему Google ругается на robots.txt?

Google не индексирует сайт, ссылаясь на блокировку в robots.txt. Хотя в robots.txt нет блокировки для индексации. Директивы задавал следующие (а так же много других...

Последний ответ: 6 мая 2026 1 ответ

Проиндексировано, несмотря на блокировку в файле robots.txt, как исправить?

Google такую выдал ошибку. Интересно, что указывает ссылку на страницу авторизации с редиректом: https://basseyn-svoy.ru/wp-login.php?redirect_to=h... Если перейти по ней, то будет страница авторизации. После авторизации...

Последний ответ: 18 марта 2026 1 ответ

При анализе в вебмастере дублируется строка sitemap в файле robots.txt (webflow), что не так?

Здравствуйте, коллеги. Помогите пожалуйста. Сайт на webflow. В админке в файле robots.txt все красиво, но при его проверке в яндекс.вебмастере почему-то появляется дубль строки...

Последний ответ: 18 февраля 2026 1 ответ

Почему google не видит robots.txt?

гугл перестал видит у сайта, сам сайт блокирует иностранные айпи, но проверял на доступность для ip-адресов googlebots, все возвращают 200 ответ, нигде не стоит...

Последний ответ: 6 февраля 2026 1 ответ

Откуда генерятся такие ссылки?

Откуда генерятся такие ссылки? https://pirogibulki.com/sexgeschichten-fuer-maenner-charlottenburg-nuernberg-breitenauer-see-fkk-sex-perfume-dating-geil-abs.php https://pirogibulki.com/machen-lancy-dating-plattform-wien-braunau-fuer-frauen-sybian-leihen-sperma-weit-spritzen-swinger-gi.php Дополнительно: а где вы их нашли? Скорее всего на сайте вирус. У меня было нечто подобное. В аналитике...

Ответов пока нет 0 ответов