Вы используете устаревший браузер. Этот и другие сайты могут отображаться в нём некорректно. Вам необходимо обновить браузер или попробовать использовать другой.
Звиняюся, если немного не в тему. Подскажите, а если блокировать robots.txt с помощью .htaccess, т.е. при вызове файла robots.txt из броузера, чтобы например загружалась 404 ошибка или главная страница сайта...
Поисковый робот тоже не сможет прочитать robots.txt в таком случае? или можно както обозначить в mode_rewrite, что если пришел поисковик то позволить ему прочитать файл?
поисковики от пользователей можно отличить по HTTP_USER_AGENT, но подделать этот заголовок не составляет труда, и кому нада тот всёравно увидит содержание robots.txt
На данном сайте используются файлы cookie, чтобы персонализировать контент и сохранить Ваш вход в систему, если Вы зарегистрируетесь.
Продолжая использовать этот сайт, Вы соглашаетесь на использование наших файлов cookie.