Нужна консультация по валидности robots.txt - Visavi.net https://visavi.net/ RSS - Visavi.net https://visavi.net/assets/img/images/logo_small.png RSS - Visavi.net https://visavi.net/ [email protected] (admin) [email protected] (admin) Sat, 20 Apr 2024 13:11:54 +0300 4. <strong>FaZaHaK</strong>, для очистки параметров посмотри директиву Clean-param, там все просто описано. https://visavi.net/topics/42613/685882 Нужна консультация по валидности robots.txt Антон Mon, 31 Aug 2015 16:14:57 +0300 Сообщения https://visavi.net/topics/42613/685882 2. <strong>WmLiM</strong>, это хорошо, спасибо<br> а насчет Allow: /id* - нет, все ссылки начинающиеся с /id не надо индексировать, а только /id* и /id*?to=1, т.е все другие get параметры - не индексировать https://visavi.net/topics/42613/685881 Нужна консультация по валидности robots.txt Алексей Mon, 31 Aug 2015 14:40:09 +0300 Сообщения https://visavi.net/topics/42613/685881 1. <strong>FaZaHaK</strong>, а так все верно у тебя. https://visavi.net/topics/42613/685878 Нужна консультация по валидности robots.txt Антон Mon, 31 Aug 2015 14:01:46 +0300 Сообщения https://visavi.net/topics/42613/685878 1. <strong>FaZaHaK</strong>, сори, поторопился, удалено.<br> <br> Единственное что лишние &amp;to=1 в строчке<br> Allow: /id*?to=1<br> Можно написать так Allow: /id* и все ссылки начинающиеся с /id будут индексироваться, если конечно не требуются запретить какие то ссылки начинающиеся так же с /id, но имеющие другие параметры типа /id238764?from=panel<br> <br> <em><span style="font-size:x-small">Добавлено через 00:56 сек.</span></em><br> 1. <strong>FaZaHaK</strong>, почитать про robots.txt можно здесь<br> <a href="https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml" target="_blank" rel="nofollow">https://yandex.ru/support/webmaster/controlling-robot/robots-txt.xml</a> https://visavi.net/topics/42613/685877 Нужна консультация по валидности robots.txt Антон Mon, 31 Aug 2015 13:49:02 +0300 Сообщения https://visavi.net/topics/42613/685877 В общем тема такая:<br> нужно разрешить индексировать только главную страницу и ссылки: /auth, /reg<br> так-же нужно разрешить индексировать ссылки (вместо 123 - любое число): /id123 и /id123?to=1<br> а все остальное запретить индексировать<br> я собственно написал условия для робота, но не уверен что все в нем верно...<br> собственно само условие выглядит так:<br> User-agent: *<br> Allow: /$<br> Allow: /auth$<br> Allow: /reg$<br> Allow: /id$<br> Allow: /id*?to=1<br> Disallow: /<br> подскажите, верно ли я его составил для своего условия? и если есть ошибки, то прошу поправить меня https://visavi.net/topics/42613/685875 Нужна консультация по валидности robots.txt Алексей Mon, 31 Aug 2015 13:32:21 +0300 Сообщения https://visavi.net/topics/42613/685875