Описание наших seo ботов

Описание 

Palgov*Robot - это группа веб-краулеров, разработанных для нашего внутреннего анализа и моментальной реакции на негативные происшествия на сайте нашего клиента или его конкурента. Боты безобидные и созданы для того, чтобы помочь нашим клиентам и нам самим быстро и точно определять проблемы на сайтах наших клиентов, обеспечивая при этом актуальность и точность данных. 

Наши роботы подразделяются по применению, могут сканировать и обрабатывать различные форматы данных, включая текст, изображения и видео, что делает его универсальным инструментом для анализа сайта на предмет ошибок.

Как определить Palgov*Robot Вы можете определить Palgov*Robot по строке User-Agent в логах вашего веб-сервера:
User-Agent: Palgov*Robot/1.0 (+https://palgov.ru/bot)

Настройка robots.txt для Palgov*Robot Чтобы контролировать доступ Palgov*Robot к вашему сайту, вы можете использовать файл robots.txt.

Вот пример настроек:
Разрешить доступ ко всем страницам

User-agent: Palgov*Robot
Allow:

 

Запретить доступ ко всем страницам

User-agent: Palgov*Robot
Disallow: /

Запретить доступ к определенным разделам сайта

User-agent: Palgov*Robot
Disallow: /private/
Disallow: /temp/

Разрешить доступ только к определенным разделам сайта

User-agent: Palgov*Robot 
Disallow: /
Allow: /public/

Часто задаваемые вопросы

Вопрос: Как часто Palgov*Robot обновляет данные?

Ответ: Palgov*Robot регулярно сканирует и обновляет данные, чтобы обеспечить пользователям доступ к самой свежей информации.

Вопрос: Какие сайты индексирует Palgov*Robot?

Ответ: Palgov*Robot индексирует широкий спектр сайтов, включая новостные ресурсы, блоги, образовательные порталы и многие другие.

Вопрос: Как можно запретить индексацию моего сайта Palgov*Robot?

Ответ: Если вы хотите запретить индексацию вашего сайта, вы можете использовать стандартный файл robots.txt с указанием соответствующих директив.

Список наших роботов:

Полное имя робота, включая User-agent Назначение робота Учитывает общие правила, указанные в robots.txt
Mozilla/5.0+(compatible; PalgovBot/1.0; https://palgov.ru/bots) Основной индексирующий робот. И да и нет. Если Ваш сайт является собственностью клиента с кем у нас подписан договор, то бот может игнорировать директивы указанные в robots.txt. Если вас не устраивает то, что наш робот слишком часто посещает Ваш сайт напишите нам, мы исключим его из проверок навсегда.
Mozilla/5.0+(compatible; PalgovSitemapRobot/1.0; https://palgov.ru/bots) Скачивает файлы sitemap.xml и сопоставляет их с тем что нашёл основной бот PalgovBot Он не индексирует сайт. Он по наводке основного бота проверяет наличие карты сайта и её корректность, а так же проверяет доступность каждого url в карте сайта xml.
Mozilla/5.0+(compatible; PalgovUrlStatusRobot/1.0; https://palgov.ru/bots) Скачивает страницы сайта для проверки их доступности Нет. Робот не использует файл robots.txt, поэтому игнорирует директивы, установленные для него.

 

Контактная информация Если у вас есть вопросы или предложения, вы можете связаться с нами по электронной почте: support@Palgov.ru.

Palgov*Robot - роботы для внутреннего пользования SEO специалистами работающими над Вашими сайтами.

Кейсы

Разработка и продвижение сайта игровых приставок и игр ps4, ps5, xbox

смотреть

Контекстная реклама партнёра Альфа страхование

смотреть

Оставьте заявку

Заполните форму и ожидайте звонка в течение 30 минут