Последние новости

20.05.13 : Яндекс.Острова

01.04.11 : Весенняя подборка модов для phpBB

29.03.11 : Добавление кнопок социальных сетей

20.03.11 : phpBB Showcase

05.02.11 : Цвет ссылок на непрочитанные темы и форумы

Последние файлы

08.03.11 : phpBB 3.0.8 русифицированная версия

15.02.11 : phpBB 3.0.8 Prehack Light

16.05.10 : Перевод мода ModernDignity Flash Animated Cumulus Tag Cloud

16.05.10 : Перевод мода mChat

12.05.10 : Перевод мода th23 Autolinks

Последние статьи

25.10.10 : Модераторы в phpBB 3

17.08.10 : BB-коды в phpBB3

10.09.09 : robots.txt для phpBB3 Olympus

03.08.09 : Установка кода sape на phpBB 3

09.05.09 : Обновление форума phpBB 3.0.x Olympus.

Читать все новости

Смотреть все файлы

Читать все статьи

Актуальные версии

Русифицированные версии phpBB 3.0.8:

Стандартный phpBB 3.0.8
Сборка phpBB 3.0.8
 
RSS / РСС


RSS - международный формат, специально созданный для трансляции данных с одного сайта на другой.
Google SiteMap

robots.txt для phpBB3 Olympus

robots.txt - специальный файл, предназначенный для поисковых машин. В нем указываются параметры индексации для конкретного сайта. Если вы хотите, чтобы ваш форум индексировался правильно, то нельзя упускать из внимания наличие данного файла. Попробую расписать процедуру создания robots.txt, специализированного под форумы phpBB.

Запрет индексации

Для начала нужно запретить индексацию всех служебных страниц, которые не содержат уникального контента и только лишь снижают релевантность форума. Запрет индексации делается при помощи директивы Disallow: с аргументом в виде страницы (или шаблона страниц), которые не нужно индексировать. Служебными страницами в phpBB являются, например ucp.php (Личный раздел), faq.php (FAQ), search.php (Поиск), memberlist.php (Пользователи). Нужный нам код:

Также для phpBB стоит запретить к индексации ссылки на конкретные сообщения. Выглядят они следующим образом - viewtopic.php?p=54#p54. Для этого нам достаточно указать в robots.txt всего одну строку, воспользовавшись * (звездочкой) для указания шаблона:

Можно еще запретить к индексации первые страницы тем, так как ссылка на тему без указания параметра страницы ведет именно на нее, поэтому дополнительно указывать первую страницу в качестве параметра не имеет смысла - получается одинаковый контент по разным ссылкам. Ссылки на первые страницы имеют вид viewtopic.php?f=69&t=724145&start=0. Поэтому для запрета индексации нужно использовать следующий код:

При просмотре каждой темы внизу выводятся 2 ссылки, ведущих на соседние темы - предыдущую и следующую в списке. Для таких ссылок используются параметр view, имеющий соответственно значения view=next и view=previous. Такие ссылки лучше также запретить для индексации:

Указание файла sitemap

Для ускорения индексации новых страниц и переиндексации старых очень помогают файлы sitemap. Встроенного sitemap в phpBB3 на данный момент нет, однако можно поставить один из существующих модов-генераторов sitemap для форума (например, написанный мною Sitemap FX). Если у вас нет sitemap и вы не планируете таковой устанавливать, то можете пропустить этот пункт. Остальным же нужно прописать директиву Sitemap: с указанием пути к файлу sitemap в качестве аргумента:

Можно указывать сразу несколько sitemap, если у вас они сгенерированы в нескольких файлах:

Указание промежутков между обращениями роботов

Иногда бывает так, что робот при индексировании вашего форума создает слишком большую нагрузку на сервер, в результате чего могут быть плохие последствия, например, временное отключение сервера. Чтобы исправить такую ситуацию, введена директива Crawl-delay, устанавливающая тайм-ауты при обращении роботов к сайту. Аргументом этой директивы является время в секундах, чаще которого робот не должен обращаться к сайту (реже - может). Если мы хотим указать тайм-аут, например, 5 секунд, то нужно поместить такой код в наш robots.txt:

Указание динамических параметров из url

В phpBB достаточно давно используются сессии, которые дописываются к ссылкам на форуме в виде параметра sid=. При правильной настройке cookies на форуме, данный параметр в адресе будет всего лишь один раз, затем он запишется в куки. Кроме того, для всех поисковиков, прописанных на форуме в группе «Боты», сессии отключены автоматически. Однако можно перестраховаться, прописав идентификатор сессии как динамический параметр в файле robots.txt - и тогда роботы не будут учитывать его при индексации страниц. Для этого используется директива Clean-param, про которую я уже писал. Аргументов у нее два. Первый аргумент - это собственно сам динамический параметр в url. Второй аргумент - префикс пути страниц, на которых данный параметр может использоваться. Поэтому получаем следующий код для robots.txt:

Указание основного хоста

Для Яндекса также можно указать основной хост сайта. Дело в том, что каждый сайт может быть доступен по нескольким адресам, в качестве примера - phpbbguru.net/ и phpbbhacks.ru/ ведут на один и тот же сайт. Однако в поисковой машине будет учитываться только один адрес, который и будет выводиться в результатах поиска. Директивой Host: с аргументом в виде адреса сайта можно указать поисковой системе рекомендуемый адрес (так как по словам яндекса, данная директива не является решающим фактором при определении основного хоста сайта, однако она имеет большое значение).

И несмотря на то, что практически у всех форумы доступны лишь по одному адресу, я рекомендую не обходить вниманием эту директиву как минимум по двум причинам. Во-первых, с точки зрения Яндекса адреса форума с www. и без него являются разными хостами. Поэтому если вы будете раскручивать свой форум с адресом без www, а в яндексе он индексируется с www., то хорошего будет мало. Во-вторых, некоторые нечестные люди иногда могут сделать склейку вашего форума и своего домена. Они покупают домен и размещают на нем полную копию вашего форума. Поисковая система видит два одинаковых форума с разными адресами, и принимает их за зеркала одного и того же форума. В таком случае велика возможность определения адреса злоумышленника в качестве основного хоста, а тогда все посетители с яндекса будут попадать не на ваш форум, а на копию его.

Пусть наш форум доступен по адресам www.forumadmins.ru и forumadmins.ru. Нам нужно определить в качестве основного хоста адрес без www (лично я советую делать именно так, потому что считаю приставку www всего лишь рудиментом, оставшихся с стародавних времен). Для этого нам нужно прописать директиву Host специально для Яндекса. Важный момент - директива Host должна упоминаться после директивы Disallow:, поэтому понадобится такой код:

Располагать такой код лучше в конце файла robots.txt.

Итоговый вариант robots.txt для phpBB

Учитывая все вышеописанное, можно составить полный вариант файла robots.txt для форума phpBB 3. В качестве примера возьму уже упомянутый forumadmins.ru:

Расположение файла robots.txt

Файл robots.txt должен лежать только в корне сайта/форума. Учитывая, что форумы можно расположить тремя способами - отдельностояще, на поддомене и в директории, нужно соответственно располагать и robots.txt. В случае отдельноящего форума, а также форума на поддомене, файл robots.txt нужно расположить в корне форума (той же папке, где находится файл config.php). Если же форум располагается во вложенной директории сайта, то robots.txt надо расположить в корне сайта, а все аргументы внутри robots.txt прописать в соответствии с путем до них от корня. То есть, если форум находится в папке forum/ (example.com/forum/), то предыдущий пример robots.txt примет следующий вид:

Полезные ссылки по теме:

Страниц: 1
Опубликовано: 10.09.09 | Просмотров: 37273 | [ + ]   [ - ]   | Печать
Рейтинг@Mail.ru
Rambler's Top100
Главная Новости Файлы Статьи Ссылки Контакты Услуги