Большинство пользователей интернета и не задумывается, заходя на один из сайтов в выдаче, как именно располагаются в ней сайты, почему одни расположены выше, соответственно, выгоднее, другие ниже. Их это не интересует, пользователям нужна качественная информация.
Веб-мастера же тратят очень много времени на оптимизацию сайта, однако, и они не редко забывают, что для попадания на первые места в выдаче необходимо не только оптимизировать сайт, но и сделать так, чтобы поисковый робот яндекса и гугла смог найти и полностью проиндексировать все его страницы.

Причины нахождения сайта на низких позициях в выдаче часто кроются именно в проблемах с индексацией, решать которые нужно своевременно. Причинами таких проблем может стать огромное количество факторов, некоторые из которых мы рассмотрим в этой статье.
Содержание статьи
Что такое индексация?
Прежде чем попасть в выдачу поисковой системы, любая страница находится поисковым роботом, проходит процесс индексации (робот анализирует её код, контент) и сохраняется в базе данных поисковой системы, где вместе с другими страницами схожей тематики ранжируется с целью определения её релевантности определённой группе запросов, эти процессы и называются веб индексацией. Однако, для этого в процессе индексации не должно возникнуть трудностей.
Проблемы возникают, в большинстве случаев, технические, связанные с невозможностью найти страницу по ссылкам или же с невозможностью проиндексировать её контент. Такие проблемы возникают, как правило, по вине самих вебмастеров.
Ниже мы рассмотрим 5 самых распространённых из них, а также пути их решения.
1. Навигация.
Робот поисковой системы перемещается между сайтами и по сайту посредством ссылок, чем их больше — тем лучше. На каждую страницу должны вести несколько ссылок, чем их больше — тем меньше шанс того, что поисковый робот не найдёт страницу. Кроме того, важно, чтобы любая страница сайта была доступно всего за 1-2, максимум 3 клика от главной страницы, иначе поисковый робот может просто «не дойти» до неё. Ещё одно ограничение — использование меню на flash и скриптах. Намного лучше, если во всех меню используются обычные гиперссылки, если это не так, то все элементы меню лучше продублировать с использованием обычных ссылок. Не забывайте про проведение перелинковки: это не только поможет оптимизировать сайт, но и улучшит индексацию.
2. Хостинг.
В значительном проценте случаев причиной плохой индексации сайта становится некачественный хостинг, который не может обеспечить стабильное функционирование сайта, которое необходимо для нормального посещения поискового робота, который, к слову, порядочно этот хостинг нагружает.

Таким образом, при плохом хостинге поисковый робот может просто не войти на сайт, и тогда он останется не проиндексированным. Поменять хостинг для сайта никогда не поздно, но лучше сразу выбирать хороший, так как такая смена не пройдёт для сайта безболезненно и скажется на его позициях в выдаче.
3. Ошибки в коде.
Технические проблемы с индексацией часто возникают из-за ошибок в html-коде страницы. Такие ошибки особенно характерны для «самописных» сайтов, так как в современных CMS их вероятность сведена к минимуму. Проверить на наличие ошибок любую страницу можно посредством специального онлайн сервиса, который не только найдёт все ошибки кода, но и проверит его на соответствие современным стандартам. Самой распространенной ошибкой являются ошибки в файле robots txt, где начинающие вебмастера могут закрыть страницы сайта от индексации роботами поисковых систем, а то и вовсе запретить ее.
4. Ссылки.
Встречая по мере индексации контента ссылку, поисковый робот по ней переходит. Чрезмерное количество ссылок ведёт к тому, что робот не может проиндексировать страницу. Использование на одной странице большого количества ссылок вредно и сточки зрения оптимизации, они отдают слишком много веса поэтому лучше ввести ограничение на их количество и строго его придерживаться. К слову, мы зачастую сами не подозреваем, сколько ссылок ведёт с одной страницы нашего сайта, ведь многие из них спрятаны, встроены в виджеты и шаблоны. В интернете имеется масса специализированых сервисов, с помощью которых можно проверить сайт и любую его страницу на наличие внешних ссылок. Лишние ссылки необходимо удалить.
5. Чрезмерное количество ключевых слов.
Эту проблему нельзя отнести к техническим, но дабы не выделять её, оставим в этом списке наравне с прочими и такие причины плохой индексации могут быть неочевидными для владельца. Поисковые системы борются с искусственными методами оптимизации, к коим относится и чрезмерная частота ключевых слов в итоге страницы с её признаками часто занижаются в выдаче или не индексируются вовсе. Не нужно пытаться обмануть поисковую систему такими методами, времена, когда они работали, давно прошли. Если все вышеперечисленные проблемы решены, а проблемы с индексацией никуда не делись, необходимо обратиться в службу поддержки поисковой системы. Случается и так, что техническая проблема возникает на её стороне. Но это редкость. Также, если у вас не возникало проблем с индексацией, но есть потенциальные проблемы из тех, которые описаны выше, лучше решить их заранее, не дожидаясь момента, когда начнутся трудности с индексацией.