Рано или поздно многие веб-мастера обязательно столкнуться с такой проблемой как: исключение ненужных страниц из поисковой системы, которые попали туда либо случайно, либо потеряли свою актуальность, являются дублями других страниц или же попросту содержат информацию, которая конфиденциальна.
Ярким примером для этого возьмем случай с Мегафон, когда совершенно случайно проиндексировались все сообщения пользователей и попали в поисковую систему Яндекс.
Также часто бывают такие ситуации с обычными интернет магазинами, в поисковой системе вы можете найти все на любого пользователя, если сам владелец интернет магазина не очень разбирается в программировании и SEO, то вероятность того, что в поисковых системах буде все о пользователях интернет магазина, возрастает в разы.
Первым способом у нас является способ удаление страницы через административную панель вашего сайта. Таким образом, при обращении к этой странице, будет появляться ошибка 404, что свидетельствует о том, что информация на этой странице просто удалена пользователем.
В этом случае вам остается подождать поискового робота, чтобы он увидел, что страницы нет, после чего он удалит ее из поиска.
Но стоит отметить, что данный процесс удаления страницы является очень длительным, а значит не совсем нам подходит. На данное время популярным способом для удаления страниц из индекса поисковых систем является манипуляция с robots.txt.
Вы можете закрыть от индексации целые разделы или подразделы, которые напрямую не связаны с сайтом. Но это для тех, кто хорошо разбирается в самом сайтостроении.
Самым простым способом исключения определенных страниц из индекса, это панель для веб-мастеров, будь это Яндекс Веб-мастер или Google для веб-мастеров. Заходим в Яндекс и переходим на вкладку удалить урлы, после чего пишем адрес страницы, которую нужно удалить.
С поисковой системой Google также все просто, только кроме того как просто удалить саму страницу, перед удалением нужно поставить галочку, чтобы она также удалилась из кэша, после чего нужные страницы пропадут из поиска.
Очень часто многие люди задаются вопросами, удалил страницу, в итоге она все таки находиться в поисковой системе Google с определенной маркировкой кэш. Переходим в панель Google для веб-мастеров и ставим удалить из кэша определенное количество страниц, через некоторое время поисковая система обновиться и ваших страниц не будет в поиске.