Najlepsze sposoby na powstrzymanie wyszukiwarek przed indeksowaniem witryny WordPress

Opublikowany: 2023-01-27

Co to jest indeksowanie w wyszukiwarkach?

Indeksowanie w wyszukiwarkach to proces, w ramach którego wyszukiwarki, takie jak Google, Bing lub Yahoo, odkrywają strony internetowe i dodają je do swoich baz danych. Te bazy danych są następnie wykorzystywane do zasilania wyników wyszukiwania, gdy użytkownik wprowadza zapytanie do wyszukiwarki.

Kiedy wyszukiwarka przeszukuje sieć, podąża za linkami z jednej strony do drugiej i indeksuje zawartość każdej napotkanej strony. Indeksując stronę, przetwarza treść, aby zrozumieć, o czym jest strona i jak powinna być klasyfikowana w wynikach wyszukiwania. Ten proces jest znany jako „ indeksowanie ” lub „ przeszukiwanie i indeksowanie ”.

Gdy wyszukiwarka indeksuje stronę, bierze pod uwagę różne czynniki, takie jak tekst na stronie, obrazy i filmy na stronie, struktura kodu HTML oraz linki prowadzące do strony. Wykorzystuje te informacje do określenia trafności i autorytetu strony oraz sposobu, w jaki powinna być klasyfikowana w wynikach wyszukiwania.

Indeksowanie w wyszukiwarkach to proces ciągły, ponieważ wyszukiwarki stale aktualizują swoje bazy danych, aby mieć pewność, że zawierają najbardziej aktualne informacje. Jest to ważne, ponieważ sieć ciągle się zmienia, powstają nowe strony, a stare są aktualizowane lub usuwane.

Jednym z kluczowych czynników poprawiających ranking witryny w wynikach wyszukiwania jest optymalizacja stron pod kątem wyszukiwarek za pomocą technik zwanych optymalizacją pod kątem wyszukiwarek (SEO). Optymalizując strony pod kątem wyszukiwarek, możesz zwiększyć prawdopodobieństwo, że Twoje strony będą indeksowane i będą zajmować wyższą pozycję w wynikach wyszukiwania.

Po co powstrzymywać wyszukiwarki przed indeksowaniem witryny WordPress?

Może istnieć kilka powodów, dla których ktoś chciałby powstrzymać wyszukiwarki przed indeksowaniem witryny WordPress. Oto kilka możliwych przyczyn:

  1. Tworzenie i testowanie : jeśli witryna jest w fazie tworzenia lub testowania, może nie być gotowa do użytku publicznego. W takim przypadku właściciel witryny może chcieć uniemożliwić wyszukiwarkom indeksowanie witryny, dopóki nie będzie ona gotowa do uruchomienia.
  2. Prywatność i bezpieczeństwo : niektóre strony internetowe mogą zawierać poufne informacje, które nie powinny być publicznie dostępne. W takim przypadku właściciel witryny może chcieć uniemożliwić wyszukiwarkom indeksowanie witryny w celu ochrony prywatności i bezpieczeństwa informacji.
  3. Zarządzanie ruchem : niektóre strony internetowe mogą mieć ograniczoną ilość dostępnych zasobów, takich jak przepustowość lub pojemność serwera. W takim przypadku właściciel witryny może chcieć uniemożliwić wyszukiwarkom przeszukiwanie witryny w celu oszczędzania zasobów i zarządzania ruchem.
  4. Zduplikowana treść : jeśli witryna działa w wielu domenach, może to powodować problemy z powielaniem treści, co może negatywnie wpłynąć na optymalizację pod kątem wyszukiwarek. W takim przypadku właściciel witryny może chcieć uniemożliwić wyszukiwarkom przeszukiwanie zduplikowanej witryny, aby uniknąć tego problemu.
  5. Tryb konserwacji : podczas konserwacji witryny właściciele witryn mogą chcieć uniemożliwić wyszukiwarkom indeksowanie witryny, aby uniknąć zwracania błędu 404 do odwiedzających.
  6. Witryna przejściowa : jeśli właściciel witryny chce przetestować nowe zmiany lub aktualizacje w witrynie przejściowej przed opublikowaniem zmian w aktywnej witrynie, może chcieć uniemożliwić wyszukiwarkom indeksowanie witryny przejściowej, aby uniknąć nieporozumień lub problemów z wyszukiwaniem w aktywnej witrynie ranking silników.

Warto zauważyć, że chociaż można uniemożliwić wyszukiwarkom indeksowanie witryny WordPress, nie jest to zalecane przez długi czas. Widoczność w wyszukiwarkach jest ważna dla kierowania ruchu do witryny, a aktualizowanie jej poprzez indeksowanie ma kluczowe znaczenie dla optymalizacji wyszukiwarek.

Sposoby powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress

Istnieje kilka metod, których można użyć, aby powstrzymać wyszukiwarki przed indeksowaniem witryny WordPress:

  1. Korzystanie z wtyczki : Istnieje kilka wtyczek WordPress, takich jak Yoast SEO lub All in One SEO Pack, które umożliwiają dodanie metatagu „noindex” do stron. Mówi to wyszukiwarkom, aby nie indeksowały strony, skutecznie uniemożliwiając im indeksowanie witryny.
  2. Używanie pliku robots.txt : plik robots.txt znajduje się w katalogu głównym witryny i informuje wyszukiwarki, których stron lub sekcji witryny nie powinny indeksować. Możesz użyć pliku robots.txt, aby uniemożliwić wyszukiwarkom indeksowanie całej witryny lub tylko określonych stron lub sekcji.
  3. Używanie pliku .htaccess : Plik .htaccess to plik konfiguracyjny serwera WWW Apache, który jest używany przez wielu dostawców usług hostingowych. Możesz użyć pliku .htaccess, aby uniemożliwić wyszukiwarkom indeksowanie Twojej witryny, dodając kilka wierszy kodu.
  4. Ochrona hasłem : Hasło chroniące Twoją witrynę za pomocą wtyczki lub wbudowanej funkcji dostawcy usług hostingowych może również uniemożliwić wyszukiwarkom indeksowanie Twojej witryny, ponieważ nie będą one mogły uzyskać dostępu do chronionych stron.
  5. Tryb konserwacji : WordPress ma wbudowaną funkcję trybu konserwacji, którą można aktywować za pomocą pliku wp-config.php. Spowoduje to wyświetlenie strony konserwacji dla odwiedzających i uniemożliwi wyszukiwarkom indeksowanie witryny podczas konserwacji.
  6. Witryna przejściowa: wielu dostawców usług hostingowych oferuje funkcję przejściową, która umożliwia utworzenie kopii działającej witryny do testowania i rozwoju. Wyszukiwarki nie będą mogły zaindeksować witryny testowej, ponieważ zwykle nie można jej zaindeksować.

Rzućmy okiem na wszystkie metody z kilkoma szczegółami.

# 1. Korzystanie z wtyczki

Używanie wtyczki do powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress jest popularną metodą, ponieważ jest stosunkowo łatwa w konfiguracji i nie wymaga żadnej wiedzy technicznej. Dostępnych jest kilka wtyczek WordPress, które umożliwiają dodanie metatagu „noindex” do stron, na przykład Yoast SEO lub All in One SEO Pack.

To Stop Search Engines From Crawling use yoast plugin
Opcja „Brak indeksu” w Yoast SEO

Kiedy używasz wtyczki do dodania metatagu „noindex”, mówi ona wyszukiwarkom, aby nie indeksowały strony, skutecznie uniemożliwiając im indeksowanie witryny. Oznacza to, że strona nie pojawi się w wynikach wyszukiwania, a wyszukiwarka nie wyda zasobów na jej indeksowanie.

Aby użyć wtyczki do powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress, musisz najpierw zainstalować i aktywować wtyczkę. Po aktywacji wtyczki zazwyczaj będziesz mieć dostęp do ustawień wtyczki z pulpitu nawigacyjnego WordPress. Stamtąd możesz wybrać strony lub posty, których indeksowanie chcesz uniemożliwić wyszukiwarkom, i dodać do nich metatag „noindex”.

To Stop Search Engines, no-index-in-all-in-one-seo

Warto zauważyć, że niektóre wtyczki umożliwiają również dodawanie metatagów „nofollow”, które informują wyszukiwarki, aby nie podążały za linkami na stronie. Może to być przydatne, jeśli chcesz uniemożliwić wyszukiwarkom indeksowanie Twojej witryny, ale nadal chcesz umożliwić użytkownikom dostęp do strony.

Ponadto niektóre wtyczki mogą również umożliwiać blokowanie wyszukiwarkom indeksowania niektórych sekcji witryny lub całej witryny przez dodanie metatagu „noindex” do odpowiednich sekcji lub stron.

Należy pamiętać, że użycie wtyczki do zatrzymania indeksowania witryny WordPress przez wyszukiwarki jest rozwiązaniem tymczasowym i nie powinno być używane przez długi czas, ponieważ wpłynie to na widoczność i ruch w witrynie. Jeśli chcesz wprowadzić zmiany w swojej witrynie, możesz zamiast tego skorzystać z trybu konserwacji lub strony testowej.

#2. Korzystanie z pliku robots.txt

Używanie pliku robots.txt do powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress jest metodą opartą na standardzie dla robotów internetowych (znanych również jako „roboty” lub „pająki”). Plik robots.txt to plik, który znajduje się w katalogu głównym witryny i informuje wyszukiwarki, które strony lub sekcje witryny nie powinny indeksować. Tworząc i przesyłając plik robots.txt do swojej witryny, możesz uniemożliwić wyszukiwarkom indeksowanie niektórych stron lub sekcji witryny.

Aby utworzyć plik robots.txt, możesz użyć prostego edytora tekstu, takiego jak Notatnik lub TextEdit. Plik powinien zaczynać się od wiersza agenta użytkownika, który mówi wyszukiwarkom, który robot powinien zostać zablokowany. Na przykład, aby zablokować wszystkie wyszukiwarki, użyjesz „User-agent: *”.

Następnie możesz określić, które strony lub sekcje witryny chcesz zablokować. Odbywa się to za pomocą dyrektywy „Disallow”, po której następuje adres URL strony lub sekcji, którą chcesz zablokować. Na przykład, aby zablokować określoną stronę, użyjesz „Nie zezwalaj: /strona-do-blokowania/”. Aby zablokować cały katalog, użyjesz „Disallow: /directory-to-block/”.

Po utworzeniu pliku robots.txt musisz przesłać go do katalogu głównego swojej witryny. Lokalizacja katalogu głównego zależy od dostawcy usług hostingowych, ale zwykle jest to ten sam katalog, co strona główna.

Warto zauważyć, że chociaż plik robots.txt może uniemożliwić wyszukiwarkom indeksowanie Twojej witryny, nie jest to niezawodna metoda, ponieważ niektóre roboty mogą zignorować ten plik. Ponadto należy pamiętać, że plik robots.txt nie uniemożliwi wyszukiwarkom informacji o istnieniu witryny.

Pamiętaj też, że jeśli zablokujesz całą witrynę za pomocą pliku robots.txt, uniemożliwi to jej indeksowanie i wyświetlanie w wynikach wyszukiwania, a tym samym ruch w witrynie nie będzie generowany przez wyszukiwarki.

Warto również zauważyć, że możesz sprawdzić plik robots.txt dowolnej witryny, odwiedzając adres URL „ https://www.example.com/robots.txt ” i zastępując „example.com” nazwą domeny dowolnej witryny.

#3. Korzystanie z pliku .htaccess

Używanie pliku .htaccess do powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress to metoda polegająca na edycji pliku .htaccess na serwerze w celu dodania określonych reguł, które zablokują wyszukiwarkom indeksowanie niektórych stron lub sekcji witryny. Plik .htaccess to plik konfiguracyjny, który znajduje się w katalogu głównym Twojej witryny i kontroluje różne aspekty zachowania Twojej witryny, w tym przekierowania, bezpieczeństwo i kontrolę dostępu.

Oto przykład, w jaki sposób można użyć pliku .htaccess do zablokowania wyszukiwarkom indeksowania określonej strony w witrynie WordPress:

  1. Uzyskaj dostęp do katalogu głównego swojej witryny za pośrednictwem FTP lub menedżera plików w panelu sterowania hostingu.
  2. Poszukaj pliku .htaccess, jeśli nie istnieje, możesz utworzyć nowy plik o tej samej nazwie.
  3. Otwórz plik .htaccess w edytorze tekstu, takim jak Notatnik lub TextEdit.
  4. Dodaj następujący kod na końcu pliku:
 <IfModule mod_rewrite.c> RewriteEngine On RewriteCond %{HTTP_USER_AGENT} (googlebot|bingbot|yahoo) [NC] RewriteRule ^page-to-block/$ - [R=404,L] </IfModule>

Ten kod zablokuje wszystkim głównym wyszukiwarkom indeksowanie strony z adresem URL „page-to-block”. Możesz zmienić adres URL, aby pasował do konkretnej strony, którą chcesz zablokować.

  1. Zapisz plik .htaccess i prześlij go z powrotem na serwer.

Warto zauważyć, że ta metoda zapobiegnie indeksowaniu określonych stron przez wyszukiwarki, ale nie zapobiegnie informowaniu wyszukiwarek o istnieniu tych stron. Ponadto metoda ta opiera się na założeniu, że roboty wyszukiwarek będą przestrzegać zasad określonych w pliku .htaccess, co nie zawsze ma miejsce.

Należy również zachować ostrożność podczas edytowania pliku .htaccess, ponieważ błąd w kodzie może spowodować, że witryna stanie się niedostępna. Zaleca się wykonanie kopii zapasowej oryginalnego pliku .htaccess przed wprowadzeniem jakichkolwiek zmian.

#4. Ochrona hasła

Korzystanie z ochrony hasłem w celu powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress to metoda polegająca na dodaniu hasła do niektórych stron lub sekcji witryny. Oznacza to, że tylko użytkownicy znający hasło będą mogli uzyskać dostęp do chronionych stron, a wyszukiwarki nie będą mogły ich indeksować.

Istnieje kilka sposobów ochrony hasłem stron lub sekcji witryny WordPress:

  1. Korzystanie z wtyczki : Dostępnych jest kilka wtyczek WordPress, które umożliwiają ochronę hasłem stron lub sekcji witryny, takich jak kategorie chronione hasłem lub kategorie chronione hasłem. Wtyczki te umożliwiają ustawienie hasła dla określonej strony lub postu lub dla całej kategorii.
  2. Korzystanie z pliku .htaccess : Możesz użyć pliku .htaccess do ochrony hasłem określonego katalogu w swojej witrynie. Ta metoda jest nieco bardziej techniczna, ponieważ wymaga edycji pliku .htaccess na serwerze, ale może być przydatna, jeśli chcesz zabezpieczyć hasłem cały katalog, a nie tylko jedną stronę lub post.
  3. Korzystanie z cPanel : Niektórzy dostawcy usług hostingowych zapewniają również sposób na zabezpieczenie hasłem katalogu w cPanel. Ta metoda może być przydatna, jeśli chcesz zabezpieczyć hasłem cały katalog i nie znasz edycji pliku .htaccess.

Po zabezpieczeniu hasłem strony lub sekcji witryny wyszukiwarki nie będą mogły jej zaindeksować. Warto jednak zauważyć, że ta metoda nie sprawi, że wyszukiwarki nie będą świadome istnienia strony. Ponadto należy pamiętać, że hasło chroniące stronę lub sekcję witryny również uniemożliwi użytkownikom dostęp do niej, dlatego należy go używać tylko w przypadku stron lub sekcji, które nie są ważne dla widoczności lub ruchu w witrynie.

Ponadto stosowanie ochrony hasłem nie jest rozwiązaniem długoterminowym, powinieneś używać tej metody tylko wtedy, gdy masz tymczasową potrzebę zablokowania dostępu do swojej witryny lub określonej jej części, na przykład podczas konserwacji lub testowania.

#5. Tryb konserwacji

WordPress ma wbudowaną funkcję trybu konserwacji, która umożliwia tymczasowe wyłączenie witryny na czas przeprowadzania aktualizacji, konserwacji lub wprowadzania zmian. Ta funkcja jest zwykle używana do wyświetlania odwiedzającym strony „Wkrótce” lub „Tryb konserwacji”, przy jednoczesnym umożliwieniu Tobie i innym zalogowanym użytkownikom dostępu do witryny.

Aby aktywować wbudowany tryb konserwacji w WordPress, możesz wykonać następujące kroki:

  1. Przejdź do pulpitu nawigacyjnego WordPress i przejdź do menu „Ustawienia”.
  2. Wybierz opcję „Tryb konserwacji”.
  3. Zaznacz pole wyboru „Włącz tryb konserwacji”.
  4. Kliknij przycisk „Zapisz zmiany”.

Po włączeniu trybu konserwacji odwiedzający zobaczą stronę „Już wkrótce” lub „Tryb konserwacji”, podczas gdy Ty i inni zalogowani użytkownicy będziecie mieli pełny dostęp do witryny. Zablokuje to również wyszukiwarkom indeksowanie witryny, gdy jest ona w trybie konserwacji.

Możesz także zainstalować wtyczkę, taką jak „Coming Soon Page & Maintenance Mode by SeedProd”, która pozwala dostosować nadchodzącą stronę, a także pozwala blokować wyszukiwarkom indeksowanie witryny, gdy jest ona w trybie konserwacji.

#6 .Miejsce postojowe

Witryna przejściowa to duplikat lub replika działającej witryny internetowej, która jest używana do celów testowych i programistycznych. Umożliwia wprowadzanie zmian i testowanie nowych funkcji w Twojej witrynie bez wpływu na wersję na żywo. Może to być bardzo przydatne, gdy chcesz zaktualizować witrynę lub wprowadzić poważne zmiany, ale nie chcesz, aby odwiedzający lub wyszukiwarki widzieli witrynę w trakcie jej tworzenia.

Wielu dostawców usług hostingowych oferuje funkcję przejściową, która umożliwia utworzenie kopii działającej witryny za pomocą kilku kliknięć. Zwykle obejmuje to utworzenie oddzielnej subdomeny lub podkatalogu w domenie głównej, w którym można uzyskać dostęp do witryny testowej. Proces tworzenia witryny testowej może się różnić w zależności od dostawcy usług hostingowych, ale zwykle obejmuje kilka prostych kroków, takich jak:

  1. Zaloguj się do swojego konta hostingowego.
  2. Przejdź do panelu sterowania hostingu lub cPanelu
  3. Poszukaj sekcji „Staging” lub „Development”.
  4. Wybierz swoją witrynę z listy witryn na swoim koncie hostingowym.
  5. Kliknij przycisk „Utwórz witrynę przejściową”.

Po utworzeniu witryny testowej będziesz mieć do niej dostęp przy użyciu innego adresu URL niż witryna aktywna, na przykład „staging.twojadomena.com”. Następnie możesz wprowadzać zmiany i testować nowe funkcje w witrynie testowej bez wpływu na wersję na żywo.

Należy pamiętać, że wyszukiwarki nie będą mogły przeszukiwać witryny testowej, ponieważ zwykle nie można jej zaindeksować. Oznacza to, że strona pomostowa nie będzie widoczna dla wyszukiwarek i nie wpłynie na SEO działającej witryny. Możesz również zablokować wyszukiwarkom możliwość indeksowania witryny za pomocą pliku robots.txt lub wtyczki do zarządzania dostępem do Twojej witryny, takiej jak „Wkrótce strona i tryb konserwacji firmy SeedProd” lub „WordPress SEO firmy Yoast”, dzięki czemu wyszukiwarki nie mogą uzyskać dostępu do witryny, gdy jest ona w fazie rozwoju.

Po zakończeniu wprowadzania zmian i testowania w witrynie testowej można następnie wypchnąć zmiany do działającej witryny. Można to zrobić, używając tej samej wtyczki, której użyłeś do utworzenia witryny testowej, lub ręcznie przesyłając zmiany do działającej witryny.

Witryna pomostowa to replika działającej witryny, używana do testowania i opracowywania zmian w bezpiecznym środowisku, może służyć do blokowania indeksowania witryny przez wyszukiwarki i umożliwia testowanie zmian przed ich opublikowaniem. Wielu dostawców usług hostingowych oferuje tę funkcję jako wbudowaną usługę.

Podsumowanie

Podsumowując, istnieje kilka metod, których można użyć do powstrzymania wyszukiwarek przed indeksowaniem witryny WordPress, z których każda ma swoje zalety i ograniczenia. Metody te obejmują korzystanie z wbudowanego trybu konserwacji, pliku robots.txt, wtyczek i tworzenie witryny przejściowej. Każdą z tych metod można wykorzystać do osiągnięcia różnych celów, takich jak ochrona prywatności i bezpieczeństwa poufnych informacji, zarządzanie ruchem i zasobami, unikanie problemów z powielaniem treści oraz testowanie nowych zmian lub aktualizacji przed opublikowaniem ich w działającej witrynie. Bardzo ważne jest, aby wybrać odpowiednią metodę, która najlepiej odpowiada Twoim potrzebom, i upewnić się, że Twoja witryna jest odpowiednio skonfigurowana, aby uniemożliwić jej indeksowanie przez wyszukiwarki.